CITER: 토큰 단위 라우팅으로 대규모 언어 모델의 효율성 극대화

CITER는 SLM과 LLM의 협업을 통해 LLM의 높은 추론 비용 문제를 해결하는 혁신적인 프레임워크입니다. 토큰 단위 라우팅과 보상 기반 학습을 통해 추론 비용 감소와 고품질 생성을 동시에 달성, 실시간 및 자원 제약 환경에서의 LLM 활용 가능성을 크게 높였습니다.

AI 학계의 쾌거! CITER, 대규모 언어 모델의 효율성 혁신

최근 괄목할 만한 성과를 거둔 대규모 언어 모델(LLM)은 그 강력한 성능에도 불구하고, 추론 과정에서 높은 계산 비용이라는 난관에 직면해 있습니다. 이는 자원 제약이 있는 환경에서의 LLM 활용을 제한하는 큰 걸림돌이었습니다. 하지만 이제, 중국과 미국 연구진으로 구성된 연구팀이 혁신적인 해결책을 제시했습니다! 바로 CITER(Collaborative Inference with Token-Level Routing) 프레임워크입니다.

CITER는 작은 언어 모델(SLM)과 LLM을 토큰 단위 라우팅 전략을 통해 효율적으로 협업시키는 획기적인 시스템입니다. 핵심 아이디어는 중요하지 않은 토큰은 SLM으로, 중요한 토큰은 LLM로 라우팅하여 계산 비용을 절감하면서 동시에 높은 생성 품질을 유지하는 것입니다. 이를 위해 연구팀은 정책 최적화라는 기법을 활용하여 라우터를 학습시켰습니다. 라우터는 예측의 질과 생성의 추론 비용을 모두 고려하여 보상을 받고, 이를 통해 토큰 단위 라우팅 점수를 예측하고 의사결정을 내리는 능력을 향상시킵니다.

더욱 효율적인 학습을 위해 연구팀은 보상 평가 과정을 단축하는 지름길 기법을 개발했습니다. 이 기법은 보상 추정 비용을 크게 줄여 CITER의 실용성을 높이는 데 크게 기여했습니다.

다섯 개의 벤치마크 데이터셋을 이용한 실험 결과는 CITER의 놀라운 성능을 입증합니다. CITER는 추론 비용을 현저히 줄이면서 동시에 높은 수준의 생성 품질을 유지하는 놀라운 성과를 보여주었습니다. 이는 실시간 응용 및 자원 제약 환경에서의 LLM 활용에 새로운 가능성을 제시하는 획기적인 결과입니다.

Wenhao Zheng, Yixiao Chen, Weitong Zhang, Souvik Kundu, Yun Li, Zhengzhong Liu, Eric P. Xing, Hongyi Wang, Huaxiu Yao 등 저명한 연구자들이 참여한 이 연구는 GitHub(https://github.com/aiming-lab/CITER) 에서 코드와 데이터를 공개하여 학계의 발전에 기여하고 있습니다. CITER는 LLM의 효율성을 극대화하는 혁신적인 기술로, 앞으로 AI 분야의 발전에 중요한 역할을 할 것으로 기대됩니다.