90%의 세계 인구를 위한 다국어 거대 언어 모델, Babel 등장!

90% 이상의 세계 인구를 위한 다국어 거대 언어 모델 Babel이 등장했습니다. 저자원 언어를 포함한 다양한 언어 지원과 계층 확장 기법을 통한 뛰어난 성능으로 오픈소스 LLM의 새로운 기준을 제시합니다.

세계는 하나로 연결되고 있지만, 언어의 장벽은 여전히 높습니다. 하지만 이제 인공지능이 그 장벽을 허물고 있습니다! Zhao Yiran 등 연구진이 개발한 Babel이라는 혁신적인 다국어 거대 언어 모델(LLM)이 바로 그 주인공입니다.

Babel은 단순한 LLM이 아닙니다. 무려 90% 이상의 세계 인구가 사용하는 언어를 지원하는 획기적인 모델입니다. 기존의 LLM들이 영어, 중국어 등 자원이 풍부한 언어에 집중했던 것과 달리, Babel은 저자원 언어까지 포함하여 25개 이상의 언어를 지원함으로써, 진정한 의미의 ‘포용적’ AI 시대를 열어가고 있습니다. 이는 전 세계 사람들이 AI의 혜택을 더욱 고르게 누릴 수 있게 한다는 점에서 매우 중요한 의미를 지닙니다.

Babel의 놀라운 성능은 어디에서 나올까요? 연구진은 기존의 지속적 사전 훈련 방식 대신 계층 확장 기법을 사용했습니다. 이는 Babel의 성능 향상에 크게 기여했으며, 매개변수 수를 효율적으로 늘려 성능 상한선을 높이는 데 성공했습니다. Babel은 크게 두 가지 변형 모델로 제공됩니다. Babel-9B는 추론과 미세 조정에 효율적인 경량 모델이며, Babel-83B는 오픈소스 다국어 LLM 중 최고 수준의 성능을 자랑합니다.

실제 성능은 어떨까요? 다양한 다국어 과제에서 Babel은 기존 오픈소스 LLM들을 압도하는 성능을 보여주었습니다. 특히, 오픈소스 기반의 지도 학습 미세 조정 데이터셋을 사용한 Babel-9B-Chat은 100억 매개변수 규모의 LLM 중 최고 성능을 기록했고, Babel-83B-Chat은 상용 모델과 동등한 수준의 놀라운 성능을 달성했습니다.

Babel의 등장은 다국어 자연어 처리 분야에 새로운 이정표를 세웠습니다. 이제 더 많은 사람들이 자신의 모국어로 AI 기술을 이용할 수 있게 되었고, 이는 전 세계의 다양한 문화와 지식이 더욱 풍부하게 교류될 수 있는 기반을 마련할 것입니다. Babel의 미래가 기대됩니다!