힌디어와 영어 모두 정복! 개방형 소스 LLM의 수학적 추론 능력 향상 연구
인도 연구진이 개방형 소스 LLM의 수학적 추론 능력 향상에 성공, 특히 힌디어와 영어에서 뛰어난 성능을 보였으며, 커리큘럼 학습, 분해 전략 등의 혁신적인 방법론을 활용했습니다. 이는 AI의 다양한 언어 지원 확대에 중요한 발걸음이 될 것으로 기대됩니다.

힌디어와 영어, 두 마리 토끼를 잡다: AI 수학 문제 해결 능력의 진화
인도의 연구진(Avinash Anand, Kritarth Prasad 외)이 발표한 최근 연구는 인공지능(AI) 분야에 큰 반향을 일으키고 있습니다. 바로, 개방형 소스 대규모 언어 모델(LLM) 의 수학적 추론 능력을 향상시키는 데 성공했기 때문입니다. 특히, 영어뿐 아니라 힌디어와 같은 비영어권 언어에서도 뛰어난 성능을 보였다는 점이 주목할 만합니다.
기존의 LLM들은 언어 관련 작업에서는 뛰어난 성능을 보이지만, 수학적 추론에는 어려움을 겪었습니다. 특히, 힌디어와 같은 비영어권 언어에서는 더욱 그랬습니다. 하지만 이번 연구는 OpenHathi 7B, LLaMA-2 7B, WizardMath 7B 등 다양한 개방형 소스 LLM을 대상으로, 제로샷, 퓨샷 체인오브스토리(CoT) 방법과 지도 학습 방식을 활용하여 수학적 추론 능력을 향상시키는 데 성공했습니다.
연구진은 단순히 모델을 훈련시키는 것을 넘어, 몇 가지 혁신적인 방법들을 도입했습니다. 그중 하나가 바로 커리큘럼 학습입니다. 이는 점진적으로 문제의 난이도를 높여가며 모델을 훈련시키는 방법으로, 모델의 학습 효율을 높이는 데 기여했습니다. 또한, 복잡한 산술 연산을 단순화하는 분해 전략과, 문제 해결 과정을 단계적으로 나누는 구조적 해결책 설계를 통해 모델의 정확도를 높였습니다.
실험 결과는 놀라웠습니다. WizardMath 7B 모델은 영어 데이터셋에서 Gemini 모델보다 정확도가 6% 이상 높았으며, 힌디어 데이터셋에서는 Gemini와 동등한 수준의 성능을 보였습니다. 더욱 흥미로운 점은, 영어와 힌디어 데이터를 함께 사용한 이중 언어 접근 방식이 각 언어별 모델과 비슷한 성능을 달성했다는 것입니다. 이는 LLM이 여러 언어에서 수학적 추론 능력을 동시에 학습할 수 있음을 보여주는 중요한 결과입니다.
이 연구는 개방형 소스 LLM의 수학적 추론 능력 향상에 대한 가능성을 제시하며, 향후 AI 발전에 큰 영향을 미칠 것으로 예상됩니다. 특히, 비영어권 언어 지원의 중요성이 강조되는 현 시대에, 이 연구는 AI의 다양한 언어 지원 확대에 중요한 기여를 할 것으로 기대됩니다. 앞으로 더욱 발전된 AI 기술을 통해, 수학 교육 및 여러 분야에서 AI가 더욱 폭넓게 활용될 수 있기를 기대해 봅니다.
Reference
[arxiv] Multilingual Mathematical Reasoning: Advancing Open-Source LLMs in Hindi and English
Published: (Updated: )
Author: Avinash Anand, Kritarth Prasad, Chhavi Kirtani, Ashwin R Nair, Manvendra Kumar Nema, Raj Jaiswal, Rajiv Ratn Shah
http://arxiv.org/abs/2412.18415v1