인간 수준의 수학적 추론 능력을 갖춘 AI 등장? 풍부화된 지시 조정(EIT)의 놀라운 성과
중국과학원 연구팀이 개발한 '풍부화된 지시 조정(EIT)' 기법은 인간의 시스템-2 사고를 모방하여 LLM의 수학적 추론 능력을 향상시켰습니다. GSM8K와 MATH 데이터셋에서 기존 최고 성능을 뛰어넘는 결과를 보였으며, 도구 지원 방식과 유사한 성능을 달성했습니다. 이는 AI의 지능 발전에 중요한 이정표가 될 것으로 기대되지만, 동시에 윤리적, 사회적 영향에 대한 고려도 필요합니다.

인간의 '시스템-2 사고'를 모방한 AI의 도약
최근, 중국과학원의 Cai Huanqia, Yang Yijun, Li Zhifeng 연구팀이 발표한 논문 "System-2 Mathematical Reasoning via Enriched Instruction Tuning"은 인공지능 분야에 큰 파장을 일으키고 있습니다. 이 논문은 복잡한 수학 문제 해결에 있어 인간의 '시스템-2 사고'(심층적이고 논리적인 사고)를 모방한 AI 모델을 개발하는 데 성공했다는 내용을 담고 있습니다. 기존의 LLM(대규모 언어 모델)은 다단계 추론 과정에서 어려움을 겪었지만, 이 연구팀은 이 문제의 핵심 원인이 바로 '정교한 다단계 추론 데이터의 부족'이라고 지적했습니다.
혁신적인 방법, 풍부화된 지시 조정(EIT)
연구팀은 이 문제를 해결하기 위해 '풍부화된 지시 조정(Enriched Instruction Tuning, EIT)'이라는 혁신적인 방법을 제시했습니다. EIT는 인간의 전문가 지식과 AI의 능력을 결합하여 기존의 수학 데이터셋을 '풍부화'하는 과정을 거칩니다. 이 과정은 크게 두 단계로 나뉩니다.
- 추론 계획 풍부화(ERP): 복잡한 문제를 더 작고 간단한 목표들로 분해하는 고차원적인 계획을 생성합니다. 마치 인간 전문가가 문제 해결 전략을 세우는 것과 같습니다.
- 추론 단계 풍부화(ERS): 인간 전문가가 간과하기 쉬운 추론 과정의 세부적인 맥락을 채워 넣습니다. 이를 통해 LLM이 더욱 매끄럽게 추론 과정을 학습할 수 있도록 돕습니다.
EIT의 핵심은 인간이 미리 작성한 정답을 '메타 지식'으로 활용하여 LLM이 더욱 정확하고 상세한 추론 과정을 생성하도록 유도하는 점입니다. 기존의 '사고사슬(CoT)' 프롬프팅 방법이 LLM의 내부 지식에만 의존하는 것과 달리, EIT는 인간의 지식을 적극적으로 활용하여 신뢰성 높은 결과를 도출합니다.
놀라운 성능: 최첨단 기술을 뛰어넘다
실험 결과는 놀라웠습니다. EIT는 GSM8K 데이터셋에서 84.1%, MATH 데이터셋에서 32.5%의 정확도를 달성하며 기존 최첨단의 미세조정 및 프롬프팅 방법들을 능가했습니다. 특히, 도구를 지원하는 방법들과 비슷한 수준의 성능을 보여주는 것은 매우 주목할 만한 성과입니다. 이는 AI가 복잡한 수학 문제를 인간처럼 해결하는 데 한 걸음 더 가까워졌음을 의미합니다.
미래 전망: 수학적 추론 능력의 무한한 가능성
이 연구는 단순히 수학 문제 해결에만 그치지 않습니다. EIT는 다양한 복잡한 문제 해결에 적용될 수 있는 잠재력을 지니고 있으며, 앞으로 AI의 지능 발전에 큰 기여를 할 것으로 예상됩니다. 더욱 정교하고 정확한 추론 능력을 갖춘 AI의 등장은 우리의 삶에 혁신적인 변화를 가져올 것입니다. 하지만 동시에 윤리적, 사회적 영향에 대한 신중한 고찰도 필요합니다.
Reference
[arxiv] System-2 Mathematical Reasoning via Enriched Instruction Tuning
Published: (Updated: )
Author: Huanqia Cai, Yijun Yang, Zhifeng Li
http://arxiv.org/abs/2412.16964v2