코드로 추론 능력 향상시키는 혁신적인 방법, CodeI/O 소개

홍콩과기대 연구진이 개발한 CodeI/O는 코드의 입출력 예측을 통해 LLM의 추론 능력을 향상시키는 혁신적인 방법입니다. 다양한 추론 과제에서 일관된 성능 향상을 보이며, GitHub에서 데이터와 모델을 공개하여 AI 연구에 기여하고 있습니다.

거대한 언어 모델(LLM)의 추론 능력 향상: 수학이나 코드 생성과 같은 특정 분야의 능력 향상에 초점을 맞춘 기존 연구와 달리, Junlong Li를 비롯한 홍콩과기대 연구진은 다양한 추론 과제에서의 성능 향상이 제한적인 이유를 희소하고 단편적인 훈련 데이터에 있다고 지적하며, 이를 해결하기 위한 새로운 방법인 CodeI/O를 제안합니다.

CodeI/O의 핵심: CodeI/O는 문맥에 기반한 코드에 내재된 다양한 추론 패턴을 코드 입출력 예측 형식으로 변환하여 체계적으로 압축하는 혁신적인 접근 방식입니다. 모델은 코드와 테스트 케이스를 자연어로 구성된 Chain-of-Thought(CoT) 추론으로 입력/출력을 예측하도록 훈련됩니다. 이를 통해 논리 흐름 계획, 상태 공간 탐색, 의사결정 트리 탐색, 모듈 분해와 같은 보편적인 추론 원리를 학습하면서, 구조화된 추론을 코드 특유의 구문에서 분리하고 절차적 엄격성을 유지합니다.

놀라운 실험 결과: 연구 결과, CodeI/O는 상징적, 과학적, 논리적, 수학 및 수치적, 상식적 추론 과제 전반에 걸쳐 일관된 성능 향상을 보였습니다. 기존 정답과의 일치 여부 또는 예측된 입력을 사용한 코드 재실행을 통해 각 예측을 검증하고, 다중 회전 수정을 통해 CoT를 더욱 개선한 CodeI/O++는 더욱 높은 성능을 달성했습니다.

향후 전망: CodeI/O는 LLM의 추론 능력을 향상시키는 새로운 가능성을 제시합니다. 특히, 희소한 데이터로 인해 어려움을 겪는 다양한 추론 과제에 대한 해결책을 제공하며, 향후 더욱 발전된 형태의 AI 시스템 개발에 중요한 기여를 할 것으로 기대됩니다. GitHub(https://github.com/hkust-nlp/CodeIO)에서 데이터와 모델을 확인할 수 있습니다.

마무리: CodeI/O는 단순히 코드를 활용하는 것을 넘어, 코드 자체에 내재된 추론 패턴을 학습하여 LLM의 추론 능력을 획기적으로 향상시키는 획기적인 연구입니다. 이는 AI 분야의 발전에 중요한 이정표가 될 것이며, 앞으로 더욱 다양한 분야에서 활용될 것으로 예상됩니다. 🤔