코드로 추론 능력을 끌어올리다: CodeI/O의 혁신적인 접근

홍콩과기대 연구진이 개발한 CodeI/O는 코드 입출력 예측을 통해 LLM의 추론 능력을 향상시키는 혁신적인 방법입니다. 자연어 기반 Chain-of-Thought와 코드 재실행을 통한 검증으로 다양한 추론 과제에서 성능 향상을 달성했습니다. GitHub를 통해 데이터와 모델을 공개하여 더 많은 연구자들의 참여를 유도하고 있습니다.

대규모 언어 모델(LLM)의 추론 능력 향상은 인공지능 분야의 핵심 과제입니다. 기존 연구는 수학이나 코드 생성과 같은 특정 영역의 추론 능력 향상에 집중해왔지만, 다양한 추론 과제에서의 성능 향상은 여전히 훈련 데이터의 부족과 단편적인 정보로 인해 어려움을 겪고 있습니다.

홍콩과기대 연구진(Junlong Li, Daya Guo, Dejian Yang, Runxin Xu, Yu Wu, Junxian He)이 발표한 논문 "CodeI/O: Condensing Reasoning Patterns via Code Input-Output Prediction"은 이러한 문제에 대한 획기적인 해결책을 제시합니다. 바로 CodeI/O입니다.

CodeI/O는 문맥에 기반한 코드에 내재된 다양한 추론 패턴을 코드 입출력 예측 방식으로 체계적으로 압축하는 새로운 접근 방식입니다. 원래 코드를 코드 입출력 예측 형식으로 변환하여 모델을 훈련하는데, 이때 놀라운 점은 Chain-of-Thought(CoT) 추론을 자연어로 완전히 구현했다는 것입니다. 이는 모델이 논리 흐름 계획, 상태 공간 탐색, 의사 결정 트리 탐색, 모듈 분해와 같은 보편적인 추론 원리를 학습할 수 있도록 합니다. 더 나아가, 코드 특정 구문과는 분리하여 절차적 엄격성을 유지하면서 추론이 진행됩니다.

실험 결과는 CodeI/O가 기호, 과학, 논리, 수학 및 숫자, 상식 추론 과제 전반에 걸쳐 일관된 성능 향상을 가져온다는 것을 보여줍니다. 더욱이, 기존의 정답과 일치하는지 확인하거나 예측된 입력값으로 코드를 다시 실행하여 각 예측을 검증하고, 다중 회전 수정을 통해 CoT를 개선하여 **CodeI/O++**를 개발하여 더 높은 성능을 달성했습니다. 연구팀은 GitHub (https://github.com/hkust-nlp/CodeIO)에 데이터와 모델을 공개하여, 더 많은 연구자들이 이 혁신적인 접근 방식을 활용할 수 있도록 했습니다.

CodeI/O는 단순한 성능 향상을 넘어, LLM의 추론 능력 향상에 대한 새로운 패러다임을 제시합니다. 코드를 통해 추론 과정을 명확하게 하고, 그 과정을 자연어로 설명함으로써, LLM의 추론 과정을 이해하고 개선하는 데 중요한 발걸음을 내딛었습니다. 앞으로 CodeI/O의 발전과 응용은 LLM의 추론 능력을 한층 더 높이고, 인공지능 기술의 혁신을 가속화할 것으로 기대됩니다.