코드로 추론 능력 향상시키는 혁신 기술, CodeI/O

홍콩과기대 연구진이 개발한 CodeI/O는 코드 입출력 예측을 통해 다양한 추론 패턴을 학습하는 혁신적인 방법으로, Chain-of-Thought(CoT)와 코드 재실행을 통한 검증 및 개선으로 다양한 추론 과제에서 성능 향상을 이끌어냈습니다. GitHub에서 공개된 코드와 데이터를 통해 AI 추론 기술 발전에 크게 기여할 것으로 예상됩니다.

최근 몇 년 동안 대규모 언어 모델(LLM)의 발전은 눈부시지만, 여전히 추론 능력 향상은 숙제로 남아있습니다. 특히 수학이나 코드 생성과 같은 특정 영역이 아닌 다양한 추론 과제에서 성능 향상은 데이터 부족으로 어려움을 겪고 있습니다.

홍콩과기대 연구진(Junlong Li, Daya Guo, Dejian Yang, Runxin Xu, Yu Wu, Junxian He)은 이러한 문제를 해결하기 위해 CodeI/O라는 혁신적인 방법을 제안했습니다. CodeI/O는 문맥에 기반한 코드에 내재된 다양한 추론 패턴을 코드 입출력 예측 형식으로 변환하여 체계적으로 응축합니다.

CodeI/O의 핵심은 Chain-of-Thought(CoT) 입니다. 모델은 자연어로 된 CoT 추론을 통해 코드와 테스트 케이스를 학습합니다. 이를 통해 논리 흐름 계획, 상태 공간 탐색, 의사 결정 트리 탐색, 모듈 분해 등의 보편적인 추론 원리를 학습하게 됩니다. 이는 코드 특정 구문에서 추론을 분리하고 절차적 엄격성을 유지하는 동시에 다양한 추론 능력을 향상시키는 효과를 가져옵니다.

실험 결과는 CodeI/O가 기호, 과학, 논리, 수학 및 수치, 상식 추론 작업 전반에서 일관된 성능 향상을 가져온다는 것을 보여줍니다. 더 나아가, 연구진은 기존 정답 출력과의 일치 여부 확인이나 예측된 입력값을 사용한 코드 재실행을 통해 예측의 정확성을 검증하고, 다중 회전 수정을 통해 CoT를 개선하는 **CodeI/O++**를 개발하여 더 높은 성능을 달성했습니다.

CodeI/O와 관련 데이터 및 모델은 GitHub에서 공개되어 있습니다. 이는 AI 추론 기술 발전에 크게 기여할 뿐만 아니라, 더 많은 연구자들이 이를 기반으로 더욱 발전된 기술을 개발할 수 있는 기회를 제공할 것입니다. 향후 CodeI/O의 발전과 다른 분야로의 확장이 기대됩니다.