코드 추론의 마법: 가설 분해 및 수정을 통한 LLM 추론 능력 향상

중국과학원 등 연구팀이 LLM의 코드 추론 능력 향상을 위한 RHDA 파이프라인을 개발, 최대 3배 성능 향상을 달성했습니다. 인간의 문제 해결 방식을 모방한 이 파이프라인은 LLM의 추론 과정 중단 문제를 해결하는 데 효과적이며, GitHub에 공개되어 다른 연구자들의 활용을 지원합니다.

중국과학원 및 기타 연구기관의 연구팀이 대규모 언어 모델(LLM)의 추론 능력 향상에 대한 흥미로운 연구 결과를 발표했습니다. 기존 연구들이 LLM의 추론 능력 확장에 집중했다면, 이번 연구는 **'코드 추론'**이라는 새로운 과제를 제시하며 LLM의 한계를 짚어보고, 이를 극복할 혁신적인 해결책을 제시합니다.

LLM의 추론 능력, 그 한계는?

연구팀은 논리적 추론의 기존 형태를 바탕으로 세 가지 메타 벤치마크를 정의하고, 이를 바탕으로 여덟 가지 구체적인 벤치마크 과제를 설계했습니다. 실험 결과, LLM은 여전히 만족스러운 추론 경로를 찾는 데 어려움을 겪는 것으로 나타났습니다. 특히, 다단계 추론 과정에서 기억 상실이나 환각 문제로 인해 추론 과정이 끊기는 현상이 빈번하게 발생했습니다.

인간의 문제 해결 방식에서 영감을 얻다: RHDA 파이프라인

연구팀은 인간의 복잡한 문제 해결 방식에서 영감을 얻어 '반성적 가설 분해 및 수정 (RHDA)' 파이프라인을 개발했습니다. RHDA는 다음과 같은 세 단계를 반복적으로 수행합니다.

1. 관찰 결과를 바탕으로 잠재적 가설을 제안하고 분해합니다.
2. 도구를 활용하여 가설과 반성 결과를 검증합니다.
3. 관찰 결과를 바탕으로 가설을 수정합니다.

이러한 반복적인 과정을 통해 RHDA는 다단계 추론에서 발생하는 추론 과정의 중단 문제를 효과적으로 해결하여 LLM의 성능을 최대 3배 향상시켰습니다. 특히, 가상 환경인 VirtualHome을 이용한 실제 생활 시나리오를 통해 복잡한 가사 작업을 시뮬레이션함으로써 실패 사례 처리 능력을 강화했습니다.

연구 결과의 공개 및 미래 전망

연구팀은 코드와 모든 결과를 GitHub에 공개하여 다른 연구자들의 활용을 지원하고 있습니다. 이번 연구는 LLM의 추론 능력 향상에 대한 새로운 방향을 제시하며, 향후 AI 분야의 발전에 크게 기여할 것으로 기대됩니다. 특히, RHDA 파이프라인의 적용 범위를 확장하여 더욱 복잡하고 다양한 문제 해결에 활용할 수 있을 것으로 예상됩니다. 이는 AI가 인간과 유사한 수준의 복잡한 추론 능력을 갖추도록 하는데 중요한 이정표가 될 것입니다.