RBF++: 사고연쇄 추론의 경계를 정량화하고 최적화하다

본 기사는 중국과학원 자동화연구소 연구팀이 개발한 RBF++ 프레임워크를 소개합니다. RBF++는 Chain-of-Thought 추론의 측정 가능 및 불가능한 경계를 정량화하고 최적화하는 새로운 방법론으로, LLM의 성능 향상과 실용적인 응용에 기여할 것으로 예상됩니다.

사고연쇄 추론의 한계를 넘어서: RBF++ 프레임워크

최근 대규모 언어 모델(LLM)의 성능 향상에 큰 기여를 한 사고연쇄(Chain-of-Thought, CoT) 추론. 하지만 실제 응용에는 여전히 난제가 존재합니다. 바로 CoT 능력의 측정 가능한 경계를 평가하고 최적화하기 위한 정량적 지표와 실행 가능한 지침의 부족, 그리고 멀티모달 인식과 같은 측정 불가능한 CoT 능력의 경계를 평가하는 방법의 부재입니다.

중국과학원 자동화연구소의 Chen Qiguang 박사 연구팀은 이러한 문제를 해결하기 위해 Reasoning Boundary Framework++ (RBF++) 를 개발했습니다. RBF++는 CoT 추론 성능의 최대 한계를 **'추론 경계(Reasoning Boundary, RB)'**로 정의하고, 이를 정량적으로 분석하고 최적화하는 혁신적인 접근 방식을 제시합니다.

RBF++의 핵심은 다음과 같습니다.

• 측정 가능한 RB의 정량화 및 최적화: 연구팀은 다양한 CoT 작업에서 RB를 정량적으로 분석하고 실행 가능한 지침을 제공하는 RB 조합 법칙을 제안했습니다. 이는 CoT 추론의 한계를 명확히 파악하고 이를 개선하기 위한 전략을 세우는 데 중요한 역할을 합니다.

• 측정 불가능한 RB의 처리: 멀티모달 상황과 같이 측정 불가능한 RB를 처리하기 위해, 연구팀은 **'상수 가정'**을 도입했습니다. 측정 불가능한 RB를 상황별 상수로 대체함으로써, 정량적 분석을 가능하게 만드는 것입니다. 더 나아가 **'추론 경계 분할 메커니즘'**을 통해 측정 불가능한 RB를 두 개의 하위 경계로 나누어 측정 불가능한 영역 지식과 멀티모달 인식 능력을 모두 정량화하고 최적화할 수 있도록 했습니다.

• 실험적 검증: 13가지 과제에 걸쳐 38개의 모델을 사용한 광범위한 실험을 통해 RBF++의 실현 가능성을 검증했습니다. 또한 10가지 CoT 전략을 평가하고, 두 가지 상보적인 관점에서 최적화 및 감소에 대한 통찰력을 제공하며, LLM 추론에서 RB를 측정하기 위한 평가 벤치마크를 확장했습니다.

RBF++는 CoT 추론의 이해와 최적화 전략에 대한 새로운 지평을 열었습니다. 연구팀은 관련 코드와 데이터를 GitHub (https://github.com/LightChen233/reasoning-boundary)에 공개하여 연구의 투명성과 재현성을 높였습니다. 이 연구는 앞으로 LLM의 발전에 중요한 기여를 할 것으로 기대됩니다.