🤯 더 많다고 더 좋은 건 아니다? LLMs의 사고연쇄(CoT) 길이에 대한 새로운 이해

본 연구는 LLMs의 사고연쇄(CoT) 추론에서 길이가 성능에 미치는 영향을 분석하고, 최적의 CoT 길이가 존재하며 모델 능력 및 과제 난이도에 따라 달라짐을 밝혔습니다. 또한, 과도한 길이 또는 짧은 길이의 CoT 영향을 완화하는 Length-filtered Vote 기법을 제안했습니다.

더 많다고 더 좋은 건 아니다? LLMs의 사고연쇄(CoT) 길이에 대한 새로운 이해

최근 대규모 언어 모델(LLMs)의 추론 능력 향상에 대한 연구가 활발히 진행되고 있습니다. 특히, 복잡한 문제를 작은 하위 문제로 나누어 해결하는 사고연쇄(Chain-of-Thought, CoT) 추론이 주목받고 있습니다. 더 긴 CoT가 더 나은 성능을 보일 것이라는 직관과 달리, Yuyang Wu 등 연구진은 흥미로운 발견을 발표했습니다. 바로 CoT 길이가 일정 수준을 넘어서면 오히려 성능이 저하될 수 있다는 것입니다.

길이가 문제? 최적의 CoT 길이를 찾아라!

연구진은 다양한 모델과 실험 데이터를 통해 CoT 길이가 증가함에 따라 초기에는 성능이 향상되지만, 어느 시점을 넘어서면 오히려 감소하는 현상을 확인했습니다. 이는 긴 추론 과정에서 노이즈(잡음) 의 영향이 증가하기 때문입니다. 이를 뒷받침하기 위해, 연구진은 이론적으로 최적의 CoT 길이가 존재함을 증명하고, 모델의 능력과 과제 난이도에 기반한 최적 길이에 대한 scaling law를 제시했습니다.

길이를 조절하는 기술, Length-filtered Vote

이론적 발견을 바탕으로, 연구진은 과도하게 길거나 짧은 CoT의 영향을 완화하는 새로운 기법인 Length-filtered Vote를 제안했습니다. 이는 모델의 능력과 과제의 특성을 고려하여 최적의 CoT 길이를 선택하고, 그에 맞춰 결과를 조정하는 방법입니다.

결론: 모델의 능력과 과제 난이도를 고려하라!

본 연구는 단순히 CoT 길이를 늘리는 것만으로는 LLMs의 추론 성능을 향상시킬 수 없다는 것을 보여줍니다. 최적의 CoT 길이는 모델의 능력과 과제의 난이도에 따라 달라지며, 이를 고려한 효율적인 전략이 필요함을 강조합니다. Length-filtered Vote와 같은 새로운 기법을 통해, LLMs의 추론 능력을 더욱 향상시킬 수 있는 가능성을 제시하고 있습니다. 앞으로 LLMs의 추론 능력 향상을 위한 연구 방향에 중요한 시사점을 제공하는 연구라고 할 수 있습니다.