딥러닝 모델의 '두 단계 추론' 능력, 과연 얼마나 발전했을까?

David Johnston과 Nora Belrose의 연구는 트랜스포머 모델의 이중 호핑 추론 능력에 대한 새로운 통찰력을 제공합니다. 모델 크기와 추론 능력의 관계, 사고 과정의 영향, 그리고 모델의 추론 방식 제어 가능성을 밝히는 이 연구는 AI 모델 해석 가능성 향상에 기여할 것으로 예상됩니다.

최근 David Johnston과 Nora Belrose가 발표한 논문, "Examining Two Hop Reasoning Through Information Content Scaling"은 트랜스포머 모델의 이중 호핑 추론 능력에 대한 흥미로운 연구 결과를 담고 있습니다. 이중 호핑 질문이란, "Bob의 어머니의 상사는 누구인가?" 와 같이 두 단계의 추론 과정을 거쳐야 답을 얻을 수 있는 질문을 말합니다.

트랜스포머 모델, 이중 호핑 질문에 대한 일관성 없는 답변 능력

연구팀은 트랜스포머 모델이 이러한 이중 호핑 질문에 대해 일관되지 않은 답변 능력을 보이는 이유를 규명하기 위해, 모델 크기와 이중 호핑 질문 풀이 능력 간의 상관관계를 분석했습니다. 이는 단순 사실 암기 능력에 대한 기존 연구를 바탕으로 한 것입니다.

모델 크기와 이중 호핑 질문 풀이 능력의 상관관계 분석

연구 결과, 모델의 용량 확장 및 일반화 능력은 이중 호핑 질문 풀이를 위해서는 각 사실을 두 번 학습해야 한다는 가설을 뒷받침했습니다. 흥미롭게도, 사고 과정(Chain of Thought)을 활용한 이중 호핑 질문 풀이에서는 이러한 현상이 나타나지 않았습니다. 즉, 사고 과정을 통해 모델은 각 사실을 한 번만 학습해도 문제를 해결할 수 있음을 의미합니다.

작은 모델의 '함정': 독립적인 답변 암기

더 나아가, 연구팀은 적절한 데이터셋 매개변수를 통해 매우 작은 모델을 각 질문에 대한 답을 독립적으로 암기하는 방식으로 유도할 수 있음을 보였습니다. 이는 함수 합성을 통해 질문에 답하는 것보다 효율이 떨어지는 방식입니다. 이를 통해 모델의 추론 방식을 데이터셋 조정을 통해 제어할 수 있음을 시사합니다.

새로운 모델 해석 가능성 측정 방법 제시

결론적으로, 이 연구는 모델의 용량 확장 측정이 기존의 해석 가능성 방법을 보완할 수 있음을 보여줍니다. 물론, 이 방법을 사용하는 데에는 여전히 몇 가지 어려움이 존재하지만, AI 모델의 추론 과정을 이해하는데 새로운 시각을 제공하는 중요한 연구입니다. 앞으로 더욱 심도있는 연구를 통해 AI 모델의 추론 능력 향상 및 신뢰성 확보에 기여할 것으로 기대됩니다.