흥미진진한 AI 연구: 언어 모델의 놀라운 '다대일' 질문 답변 전략

Tianyi Lorena Yan과 Robin Jia 연구진은 언어 모델이 다대일 사실적 질문에 답하는 과정을 '촉진-억제' 메커니즘으로 설명하고, Token Lens와 knockout 기법을 통해 이를 실험적으로 증명했습니다. 이 연구는 언어 모델의 내부 작동 원리를 밝히는 중요한 발견이며, 향후 AI 발전에 크게 기여할 것으로 기대됩니다.

최근 Tianyi Lorena Yan과 Robin Jia 연구진이 발표한 논문, "Promote, Suppress, Iterate: How Language Models Answer One-to-Many Factual Queries"는 언어 모델(LM)의 내부 작동 원리를 흥미롭게 밝혀냈습니다. 우리가 일상적으로 사용하는 검색엔진이나 챗봇과 같은 AI 시스템이 어떻게 '한 질문에 여러 답변'을 정확하게 제시하는지 그 비밀을 풀어낸 것이죠.

기존에는 언어 모델이 다대일 질문(예: '대한민국의 도시는 어디입니까?')에 어떻게 대응하는지 명확히 알려지지 않았습니다. 단순히 정보를 나열하는 것이 아니라, 중복 없이 정확한 정보를 순차적으로 제시하는 과정은 매우 복잡합니다. 연구진은 이 과정을 '촉진-억제' 메커니즘으로 설명합니다.

먼저, 모든 가능한 답변을 떠올립니다(촉진). 그리고 이미 제시된 답변은 제거합니다(억제). 이때 주목할 만한 점은, 모델이 주어(예: '대한민국')와 이전 답변 토큰 모두를 활용하여 다음 답변을 생성한다는 것입니다. 어텐션 메커니즘은 주어 정보를 전파하고, 다층 퍼셉트론(MLP)은 답변을 촉진하는 역할을 합니다. 동시에 어텐션은 이전 답변 토큰에 주목하여 억제하고, MLP는 억제 신호를 증폭시킵니다. 마치 숙련된 사회자가 질문에 대한 답변을 매끄럽게 이끌어 나가는 것과 같습니다.

연구진은 이 메커니즘을 검증하기 위해 'Token Lens' 라는 혁신적인 기법을 사용했습니다. 이 기법은 특정 토큰에서 나온 어텐션 업데이트를 집계하여 디코딩함으로써, 각 토큰이 모델 내부에서 어떤 역할을 하는지 분석합니다. 또한 knockout 기법을 통해 특정 토큰의 어텐션을 제거했을 때 MLP 출력이 어떻게 변하는지 분석하여 메커니즘을 더욱 명확하게 증명했습니다.

결론적으로, 이 연구는 언어 모델의 복잡한 사실적 회상 과정을 밝히고, 내부 구성 요소들이 서로 어떻게 상호 작용하는지를 보여주는 귀중한 통찰력을 제공합니다. 이러한 발견은 향후 더욱 정확하고 효율적인 언어 모델 개발에 크게 기여할 것으로 기대됩니다. 자세한 내용은 논문(https://github.com/Lorenayannnnn/how-lms-answer-one-to-many-factual-queries)과 코드를 참고하시기 바랍니다.