딥러닝 언어 모델이 뇌의 언어 표현을 설명하다: 혁신적인 연구 결과

Maryam Rahimi 등 연구팀은 설명 가능한 AI 기법을 활용하여 딥러닝 언어 모델의 예측 결과와 뇌 활동의 상관관계를 규명, AI와 뇌과학 간의 융합 연구에 새로운 지평을 열었습니다. 기여도 분석을 통해 뇌의 언어 처리 과정을 이해하고, AI 모델의 설명 방법의 타당성을 평가하는 새로운 프레임워크를 제시했습니다.

최근 인공지능(AI) 분야의 눈부신 발전으로 인간 수준의 성능을 달성하는 대규모 언어 모델(LLM)이 등장했습니다. 흥미로운 점은 이러한 LLM이 뇌의 언어 처리 메커니즘과 계산 원리를 공유한다는 사실입니다. 기존 연구는 주로 LLM의 내부 표현과 신경 활동의 정렬에 초점을 맞췄지만, Maryam Rahimi, Yadollah Yaghoobzadeh, Mohammad Reza Daliri 연구팀은 설명 가능한 AI (XAI) 기법을 활용하여 AI와 뇌과학을 잇는 획기적인 연구를 발표했습니다.

연구팀은 **'기여도 분석(attribution methods)'**이라는 XAI 기법을 사용하여 LLM이 다음 단어를 예측하는 데 이전 단어들이 얼마나 기여하는지 정량화했습니다. 그리고 이러한 설명을 이용하여, 참가자들이 동일한 이야기를 듣는 동안 fMRI로 측정한 뇌 활동을 예측했습니다.

결과는 놀라웠습니다. 기여도 분석을 통해 예측된 뇌 활동은 언어 네트워크 전반에 걸쳐 매우 정확하게 일치했습니다. 심지어 기존의 내부 표현 방식보다 초기 언어 처리 영역에서 더 나은 성능을 보였습니다. 더욱 흥미로운 점은 이러한 정렬이 계층적이라는 사실입니다. LLM의 초기 계층 설명은 뇌의 초기 언어 처리 단계와, 후기 계층 설명은 더 고차원적인 단계와 상응했습니다.

또한, LLM의 다음 단어 예측에 더 큰 영향을 미치는 계층(기여도 점수가 높은 계층)일수록 신경 활동과의 상관관계가 더욱 강했습니다. 이는 LLM의 내부 작동 원리가 뇌의 언어 처리 과정과 밀접하게 관련되어 있음을 시사합니다.

이 연구는 AI와 신경과학 간의 쌍방향 연결을 확립했습니다. 첫째, 기여도 분석이 언어 이해의 신경 메커니즘을 조사하는 강력한 도구임을 입증했습니다. 이를 통해 의미가 어떻게 이전 문맥에서 생성되는지 밝혀낼 수 있습니다. 둘째, 뇌 활동 정렬을 기반으로 기여도 분석 방법의 타당성을 평가하는 프레임워크를 제공하여, 그 생물학적 타당성을 평가할 수 있는 기반을 마련했습니다.

이번 연구는 단순한 AI 모델의 성능 향상을 넘어, AI와 인간 뇌의 작동 원리를 이해하는 데 중요한 발걸음을 내디딘 것으로 평가됩니다. 앞으로 이러한 연구가 더욱 발전하여 AI와 뇌과학의 융합을 통해 인간 지능의 비밀을 밝히고, 더욱 발전된 AI 기술을 개발하는 데 기여할 것으로 기대됩니다.