획기적인 AI 대화 모델 HEMA: 인간의 기억력을 뛰어넘다

안광섭 박사 연구팀의 HEMA는 인간의 해마를 모방한 메모리 아키텍처로, 장기 대화에서의 일관성 문제를 해결합니다. Compact Memory와 Vector Memory의 결합을 통해 300턴 이상의 대화에서도 높은 사실 정확도와 일관성을 유지하며, 개인정보 보호에도 유용한 차세대 대화형 AI 시스템의 가능성을 제시합니다.

최근 몇 년간 인공지능(AI) 분야에서 가장 주목받는 분야 중 하나는 바로 대화형 AI입니다. 하지만 기존의 대규모 언어 모델(LLM)은 긴 대화를 진행할수록 일관성을 유지하는 데 어려움을 겪었습니다. 마치 사람이 긴 이야기를 하다가 중간에 내용을 잊어버리는 것과 같은 문제였죠. 이러한 한계를 극복하기 위해 안광섭 박사 연구팀이 개발한 혁신적인 메모리 아키텍처, 바로 HEMA(Hippocampus-Inspired Extended Memory Architecture)가 등장했습니다.

HEMA는 인간의 뇌에서 장기 기억을 담당하는 해마의 작동 원리를 모방하여 설계되었습니다. 핵심은 두 가지 메모리 시스템의 결합입니다. 먼저, Compact Memory는 대화의 맥락을 간결하게 요약하는 일종의 '단기 기억' 역할을 합니다. 매 순간 대화 내용을 한 문장으로 요약하여 전체적인 이야기의 흐름을 유지하도록 돕습니다. 다음으로, Vector Memory는 대화의 중요한 부분들을 '장기 기억'으로 저장하는 역할을 합니다. 각각의 대화 단위를 벡터로 변환하여 저장하고, 코사인 유사도를 이용하여 필요한 정보를 빠르게 검색합니다. 이는 마치 사람이 과거 경험을 떠올리는 것과 유사합니다.

60억 개의 파라미터를 가진 변환기 모델에 HEMA를 통합한 결과는 놀라웠습니다. 300턴이 넘는 장기 대화에서도 일관성을 유지하며, 사실 정확도는 41%에서 87%로, 인간 평가자에 의한 일관성 점수는 2.7점에서 4.3점(5점 만점)으로 크게 향상되었습니다. 1만 개의 대화 단위를 색인화한 Vector Memory는 P@5 >= 0.80, R@50 >= 0.74의 높은 검색 정확도를 달성했으며, 기존 요약 방식에 비해 정밀도-재현율 곡선 아래 면적을 두 배 이상 향상시켰습니다. 특히, 나이 가중치 가지치기를 통해 의미적 망각을 유도하여 검색 지연 시간을 34% 단축하는 동시에 회상률 손실을 최소화하는 기술과 2단계 요약 계층 구조를 통해 1,000턴이 넘는 초장기 대화에서도 연쇄 오류를 방지하는 기술은 매우 인상적입니다.

HEMA는 단순히 과거 대화 내용을 기억하는 것을 넘어, 의미적인 연속성까지 확보하여 개인정보 보호에도 유용한 장기 대화 AI 시스템을 구축할 수 있는 가능성을 보여주었습니다. 모델 재훈련 없이도 한 달 이상의 장기 대화를 가능하게 하는 HEMA는 AI 대화 기술의 새로운 지평을 열 것으로 기대됩니다. 이는 단순한 기술적 진보를 넘어, 인간과 AI 간의 보다 자연스럽고 지속적인 상호작용을 가능하게 하는 중요한 발걸음입니다. 앞으로 HEMA가 어떻게 발전하고 활용될지, 그 귀추가 주목됩니다.