획기적인 발견! 미로 탐색 AI, 스스로 '세계 모델' 구축하다!
본 연구는 미로 풀이 작업에 훈련된 트랜스포머 모델이 세계 모델을 자체적으로 생성하고, 훈련 데이터를 넘어선 추론 능력을 보이며, 위치 인코딩 변화에 따라 세계 모델 인코딩 방식이 달라짐을 밝혔습니다. 이는 AI 해석력 및 제어력 향상에 기여할 중요한 발견입니다.

최근 Alex F. Spies 외 7명의 연구진이 발표한 논문 "Transformers Use Causal World Models in Maze-Solving Tasks"는 인공지능 분야에 새로운 이정표를 제시합니다. 이 연구는 미로 풀이 작업을 훈련받은 트랜스포머 모델이 놀랍게도 자체적으로 '세계 모델(World Models, WMs)'을 구축한다는 사실을 밝혀냈습니다. 이는 단순히 미로를 푸는 것을 넘어, AI가 주변 환경을 이해하고 추론하는 능력을 갖추었다는 것을 시사합니다.
세계 모델(WM)의 발견과 검증
연구진은 희소 자동 인코더(Sparse Autoencoders, SAEs)와 어텐션 패턴 분석을 통해 이러한 세계 모델의 생성 과정을 자세히 조사했습니다. 흥미로운 점은, 회로 분석과 SAE 기능 기반 분석 결과가 서로 일치한다는 점입니다. 이는 연구의 신뢰성을 크게 높이는 부분입니다. 더 나아가, 연구진은 특정 기능에 대한 개입을 통해 그 인과적 역할을 확인하고, 특정 유형의 개입 간 비대칭성까지 발견했습니다. 이는 AI의 의사결정 과정에 대한 깊이 있는 이해를 제공합니다.
놀라운 추론 능력: 훈련 데이터를 뛰어넘는 이해
가장 놀라운 발견 중 하나는 모델이 훈련 중에 접한 정보보다 훨씬 많은 정보를 바탕으로 추론할 수 있다는 점입니다. 즉, 입력 토큰 시퀀스에 모든 정보를 명시적으로 제공하지 않더라도, 모델은 스스로 지식을 확장하고 활용하여 문제를 해결할 수 있습니다. 이는 기존 AI 모델의 한계를 뛰어넘는 획기적인 발전입니다.
위치 인코딩의 영향: 세계 모델의 유연성
또한, 연구진은 위치 인코딩의 변화가 모델의 잔차 스트림에 세계 모델이 인코딩되는 방식에 영향을 미친다는 사실을 관찰했습니다. 이는 세계 모델의 구축 방식이 고정적이지 않고, 다양한 상황에 유연하게 적응할 수 있음을 시사합니다.
미래를 위한 전망: 더욱 해석 가능하고 제어 가능한 AI 시스템
이 연구는 트랜스포머 모델이 학습 과정에서 어떻게 복잡하고 구조화된 표현을 자발적으로 생성하는지에 대한 귀중한 통찰력을 제공합니다. 이는 향후 더욱 해석 가능하고 제어 가능한 AI 시스템 개발에 중요한 기반이 될 것입니다. 단순한 미로 탐색을 넘어, 이 연구는 AI의 인지 능력에 대한 이해를 넓히고, 진정한 인공지능 시대를 향한 한 걸음을 내딛는 중요한 발견이라 할 수 있습니다.
Reference
[arxiv] Transformers Use Causal World Models in Maze-Solving Tasks
Published: (Updated: )
Author: Alex F. Spies, William Edwards, Michael I. Ivanitskiy, Adrians Skapars, Tilman Räuker, Katsumi Inoue, Alessandra Russo, Murray Shanahan
http://arxiv.org/abs/2412.11867v1