혁신적인 AI 모델 M³: 토큰 스트림 기반 월드 모델의 새 지평을 열다
Lior Cohen 등 연구진이 개발한 M³(Modular World Model)은 토큰 기반 월드 모델의 한계를 극복하고 다양한 모달리티를 통합한 혁신적인 모델입니다. Atari 100K에서 인간 수준의 성능을 달성하고, 샘플 효율성을 극대화하여 AI 분야에 새로운 가능성을 제시합니다.

최근 토큰 기반 월드 모델이 주목받고 있습니다. 토큰 스트림(Token Streams)을 통해 환경의 역동성을 모델링하는 이 접근 방식은 특히 아타리 게임과 같은 이산적인 행동을 수반하는 시각적 환경에서 성공적인 결과를 보여주었습니다. 하지만, 그 적용 범위는 여전히 제한적이었습니다.
이러한 한계를 극복하기 위해 Lior Cohen, Kaixin Wang, Bingyi Kang, Uri Gadot, Shie Mannor 등 연구진이 개발한 M³(Modular World Model) 모델이 등장했습니다. M³은 모듈화(Modular) 설계를 통해 관찰 및 행동 모달리티(Modality)를 독립적으로 처리, 유연하게 결합할 수 있도록 설계되었습니다. 이를 통해 기존 토큰 기반 월드 모델의 한계를 뛰어넘어 다양한 환경과 작업에 적용 가능성을 높였습니다.
M³는 기존 연구의 여러 개선 사항을 통합하여 에이전트의 성능을 향상시켰습니다. 다양한 벤치마크에 대한 광범위한 실험 결과, M³은 계획 없는(Planning-free) 월드 모델에서 최첨단 샘플 효율성을 달성했습니다. 특히, 주목할 만한 성과는 Atari 100K 벤치마크에서 인간 수준의 중간 점수를 달성하고, 13개 게임에서 초인적 성능을 기록했다는 점입니다.
이는 단순히 성능 향상을 넘어, AI 모델의 발전 방향에 대한 중요한 시사점을 제공합니다. M³의 모듈식 접근 방식은 다양한 모달리티와 복잡한 환경에 적응력이 뛰어난 AI 시스템 개발의 가능성을 보여줍니다.
연구진은 M³의 코드와 가중치를 공개(Open-source)하여, 학계 및 산업계 전반의 추가 연구와 발전에 기여할 것으로 기대됩니다. 이들의 노력은 AI 기술의 발전에 중요한 이정표가 될 뿐만 아니라, 앞으로 더욱 복잡하고 다양한 문제를 해결할 수 있는 AI 모델 개발에 대한 새로운 가능성을 제시합니다. M³의 등장은 AI 분야의 혁신적인 전환점이 될 것으로 예상됩니다.
Reference
[arxiv] $\text{M}^{\text{3}}$: A Modular World Model over Streams of Tokens
Published: (Updated: )
Author: Lior Cohen, Kaixin Wang, Bingyi Kang, Uri Gadot, Shie Mannor
http://arxiv.org/abs/2502.11537v1