한비 게임의 혁신: 어떤 상황에도 적응하는 AI 에이전트 등장!
Arjun V Sudhakar 등 연구진이 개발한 R3D2 에이전트는 텍스트 기반 작업 재구성과 분산 MARL 알고리즘을 통해 다양한 게임 설정에 적응하고 다른 에이전트와 협력하는 능력을 보여주었습니다. 이는 기존 MARL 시스템의 한계를 극복한 획기적인 성과이며, 실제 세계 문제 해결에 대한 가능성을 제시합니다.

인공지능(AI) 분야에서 협력적 전략 개발은 끊임없는 도전 과제였습니다. 특히, 다중 에이전트 강화 학습(MARL)은 훈련된 환경 외에서는 성능이 저하되고, 익숙하지 않은 협력자와의 협력에 어려움을 겪는 한계를 가지고 있었습니다. 대표적인 예시로, 복잡한 추론과 정교한 협력을 필요로 하는 2~5인용 협력 카드 게임인 '한비' 게임을 들 수 있습니다.
기존의 한비 게임 AI 에이전트들은 특정 게임 설정(예: 2인 게임)에만 학습되고, 동일한 알고리즘 에이전트와만 플레이할 수 있었습니다. 이는 인간이 낯선 파트너나 상황에 빠르게 적응하는 능력과는 대조적입니다.
하지만 최근, Arjun V Sudhakar 등 연구진이 개발한 R3D2(Recurrent Replay Relevance Distributed DQN) 에이전트는 이러한 한계를 극복했습니다. 연구진은 텍스트를 활용하여 작업을 재구성했습니다. 텍스트는 전이 학습에 효과적이기 때문입니다. 그리고 분산 MARL 알고리즘을 통해 동적인 관찰 및 행동 공간에 효과적으로 대처했습니다. 결과적으로 R3D2는 모든 게임 설정을 동시에 플레이할 수 있으며, 한 설정에서 학습한 전략을 다른 설정에 적용할 수 있습니다. 더 나아가, 기존 에이전트들이 서로 협력하지 못하는 상황에서도 다른 알고리즘 에이전트와 협력할 수 있는 능력을 보여주었습니다. (구현 코드는 GitHub 에서 확인 가능합니다.)
이 연구는 단순히 게임 AI의 발전을 넘어, 다양한 환경에 적응하고 협력하는 지능형 시스템 개발에 중요한 이정표를 제시합니다. 앞으로 R3D2와 같은 일반화된 에이전트는 실제 세계의 복잡한 문제 해결에 핵심적인 역할을 할 것으로 기대됩니다. 다만, 현재 단계에서는 한비 게임에 특화된 알고리즘이라는 점을 고려해야 합니다. 다른 유형의 게임이나 실제 세계 문제에 대한 적용 가능성은 추가 연구를 통해 검증되어야 합니다.
Reference
[arxiv] A Generalist Hanabi Agent
Published: (Updated: )
Author: Arjun V Sudhakar, Hadi Nekoei, Mathieu Reymond, Miao Liu, Janarthanan Rajendran, Sarath Chandar
http://arxiv.org/abs/2503.14555v1