획기적인 AI 추론 모델 'Mulberry' 등장: 단계별 추론과 반추 능력으로 새로운 지평을 열다
중국과학원 연구진이 개발한 'Mulberry'는 집단 몬테카를로 트리 탐색(CoMCTS) 기반의 새로운 MLLM으로, 단계별 추론 및 반추 능력을 통해 기존 모델의 한계를 뛰어넘는 성능을 보여줍니다. Mulberry-260k라는 방대한 데이터셋을 활용한 훈련을 통해 다양한 벤치마크에서 우수한 결과를 달성하였으며, 향후 AI 분야의 발전에 크게 기여할 것으로 기대됩니다.

최근, 중국과학원의 연구진(Yao, Huang, Wu 외)이 거대 언어 모델(MLLM)의 추론 능력을 획기적으로 향상시킨 새로운 모델 'Mulberry'를 개발했습니다. 기존 모델의 한계를 극복하고자, 연구진은 집단 몬테카를로 트리 탐색(CoMCTS) 이라는 혁신적인 학습 방법을 제시했습니다.
CoMCTS: 여러 모델의 지혜를 모아 추론의 정확도를 높이다
CoMCTS의 핵심은 여러 모델의 집단 지능을 활용하는 데 있습니다. 단순히 하나의 모델에 의존하는 대신, 여러 모델이 협력하여 추론 경로를 탐색하고, 최적의 해결책을 찾아냅니다. 이는 확장(Expansion), 시뮬레이션 및 오류 위치 파악(Simulation and Error Positioning), 역전파(Backpropagation), 선택(Selection)의 네 가지 반복적인 과정을 통해 이루어집니다. 이러한 협력적 접근 방식은 추론 과정의 효율성과 정확성을 크게 향상시켰습니다.
Mulberry-260k: 풍부한 데이터로 모델의 잠재력을 최대한 발휘하다
Mulberry 모델의 훈련에는 Mulberry-260k라는 새로운 다중 모드 데이터셋이 사용되었습니다. 이 데이터셋은 각 질문에 대한 풍부하고 명확하게 정의된 추론 노드 트리를 포함하고 있어, 모델의 학습에 최적의 환경을 제공합니다. 이는 단순히 답변만을 제공하는 것이 아니라, 답에 이르는 단계별 추론 과정 자체를 학습시키는 것을 의미합니다.
Mulberry: 단계별 추론과 반추 능력으로 무장한 새로운 MLLM
Mulberry-260k 데이터셋과 CoMCTS를 활용하여 훈련된 Mulberry 모델은 놀라운 성능을 보여줍니다. 단계별 추론 및 반추 능력을 갖춘 Mulberry는 기존 모델보다 훨씬 높은 정확도와 효율성을 자랑하며, 다양한 벤치마크에서 우수한 결과를 달성했습니다. 연구팀은 GitHub(https://github.com/HJYao00/Mulberry) 에서 코드를 공개하여, 다른 연구자들과의 협력과 발전을 도모할 계획입니다.
미래를 향한 전망: 더욱 발전된 AI 추론 시스템의 가능성
Mulberry의 등장은 단순한 기술적 발전을 넘어, AI 추론 시스템의 미래를 새롭게 조명하는 사건입니다. CoMCTS와 Mulberry-260k의 성공은 향후 더욱 정교하고 효율적인 AI 추론 모델 개발의 가능성을 열어줍니다. 앞으로 Mulberry 모델은 다양한 분야에서 활용될 것으로 예상되며, 인공지능의 발전에 크게 기여할 것으로 기대됩니다.
Reference
[arxiv] Mulberry: Empowering MLLM with o1-like Reasoning and Reflection via Collective Monte Carlo Tree Search
Published: (Updated: )
Author: Huanjin Yao, Jiaxing Huang, Wenhao Wu, Jingyi Zhang, Yibo Wang, Shunyu Liu, Yingjie Wang, Yuxin Song, Haocheng Feng, Li Shen, Dacheng Tao
http://arxiv.org/abs/2412.18319v1