NVIDIA의 혁신적인 세계 생성 모델 Cosmos-Transfer1: Sim2Real 시대를 앞당기다
NVIDIA가 개발한 Cosmos-Transfer1은 다양한 모달리티의 공간 제어 입력을 통해 세계 시뮬레이션을 생성하는 혁신적인 모델입니다. 적응형 다중 모달 제어와 실시간 생성 기능을 갖추었으며, Sim2Real 분야에 적용되어 물리적 AI, 로보틱스, 자율 주행 등 다양한 분야에 혁신을 가져올 것으로 예상됩니다. 오픈소스로 공개되어 연구 개발 가속화에도 기여할 것입니다.

들어가며:
인공지능(AI) 분야에서 시뮬레이션 기반 학습의 중요성이 날로 커지고 있습니다. 실제 환경에서의 데이터 수집에 드는 비용과 시간을 줄이고, 다양한 상황을 안전하게 시뮬레이션하여 AI 모델을 학습시키는 것이 가능해졌기 때문입니다. 이러한 흐름 속에서 NVIDIA는 획기적인 세계 생성 모델, Cosmos-Transfer1을 발표하며 Sim2Real (Simulation to Real) 기술의 새로운 장을 열었습니다.
Cosmos-Transfer1: 적응형 다중 모달 제어의 힘:
Cosmos-Transfer1은 분할, 깊이, 가장자리 정보와 같은 다양한 공간 제어 입력을 사용하여 세계 시뮬레이션을 생성합니다. 단순히 이미지를 생성하는 것을 넘어, 적응형 다중 모달 제어 기능을 통해 공간적 조건 설정을 유연하게 조절할 수 있다는 점이 특징입니다. 이는 다양한 공간 위치에서 서로 다른 조건 입력에 가중치를 부여하여, 세계 생성 과정에 대한 세밀한 제어를 가능하게 합니다.
Sim2Real과의 만남: 물리적 AI의 새로운 지평:
Cosmos-Transfer1의 가장 큰 강점은 바로 Sim2Real 분야에 대한 적용 가능성입니다. 로보틱스 Sim2Real, 자율 주행 데이터 강화 등 다양한 영역에서 시뮬레이션 환경을 통해 얻은 데이터를 실제 환경에 적용하는 데 핵심적인 역할을 할 것으로 기대됩니다. 이는 물리적 AI 연구의 발전에 크게 기여할 것으로 보입니다.
실시간 세계 생성과 오픈소스 공개:
NVIDIA GB200 NVL72 랙을 활용한 추론 확장 전략을 통해 Cosmos-Transfer1은 실시간 세계 생성이라는 놀라운 성과를 달성했습니다. 더 나아가, NVIDIA는 모델과 코드를 https://github.com/nvidia-cosmos/cosmos-transfer1에서 오픈소스로 공개하여, 전 세계 연구자들의 연구 개발을 가속화하는 데 기여하고 있습니다.
결론:
Cosmos-Transfer1은 단순한 세계 생성 모델을 넘어, Sim2Real 기술의 혁신을 주도하며 물리적 AI 분야에 새로운 가능성을 열었습니다. 적응형 다중 모달 제어, 실시간 생성, 그리고 오픈소스 공개라는 세 가지 강점을 바탕으로, Cosmos-Transfer1은 앞으로 AI 연구 및 산업 전반에 막대한 영향을 미칠 것으로 예상됩니다. 이를 통해 더욱 현실적이고 효율적인 AI 시스템의 개발이 가속화될 것으로 기대합니다.
Reference
[arxiv] Cosmos-Transfer1: Conditional World Generation with Adaptive Multimodal Control
Published: (Updated: )
Author: NVIDIA, :, Hassan Abu Alhaija, Jose Alvarez, Maciej Bala, Tiffany Cai, Tianshi Cao, Liz Cha, Joshua Chen, Mike Chen, Francesco Ferroni, Sanja Fidler, Dieter Fox, Yunhao Ge, Jinwei Gu, Ali Hassani, Michael Isaev, Pooya Jannaty, Shiyi Lan, Tobias Lasser, Huan Ling, Ming-Yu Liu, Xian Liu, Yifan Lu, Alice Luo, Qianli Ma, Hanzi Mao, Fabio Ramos, Xuanchi Ren, Tianchang Shen, Shitao Tang, Ting-Chun Wang, Jay Wu, Jiashu Xu, Stella Xu, Kevin Xie, Yuchong Ye, Xiaodong Yang, Xiaohui Zeng, Yu Zeng
http://arxiv.org/abs/2503.14492v1