혁신적인 자율주행 세계 모델: 이기-타 차량 궤적 통합으로 현실을 뛰어넘다
Jian Zhu 등 연구진이 개발한 EOT-WM은 자율주행 시스템의 세계 모델에 혁신을 가져왔습니다. 이기-타 차량 궤적을 통합한 영상 잠재 공간 활용으로 현실적인 시뮬레이션을 가능하게 하여, 기존 모델보다 월등한 성능을 보였습니다. 이는 자율주행 기술의 안전성과 신뢰도 향상에 크게 기여할 것으로 기대됩니다.

자율주행 기술의 핵심은 예측과 계획입니다. 자동차가 주변 환경을 정확하게 예측하고 안전하게 주행 경로를 계획하는 능력이 바로 자율주행의 성공을 좌우합니다. 최근 Jian Zhu 등 연구진이 발표한 논문, "Other Vehicle Trajectories Are Also Needed: A Driving World Model Unifies Ego-Other Vehicle Trajectories in Video Latent Space"는 이러한 핵심 과제에 대한 획기적인 해결책을 제시합니다.
기존의 자율주행 시스템 세계 모델은 주로 자차(Ego Vehicle)의 궤적에만 집중하여 다른 차량의 움직임을 제대로 고려하지 못했습니다. 이는 마치 운전자가 다른 차량의 존재를 무시하고 운전하는 것과 같아, 현실적인 시뮬레이션과 안전한 자율주행에 큰 걸림돌이 되었습니다. 하지만 EOT-WM이라는 새로운 모델은 이러한 한계를 극복합니다.
EOT-WM은 BEV(Bird's Eye View) 공간의 자차 및 타차 궤적을 영상 좌표에 투영하여 각 궤적을 비디오 내 해당 차량과 정확하게 매칭합니다. 이후 Spatial-Temporal Variational Auto Encoder를 통해 궤적 영상을 인코딩하여, 통합된 시각적 공간에서 운전 영상 잠재 공간과 공간적, 시간적으로 정렬합니다. 여기에 trajectory-injected diffusion Transformer가 더해져 노이즈가 있는 비디오 잠재 변수를 제거하고, 자차 및 타차 궤적의 안내에 따라 비디오를 생성합니다. 이는 마치 영화의 특수 효과처럼, 자율주행 시스템이 주변 환경과 상호 작용하는 모습을 실감나게 시뮬레이션하는 기술입니다.
특히, 연구진은 궤적 제어 가능성을 평가하기 위한 새로운 지표를 제안했습니다. nuScenes 데이터셋을 이용한 실험 결과, EOT-WM은 FID(Fréchet Inception Distance) 기준으로 기존 최고 성능 모델보다 30%, FVD(Fréchet Video Distance) 기준으로 55%나 향상된 성능을 보였습니다. 더 나아가, EOT-WM은 자체 생성한 궤적을 사용하여 전례 없는 운전 시나리오도 예측할 수 있습니다.
이 연구는 단순한 기술적 발전을 넘어, 자율주행 시스템의 안전성과 신뢰도를 크게 향상시킬 가능성을 제시합니다. 보다 현실적이고 예측 가능한 시뮬레이션 환경을 제공함으로써, 자율주행 기술의 발전에 혁신적인 기여를 할 것으로 기대됩니다. 하지만, 실제 도로 환경의 복잡성을 완벽하게 반영하는 데에는 여전히 과제가 남아있으며, 앞으로 더욱 발전된 연구가 필요할 것입니다.
Reference
[arxiv] Other Vehicle Trajectories Are Also Needed: A Driving World Model Unifies Ego-Other Vehicle Trajectories in Video Latent Space
Published: (Updated: )
Author: Jian Zhu, Zhengyu Jia, Tian Gao, Jiaxin Deng, Shidi Li, Fu Liu, Peng Jia, Xianpeng Lang, Xiaolong Sun
http://arxiv.org/abs/2503.09215v2