20억 파라미터 모델이 50억 파라미터 모델을 뛰어넘다! AI 기반 영상 생성 기술의 혁신
양샤오멍 등 연구팀이 개발한 IPO(Iterative Preference Optimization) 전략은 인간의 선호도를 반영하여 비디오 생성 품질을 크게 향상시켰습니다. 20억 파라미터 모델이 50억 파라미터 모델을 능가하는 성능을 보였으며, VBench 벤치마크에서 최첨단 성능을 기록했습니다. 소스 코드, 모델, 데이터셋 공개를 통해 후속 연구 및 응용을 지원합니다.

최근 텍스트-비디오 생성 분야에서 괄목할 만한 연구 결과가 발표되었습니다. 양샤오멍(Xiaomeng Yang) 박사를 비롯한 연구팀이 개발한 'IPO(Iterative Preference Optimization)' 전략이 바로 그것입니다. 기존의 대규모 비디오 기반 모델들은 모델의 크기가 커질수록 성능이 향상되는 경향을 보였지만, 여전히 생성 품질에 대한 요구를 충족시키지 못하는 한계를 가지고 있었습니다.
하지만 IPO 전략은 이러한 한계를 극복하고 있습니다. 연구팀은 인간의 선호도를 모델 학습에 반영하는 '반복적 선호도 최적화' 전략을 통해 비디오 생성 품질을 획기적으로 향상시켰습니다. 핵심은 인간의 피드백을 활용하여 모델을 지속적으로 개선하는 것입니다. IPO는 비디오 생성 결과에 대한 선호도를 평가하는 '비평가 모델(critic model)'을 활용합니다. 이 모델은 Direct Preference Optimization이나 Kahneman-Tversky Optimization과 같은 기법을 통해 비디오 생성물을 순위 매기거나 점수를 매깁니다.
더욱 놀라운 점은 IPO가 다중 모드 대규모 언어 모델을 통합하여 수동 라벨링 없이도 선호도 레이블을 자동으로 할당한다는 것입니다. 이는 반복적인 선호도 최적화 과정을 효율적으로 수행할 수 있게 하여, 시간과 비용이 많이 드는 수작업 라벨링의 필요성을 없앴습니다.
연구 결과는 매우 흥미롭습니다. 20억 개의 파라미터만 가진 모델이 50억 개의 파라미터를 가진 모델을 능가하는 성능을 보였으며, VBench 벤치마크에서 최첨단 성능을 달성했습니다. 뿐만 아니라, 연구팀은 소스 코드, 모델, 그리고 데이터셋을 공개하여 후속 연구 및 응용을 적극적으로 지원하고 있습니다.
이 연구는 단순히 모델의 크기를 키우는 것만으로는 한계가 있다는 것을 보여주는 동시에, 인간의 선호도를 적극적으로 반영하는 것이 AI 모델의 성능 향상에 얼마나 중요한지를 강조합니다. IPO 전략은 향후 AI 기반 비디오 생성 기술 발전에 큰 영향을 미칠 것으로 예상됩니다. 이는 단순한 기술적 진보를 넘어, 보다 창의적이고 사용자 친화적인 AI 애플리케이션 개발의 가능성을 열어주는 혁신적인 성과입니다.
Reference
[arxiv] IPO: Iterative Preference Optimization for Text-to-Video Generation
Published: (Updated: )
Author: Xiaomeng Yang, Zhiyu Tan, Xuecheng Nie, Hao Li
http://arxiv.org/abs/2502.02088v2