혁신적인 AI 이미지 생성: 가우시안 혼합 사전 확산 샘플러의 끝없는 학습
본 연구는 확산 모델의 한계를 극복하기 위해 종단간 학습 가능한 가우시안 혼합 사전(GMPs)을 제안하고, 다양한 실험을 통해 그 효과를 입증했습니다. GMPs는 모드 붕괴 문제를 해결하고 표적 분포에 대한 적응성을 높여 더욱 사실적이고 다양한 이미지 생성을 가능하게 합니다.

최근 변이 추론(VI)을 통해 최적화된 확산 모델이 비정규화된 표적 밀도로부터 샘플을 생성하는 유망한 도구로 떠올랐습니다. 이러한 모델은 일반적으로 가우시안 분포와 같은 단순하고 다루기 쉬운 사전 분포에서 시작하여 확률적 미분 방정식을 시뮬레이션함으로써 샘플을 생성합니다. 하지만 이 사전 분포의 지지 집합이 표적 분포의 지지 집합과 크게 다를 경우, 확산 모델은 효과적으로 탐색하는 데 어려움을 겪거나 큰 이산화 오류를 발생시키는 경우가 많습니다. 게다가 사전 분포를 학습하는 과정에서 VI에서 일반적으로 사용되는 역 쿨백-라이블러 발산의 모드 추구 특성으로 인해 모드 붕괴가 악화될 수 있습니다.
Denis Blessing, Xiaogang Jia, Gerhard Neumann 세 연구원은 이러한 문제를 해결하기 위해 종단간 학습 가능한 가우시안 혼합 사전(GMPs) 을 제안했습니다. GMPs는 탐색에 대한 제어력 향상, 표적 지지 집합에 대한 적응성, 그리고 모드 붕괴를 방지하기 위한 표현력 증가를 제공합니다. 더 나아가, 연구팀은 훈련 중에 혼합 구성 요소를 반복적으로 추가하는 전략을 제안하여 혼합 모델의 구조를 활용했습니다.
실험 결과는 다양한 실제 및 합성 벤치마크 문제에서 GMPs를 사용할 때 추가적인 표적 평가 없이도 상당한 성능 향상을 보여줍니다. 이는 AI 이미지 생성 분야에서 중요한 발전으로, 더욱 사실적이고 다양한 이미지 생성을 가능하게 할 것으로 기대됩니다. 특히, 표적 분포와 사전 분포의 차이로 인한 어려움을 극복하고, 모드 붕괴 문제를 효과적으로 해결한 점은 주목할 만합니다. 이 연구는 향후 AI 이미지 생성 기술의 발전 방향에 중요한 시사점을 제공합니다.
핵심: 이 연구는 확산 모델의 한계를 극복하고, 더욱 효과적이고 안정적인 AI 이미지 생성을 위한 새로운 가능성을 제시합니다. GMPs의 도입은 단순한 가우시안 분포를 넘어, 더욱 복잡하고 다양한 분포를 효과적으로 학습하고 활용할 수 있음을 보여주는 획기적인 결과입니다.
Reference
[arxiv] End-To-End Learning of Gaussian Mixture Priors for Diffusion Sampler
Published: (Updated: )
Author: Denis Blessing, Xiaogang Jia, Gerhard Neumann
http://arxiv.org/abs/2503.00524v1