AI 이미지 생성의 혁신: 적대적 감독을 활용한 확산 모델 미세 조정

Shen 등 연구진이 개발한 ADT(Adversarial Diffusion Tuning)는 적대적 감독을 통해 확산 모델의 훈련-추론 간 불일치 문제를 해결, 이미지 생성 품질을 크게 향상시켰습니다. Siamese 네트워크, 이미지-이미지 샘플링 전략, 역전파 경로 제한 등의 기술을 통해 메모리 과부하 및 기울기 폭발을 방지하고 안정적인 학습을 보장합니다.

최근 괄목할 만한 성과를 보이고 있는 AI 이미지 생성 분야에서, 확산 모델(Diffusion Models) 은 뛰어난 성능으로 주목받고 있습니다. 하지만 이러한 모델들은 훈련과 추론 과정에서 발생하는 불일치 문제로 인해 성능 향상에 제약을 받아왔습니다. Shen 등의 연구진은 이러한 문제를 해결하기 위해 ADT(Adversarial Diffusion Tuning) 라는 혁신적인 미세 조정 프레임워크를 제안했습니다.

ADT는 무엇일까요?

ADT는 훈련 과정에서 추론 과정을 모방하여, 최종 이미지 생성 결과가 훈련 데이터와 최대한 일치하도록 하는 것을 목표로 합니다. 이는 마치 가짜 지폐 제작자와 경찰의 끊임없는 싸움과 같습니다. 가짜 지폐 제작자(확산 모델)는 더욱 정교한 위조를 시도하고, 경찰(판별자)은 이를 감지하기 위해 더욱 날카로운 눈을 가져야 합니다. 이러한 적대적 관계를 통해 모델은 더욱 정교해지고, 생성 이미지의 품질 또한 향상됩니다.

ADT의 핵심 기술:

• 적대적 감독(Adversarial Supervision): 사전 훈련된 백본 네트워크와 가벼운 학습 가능한 매개변수를 갖춘 Siamese 네트워크 기반 판별자를 사용하여, 생성된 이미지의 진위 여부를 판별합니다.
• 이미지-이미지 샘플링 전략(Image-to-Image Sampling Strategy): 판별 과정의 어려움을 완화하고, 안정적인 학습을 가능하게 합니다.
• 기존 확산 손실 유지(Preserving Original Diffusion Loss): 판별자의 과도한 학습을 방지하고, 모델의 기본 성능을 유지합니다.
• 역전파 경로 제한(Constraining Backward-Flowing Path): 메모리 과부하와 기울기 폭발 문제를 방지하여 안정적인 학습을 보장합니다.

놀라운 결과:

Stable Diffusion 모델(v1.5, XL, v3)을 대상으로 한 실험 결과, ADT는 분포 정렬과 이미지 품질 모두를 크게 향상시키는 것으로 나타났습니다. 이는 마치 숙련된 화가가 더욱 섬세하고 정교한 그림을 그리는 것과 같습니다.

결론:

ADT는 확산 모델의 훈련-추론 불일치 문제를 효과적으로 해결하는 혁신적인 방법을 제시했습니다. 향후 AI 이미지 생성 분야의 발전에 크게 기여할 것으로 기대됩니다. 이 연구는 Dazhong Shen, Guanglu Song, Yi Zhang, Bingqi Ma, Lujundong Li, Dongzhi Jiang, Zhuofan Zong, Yu Liu 등의 연구진에 의해 수행되었습니다.