혁신적인 AI 모델 식별 기술: 소수 샘플 학습으로 생성형 AI의 진화에 맞서다

이화여대 연구팀이 소수 샘플 학습 기법과 CLIP-ViT 특징, AIM 모듈을 활용하여 새로운 생성형 AI 모델을 효과적으로 식별하는 모델 속성 규명(MA) 기술을 개발했습니다. 이는 기존 기술의 한계를 극복하고 생성형 AI의 윤리적 문제 해결 및 안전한 AI 생태계 구축에 기여할 것으로 기대됩니다.

끊임없이 진화하는 가짜 이미지, 이젠 소수의 샘플만으로도 속성을 규명한다!

최근 생성 모델을 이용한 가짜 이미지들이 사회적 문제로 떠오르고 있습니다. 이에 따라 단순히 합성 이미지를 감지하는 것을 넘어, 끊임없이 진화하는 생성형 인공지능(AI) 모델의 속성을 규명하는 '모델 속성 규명(MA)' 기술이 절실히 필요해졌습니다.

하지만 기존의 딥러닝 기반 MA 방법들은 새로운 모델을 인식하기 위해 매번 새로운 데이터로부터 처음부터 학습해야 하는 시간적, 데이터적 한계를 가지고 있었습니다. 이는 마치 매번 새로운 바이러스가 나타날 때마다 백신을 새로 개발해야 하는 것과 같았죠.

이러한 문제를 해결하기 위해 이화여대 연구팀(이한별, 이준호)은 획기적인 연구 결과를 발표했습니다. 바로 소수 샘플 학습(FSCIL) 기법을 MA 문제에 적용하여 새로운 생성형 AI 모델을 효과적으로 식별하는 전략을 제시한 것입니다.

기존 FSCIL 접근 방식은 고차원 정보를 사용하여 객체 분류에 초점을 맞춘 반면, MA는 합성 이미지의 색상과 질감과 같은 저차원 세부 정보를 분석해야 합니다. 연구팀은 이를 위해 CLIP-ViT 특징의 여러 수준 정보를 활용하고, 각 이미지에 대한 CLIP-ViT 블록 특징의 가중합을 계산하는 Adaptive Integration Module (AIM) 을 제안했습니다. 이는 생성 모델을 식별하는 능력을 향상시키는 핵심 기술입니다.

연구 결과, 이 방법은 기존 생성 모델뿐 아니라 최근 등장한 모델에도 효과적으로 적용됨을 보여주었습니다. 마치 레고 블록처럼 다양한 생성 모델의 특징을 학습하고 조합하여, 새로운 모델이 나타나도 빠르게 적응할 수 있는 능력을 갖춘 셈입니다. 이는 생성형 AI 기술의 윤리적 문제 해결과 안전한 AI 생태계 구축에 크게 기여할 것으로 기대됩니다. 앞으로도 생성형 AI 기술의 발전과 함께, 이러한 혁신적인 모델 식별 기술의 중요성은 더욱 커질 것입니다.