IVY-FAKE: 이미지와 비디오 AIGC 탐지를 위한 통합 설명 가능 프레임워크 및 벤치마크

AI 합성 이미지 및 비디오 탐지 분야의 혁신적인 연구 결과인 IVY-FAKE는 이미지와 비디오를 통합적으로 처리하는 설명 가능한 모델과 대규모 데이터셋을 제공하여 기존 기술의 한계를 극복했습니다. 공개된 데이터셋은 AIGC 탐지 기술 발전에 크게 기여할 것으로 예상됩니다.

AI가 만든 가짜, 진짜를 가려내는 기술의 혁신: IVY-FAKE

인공지능 생성 콘텐츠(AIGC) 기술의 눈부신 발전은 현실과 구분하기 어려울 정도로 정교한 합성 이미지와 비디오를 만들어냈습니다. 하지만 이러한 기술은 콘텐츠의 진위 여부에 대한 심각한 문제를 야기하며, 사회적 신뢰도 저하를 가져올 수 있습니다.

기존의 AIGC 탐지 방법들은 대부분 블랙박스처럼 작동하여, 탐지 결과에 대한 설명이 부족했습니다. 더욱이, 이미지와 비디오를 통합적으로 처리하는 방법은 존재하지 않았습니다. 이는 모델의 투명성을 저해하고 신뢰도를 떨어뜨리는 결과를 초래했습니다.

웨인 장(Wayne Zhang)을 비롯한 연구팀은 이러한 문제를 해결하기 위해, IVY-FAKE라는 혁신적인 프레임워크와 대규모 데이터셋을 개발했습니다. IVY-FAKE는 이미지와 비디오를 통합적으로 처리하는 최초의 설명 가능한 AIGC 탐지 시스템입니다.

IVY-FAKE의 핵심은 다음과 같습니다.

• 통합된 접근 방식: 이미지와 비디오 데이터를 모두 포함하는 대규모 데이터셋(150,000개 이상의 학습용 샘플 및 18,700개의 평가용 샘플)을 구축했습니다. 단순한 이진 분류를 넘어, 자세한 자연어 설명을 함께 제공하여 모델의 투명성을 높였습니다.
• 설명 가능한 모델: 연구팀은 IVY-FAKE 데이터셋을 기반으로, IVY-XDETECTOR라는 새로운 탐지 모델을 개발했습니다. IVY-XDETECTOR는 이미지와 비디오 콘텐츠에 대한 설명 가능한 탐지를 동시에 수행하며, 기존 모델들보다 뛰어난 성능을 보여줍니다.
• 공개된 데이터셋: IVY-FAKE 데이터셋은 https://huggingface.co/datasets/AI-Safeguard/Ivy-Fake에서 공개되어, AIGC 탐지 기술 발전에 기여할 것으로 기대됩니다.

IVY-FAKE는 단순히 AIGC를 탐지하는 것을 넘어, 그 결과를 명확하게 설명하고 이해할 수 있도록 함으로써, AI 기술에 대한 신뢰도를 높이는 중요한 발걸음을 내딛었습니다. 이를 통해 우리는 AI 기술의 긍정적 측면을 활용하면서, 동시에 부정적 영향으로부터 사회를 보호할 수 있는 길을 모색하게 될 것입니다.