딥페이크의 대중화: 손쉽게 만들어지는 '악의적인' 이미지들

본 기사는 쉽게 접근 가능해진 딥페이크 모델의 급증과 그 위험성에 대해 다룹니다. 연구에 따르면, 수많은 딥페이크 모델이 공개적으로 배포되어 다운로드되고 있으며, 특히 여성을 타겟으로 한 비동의적 친밀 이미지 생성에 악용될 가능성이 높음을 보여줍니다. 저사양 컴퓨터에서도 딥페이크 생성이 가능해짐에 따라, 강력한 규제와 윤리적 인식 제고의 필요성을 강조합니다.

최근 몇 년 사이, 인공지능 기술의 발전은 눈부십니다. 특히 텍스트-이미지(T2I) 모델은 그 대표적인 예로, 누구나 쉽게 텍스트만으로 이미지를 생성할 수 있는 시대를 열었습니다. 하지만 이러한 기술 발전은 동시에 새로운 위협을 불러왔습니다. 바로 '딥페이크'의 대중화입니다.

Will Hawkins, Chris Russell, Brent Mittelstadt 가 공동으로 진행한 연구에 따르면, Hugging Face와 Civitai와 같은 플랫폼에 공개적으로 배포된 딥페이크 모델 변형체가 무려 3만 5천 개에 달하며, 2022년 11월 이후 1500만 번 이상 다운로드되었다고 합니다. 놀라운 것은 이러한 딥페이크 모델의 대부분이 여성을 타겟으로 하며 (96%), 비동의적 친밀 이미지(NCII) 생성을 목적으로 제작되었다는 점입니다.

더욱 충격적인 사실은, 'LoRA' 라는 매개변수 효율적인 미세 조정 기술을 통해 단 20장의 이미지와 24GB의 VRAM, 그리고 15분의 시간만으로도 딥페이크 생성이 가능하다는 점입니다. 이는 고성능 컴퓨터가 아닌 일반 소비자급 컴퓨터에서도 딥페이크 생성이 가능하다는 것을 의미합니다. 유명인 뿐만 아니라, 팔로워 1만 명 이하의 일반 인스타그램 사용자들까지도 딥페이크의 표적이 되고 있습니다.

이러한 현실은 플랫폼의 서비스 약관 위반은 물론이고, 딥페이크 생성 및 유포를 막기 위한 규제 노력에도 불구하고, 딥페이크 문제가 여전히 심각한 수준임을 보여줍니다. 단순한 기술적 발전이 아닌, 윤리적, 법적 문제로 인식되어야 할 시점입니다.

연구 결과는 우리에게 경종을 울립니다. 기술의 발전은 양날의 검과 같습니다. 딥페이크 기술의 악용을 막기 위한 사회적, 기술적 해결책 마련이 절실합니다. 플랫폼의 책임 있는 관리, 강력한 규제, 그리고 시민들의 윤리적 인식 제고가 함께 이루어져야만 딥페이크로 인한 피해를 최소화할 수 있을 것입니다.

핵심 내용:

• 3만 5천 개 이상의 딥페이크 모델 변형체가 공개적으로 접근 가능함.
• 2022년 11월 이후 1500만 번 이상 다운로드됨.
• 대부분의 모델이 여성을 타겟으로 하며 비동의적 친밀 이미지 생성을 목적으로 함.
• LoRA 기술을 통해 저사양 컴퓨터에서도 딥페이크 생성 가능.
• 플랫폼 서비스 약관 위반 및 규제에도 불구하고 딥페이크 생성 및 유포가 지속됨.