멀티모달 LLM의 놀라운 취약성: 단일 이미지로 모든 방어망을 무력화시키다!

러시아 연구진이 개발한 단일 이미지 기반의 보편적 적대적 공격은 다양한 멀티모달 LLM의 정렬 안전장치를 우회하며 최대 93%의 성공률을 달성, AI 안전성에 대한 심각한 우려와 더욱 강력한 방어 메커니즘의 필요성을 제기하는 연구 결과를 발표했습니다.

러시아 연구진(Temurbek Rahmatullaev 외)이 발표한 최근 논문은 멀티모달 대규모 언어 모델(LLM)의 심각한 취약성을 드러냈습니다. 그들은 단 하나의 최적화된 이미지를 이용하여 다양한 질문과 심지어 여러 모델에 걸쳐 적용되는 정렬 안전장치를 우회하는 보편적인 적대적 공격을 개발했습니다.

이 공격은 비전 인코더와 언어 헤드를 통해 역전파(backpropagating)를 수행하여, 모델이 특정 문구(예: “물론입니다, 여기 있습니다”)나 다른 안전하지 않은 콘텐츠를 생성하도록 만드는 합성 이미지를 생성합니다. 이는 악의적인 프롬프트에도 적용됩니다. SafeBench 벤치마크 실험 결과, 이 방법은 텍스트 전용 보편적 프롬프트를 포함한 기존 기법보다 훨씬 높은 공격 성공률을 기록했습니다. 특정 모델에서는 **최대 93%**에 달하는 성공률을 보였습니다.

더욱 놀라운 점은, 이 공격이 여러 멀티모달 LLM에서 동시에 훈련되고 미지의 아키텍처에서도 테스트될 수 있다는 점입니다. 즉, 한 번 개발된 공격이 다양한 모델에 적용 가능하다는 의미입니다. 뿐만 아니라, 다중 답변 변형을 통해 더욱 자연스럽게 들리는(하지만 여전히 악의적인) 응답을 생성할 수 있습니다.

연구진은 이러한 결과를 통해 현재 멀티모달 정렬의 중요한 취약성을 강조하고, 더욱 강력한 적대적 방어 메커니즘의 필요성을 역설했습니다. 논문에서는 Apache-2.0 라이선스 하에 코드와 데이터셋을 공개할 예정입니다. 하지만 주의해야 할 점은, 이 논문에서 생성된 일부 콘텐츠는 독자에게 불쾌감을 줄 수 있다는 것입니다. 이 연구는 AI 안전성에 대한 심각한 우려를 제기하며, 멀티모달 LLM의 안전하고 책임감 있는 개발 및 배포에 대한 심도있는 논의를 촉구합니다. 😈

핵심: 단일 이미지를 이용한 보편적 적대적 공격으로 멀티모달 LLM의 취약성을 폭로, 기존 방어 메커니즘의 한계를 드러내고 더욱 강력한 방어 기술 개발의 필요성을 제기하는 획기적인 연구 결과입니다.