멀티모달 RAG 시스템의 치명적 약점 공개: MM-PoisonRAG 공격

본 연구는 멀티모달 RAG 시스템의 지식 독(Poisoning) 공격에 대한 취약성을 밝히고, 지역적 및 전역적 공격 전략을 제시하여 최대 56%의 성공률과 0% 정확도를 달성했습니다. 이는 MLLM의 안전성과 신뢰성 확보를 위한 강력한 방어 기술 개발의 시급성을 강조합니다.

최근 하현정, 전정환 등 국내외 연구진이 발표한 논문 “MM-PoisonRAG: Disrupting Multimodal RAG with Local and Global Poisoning Attacks”은 멀티모달 대규모 언어 모델(MLLM)의 취약성을 적나라하게 드러냈습니다. 특히, 외부 지식베이스에 의존하는 RAG(Retrieval Augmented Generation) 기반 MLLM이 지식 독(Poisoning) 공격에 얼마나 취약한지 심각하게 경고하고 있습니다.

지역적 공격과 전역적 공격: 두 가지의 치명타

연구진은 MM-PoisonRAG이라는 새로운 공격 프레임워크를 제시하며, 두 가지 공격 전략을 선보였습니다.

• 지역적 독 공격(LPA): 특정 질문에 맞춰 텍스트와 이미지 모두에 잘못된 정보를 주입, 목표한 답변을 유도하는 공격입니다. MultiModalQA에서 최대 56%의 성공률을 기록하며, MLLM이 얼마나 쉽게 조작될 수 있는지 보여줍니다. 마치 영화 속 악당이 허점을 파고드는 것과 같은 정교한 공격입니다.
• 전역적 독 공격(GPA): 단 하나의 무관한 지식만 주입해도 MLLM의 생성 과정을 완전히 망가뜨립니다. 놀랍게도 정확도 0%라는 충격적인 결과를 만들어내며, 시스템 전반에 대한 심각한 위협을 시사합니다. 이는 시스템의 근본적인 취약성을 드러내는 중요한 발견입니다.

연구 결과의 의미와 미래

이 연구는 MLLM의 RAG 기반 시스템이 지식 독 공격에 매우 취약하다는 것을 명확히 증명했습니다. 56%의 성공률은 단순한 오류가 아닌, 시스템의 신뢰성에 대한 심각한 위협을 의미합니다. 특히, 전역적 공격의 0% 정확도는 시스템의 안전성에 대한 심각한 우려를 불러일으키며, 즉각적인 대응책 마련의 필요성을 강조합니다. 이 연구는 단순한 기술적 발견을 넘어, AI 시스템의 안전성과 신뢰성 확보를 위한 새로운 패러다임 전환을 요구하는 중요한 이정표가 될 것입니다. 앞으로는 지식 독 공격에 대한 강력한 방어 기술 개발이 절실히 요구되며, AI 시스템 개발 과정에서 보안에 대한 더욱 엄격한 기준 마련이 필요합니다. 이 연구는 AI의 윤리적, 안전적 문제에 대한 심도 있는 논의를 촉구하는 중요한 신호탄입니다.