🚨LLM 기반 다중 에이전트 시스템의 IP 유출 위협: MASLEAK 공격 프레임워크 분석 🚨

LLM 기반 다중 에이전트 시스템(MAS)의 지적재산(IP) 유출 위험성을 다룬 연구에서, MASLEAK이라는 새로운 공격 프레임워크가 소개되었습니다. 이 프레임워크는 실제 환경에서 높은 성공률을 기록하여, LLM 기반 MAS의 보안 취약성을 강조하고 향후 보안 강화의 필요성을 시사합니다.

LLM 기반 다중 에이전트 시스템의 치명적인 약점: IP 유출 위협과 MASLEAK

최근 대규모 언어 모델(LLM)의 발전으로 복잡한 작업을 수행하기 위해 여러 에이전트가 협업하는 다중 에이전트 시스템(MAS)이 급부상했습니다. 하지만 MAS의 복잡한 구조와 에이전트 간 상호작용은 지적 재산(IP) 보호에 대한 심각한 우려를 불러일으키고 있습니다.

Liwen Wang 등 연구진은 이러한 위협에 대한 획기적인 연구 결과를 발표했습니다. 그들은 MAS에서 민감한 정보를 추출하도록 설계된 새로운 공격 프레임워크, MASLEAK을 소개했습니다. MASLEAK은 공격자가 MAS의 구조나 에이전트 구성에 대한 사전 지식이 없는 실제 블랙박스 환경을 대상으로 합니다. 공격자는 공개 API를 통해 MAS와 상호 작용하여 공격 쿼리(q)를 제출하고 최종 에이전트의 출력을 관찰하는 방식으로 작동합니다.

MASLEAK의 작동 방식은 컴퓨터 웜의 전파 및 감염 과정에서 영감을 받았습니다. 즉, MAS의 각 에이전트로부터 응답을 유도, 전파, 유지하여 독점 구성 요소(에이전트 수, 시스템 토폴로지, 시스템 프롬프트, 작업 지침, 도구 사용 등)를 모두 드러내는 것입니다.

연구진은 810개의 MAS 애플리케이션으로 구성된 최초의 합성 데이터 세트를 구축하고, Coze 및 CrewAI와 같은 실제 MAS 애플리케이션에 대한 MASLEAK의 성능을 평가했습니다. 그 결과, MASLEAK은 시스템 프롬프트 및 작업 지침에 대해 평균 87%의 성공률, 시스템 아키텍처에 대해 92%의 높은 정확도를 달성했습니다. 이것은 LLM 기반 MAS의 보안 취약성이 매우 심각함을 시사하는 결과입니다.

본 연구는 MAS의 IP 유출 위험성을 명확히 보여주는 동시에, 향후 보안 강화 방안 마련을 위한 중요한 시사점을 제공합니다. LLM 기반 MAS의 발전과 함께, 이러한 위협에 대한 지속적인 연구와 대응책 개발이 절실히 필요합니다.