AI 에이전트의 숨겨진 흔적: Agent Guide 워터마킹 프레임워크

황 카이보, 양 종량, 주 린나 연구팀이 개발한 Agent Guide는 AI 에이전트의 행동에 워터마크를 삽입하여 추적 및 책임 문제를 해결하는 혁신적인 프레임워크입니다. 행동과 행위를 분리하고 확률적 편향을 활용하여 자연스러우면서도 안정적인 워터마킹을 가능하게 합니다.

최근 소셜 미디어 플랫폼 등 디지털 생태계에서 AI 에이전트의 활용이 급증하면서, 특히 사이버 보안 및 디지털 콘텐츠 보호 측면에서 추적 및 책임 문제가 심각하게 대두되고 있습니다. 기존의 대규모 언어 모델(LLM) 워터마킹 기술은 토큰 단위 조작에 의존하기 때문에, 에이전트의 행동 토큰화 어려움 및 행동-행위 변환 과정에서의 정보 손실 문제로 인해 에이전트에는 적합하지 않습니다.

황 카이보, 양 종량, 주 린나 연구팀은 이러한 문제를 해결하기 위해 Agent Guide라는 혁신적인 행동 워터마킹 프레임워크를 제안했습니다. Agent Guide는 에이전트의 고차원적인 결정(행동)에 확률적 편향을 부여하여 워터마크를 삽입하는 동시에, 특정 실행(행위)의 자연스러움을 유지하는 독창적인 접근 방식을 사용합니다.

Agent Guide의 핵심은 에이전트의 행동을 행동(예: 북마크 선택) 과 행위(예: 특정 태그를 사용한 북마크) 의 두 가지 레벨로 분리하고, 행동 확률 분포에 워터마크 유도 편향을 적용하는 것입니다. 또한, z-통계 기반의 통계 분석을 사용하여 워터마크를 검출하여 여러 라운드에 걸쳐 안정적인 추출을 보장합니다.

다양한 에이전트 프로필을 가진 소셜 미디어 시나리오에서의 실험 결과, Agent Guide는 낮은 오탐율로 효과적인 워터마크 검출을 달성했습니다. 이 프레임워크는 악의적인 에이전트 식별 및 독점 에이전트 시스템 보호에 활용될 수 있는 실용적이고 강력한 에이전트 워터마킹 솔루션을 제공합니다.

Agent Guide의 주요 특징:

• 행동-행위 이중 레벨 접근: 행동과 행위를 분리하여 자연스러운 워터마킹 삽입
• 확률적 편향: 행동 확률 분포에 워터마크 유도 편향 적용
• z-통계 기반 검출: 높은 신뢰도의 워터마크 검출 및 낮은 오탐율
• 실용성 및 강력성: 악의적인 에이전트 식별 및 독점 시스템 보호에 효과적

이 연구는 AI 에이전트의 책임성과 보안을 확보하는 데 중요한 발걸음이며, 앞으로 더욱 발전된 AI 시스템 구축에 기여할 것으로 기대됩니다.