봇 워즈: AI가 전화 사기를 막는 새로운 전쟁터

본 기사는 LLM을 활용한 전화 사기 방지 시스템 '봇 워즈'에 대해 다룹니다. 경쟁 LLM과 사고 과정 추론을 통해 전략을 생성하고, 이중 구조 프롬프트 아키텍처로 현실적인 가상 인물을 구축하는 시스템의 특징과 GPT-4와 Deepseek의 역할을 설명합니다. AI 기술 발전과 범죄 진화의 끊임없는 싸움 속에서 봇 워즈는 새로운 전기를 마련한 혁신적인 시스템으로 평가됩니다.

최근 전화 사기는 갈수록 지능화되고 정교해지고 있습니다. 이에 맞서, Nardine Basta, Conor Atkins, Dali Kaafar 연구팀이 개발한 혁신적인 시스템, **'봇 워즈(Bot Wars)'**가 등장했습니다. 봇 워즈는 대규모 언어 모델(LLM) 을 활용하여 사기꾼과의 가상 대화를 통해 사기를 차단하는 시스템입니다. 단순히 사기를 막는 것을 넘어, 사기꾼의 전략을 역으로 이용하는, 새로운 형태의 '전쟁'이라고 할 수 있습니다.

핵심 전략: 경쟁하는 LLM과 사고 과정 추론

봇 워즈의 가장 큰 특징은 경쟁하는 LLM을 활용한다는 점입니다. 각 LLM은 서로 다른 전략을 가지고 사기꾼과 대화하며, 이 과정에서 최적화 없이 사고 과정 추론(chain-of-thought reasoning) 을 통해 전략이 자연스럽게 생성됩니다. 마치 바둑 AI처럼, 명시적인 지침 없이도 스스로 학습하고 진화하는 것입니다.

이중 구조 프롬프트: 현실적인 가상 인물과 전략적 일관성

연구팀은 이중 구조 프롬프트 아키텍처를 통해 LLM이 인구통계학적으로 사실적인 피해자 인물을 만들면서 동시에 전략적 일관성을 유지하도록 했습니다. 이는 마치 실제 피해자처럼 행동하며 사기꾼을 교묘하게 속이는 것을 의미합니다. 3,200건의 사기 대화 데이터와 179시간의 인간 사기 대응 상호 작용 데이터를 기반으로 시스템의 효과를 검증했습니다.

GPT-4와 Deepseek: 각자의 강점

실험 결과, GPT-4는 대화의 자연스러움과 인물의 사실성에서 뛰어난 성능을 보였습니다. 반면, Deepseek은 대화를 지속적으로 유지하는 능력이 더 뛰어났습니다. 각 LLM의 강점을 활용하여 시스템의 완성도를 높인 것입니다. 인지적, 정량적, 내용 중심의 다양한 지표를 통해 봇 워즈의 효과를 체계적으로 평가했습니다.

미래를 향한 전망

봇 워즈는 단순한 사기 방지 시스템을 넘어, AI가 인간의 위협에 맞서 싸우는 새로운 방법을 제시합니다. 앞으로 이 시스템이 더욱 발전하여 전화 사기뿐 아니라 다양한 유형의 사이버 범죄를 예방하는 데 기여할 수 있을 것으로 기대됩니다. 하지만, AI의 발전과 함께 사기꾼들의 기술 또한 발전할 것이라는 점을 고려해야 합니다. 지속적인 연구와 발전을 통해 봇 워즈를 더욱 강력하고 안전하게 만들어야 할 것입니다. AI 기술 발전과 범죄의 진화 사이의 끊임없는 싸움이 계속될 것입니다. 봇 워즈는 이 싸움에서 중요한 전기를 마련한 혁신적인 시스템이라고 할 수 있습니다.