믿을 수 있는 대화형 AI 에이전트 시스템: ASP 기반의 듀얼 에이전트 접근법

LLM 기반 AI 챗봇의 신뢰성 문제를 해결하기 위해 ASP를 활용한 듀얼 에이전트 시스템(AutoManager)을 제시하고, Taco Bell 드라이브 스루 시스템과 비교 평가를 통해 그 효용성을 입증한 연구 결과를 소개합니다.

최근 대규모 언어 모델(LLM) 기반 AI 챗봇이 인기를 끌면서, 특히 작업 지향 대화(TOD) 분야에서 그 가능성이 주목받고 있습니다. 하지만 LLM에만 의존하는 챗봇은 지식의 신뢰성이 떨어지고, 과연 작업을 올바르게 수행할 수 있을지 보장할 수 없다는 한계를 가지고 있습니다. 여기에 더해, 에이전트 간 협업 또한 상당한 어려움을 안고 있습니다. 필요한 정보 전달이 불분명하고, 프롬프트를 통한 정보 전달 방식은 신뢰성이 낮으며 악의적인 정보 주입이 쉽기 때문입니다.

Yankai Zeng과 Gopal Gupta는 이러한 문제를 해결하기 위해 답집합 프로그래밍(ASP)이라는 논리 프로그래밍 도구를 활용한 새로운 접근법을 제시했습니다. ASP를 통해 대화형 에이전트를 안전하고 신뢰성 있게 구축하고, 에이전트 간 통신을 더욱 효율적이고 안전하게 만들 수 있다는 것입니다.

연구진은 관리자-보조 듀얼 에이전트 패러다임을 제안했습니다. 두 개의 ASP 기반 봇이 동일한 지식베이스를 공유하고 독립적으로 작업을 수행하며, 협업 규칙 집합(CRS)을 통해 정보를 교환하는 방식입니다. 이때 전달되는 지식과 정보는 사용자에게는 보이지 않게 캡슐화되어 정보 전달의 안전성을 보장합니다.

연구진은 이 아이디어를 바탕으로 AutoManager라는 시스템을 구축했습니다. 미국의 Taco Bell과 같은 패스트푸드 레스토랑의 드라이브 스루 창구 관리 시스템입니다. 보조 봇이 고객의 주문을 받고, 관리자 봇이 메뉴와 식재료 공급을 관리하는 구조입니다. 연구진은 AutoManager를 실제 Taco Bell 드라이브 스루 AI 주문 시스템과 비교 평가한 결과, 자체 개발한 시스템이 더 높은 신뢰성을 보였다고 밝혔습니다. 이는 LLM의 한계를 ASP와 듀얼 에이전트 시스템을 통해 극복할 수 있음을 보여주는 중요한 결과입니다. 이 연구는 향후 더욱 안전하고 효율적인 AI 챗봇 개발에 중요한 이정표가 될 것으로 기대됩니다.

핵심: LLM의 신뢰성 문제 해결을 위해 ASP를 활용한 듀얼 에이전트 시스템 구축 및 실제 시스템과의 비교를 통한 성능 검증.