AI 설명의 새로운 지평: 설득의 기술을 더하다

미시간 대학교 연구진의 논문 "수사적 XAI"는 설명 가능한 AI(XAI)에 수사적 디자인을 접목하여 사용자의 신뢰도와 AI 채택률을 높이는 방법을 제시합니다. 논리적 추론, 신뢰도, 감정적 공감이라는 세 가지 수사적 요소를 통해 AI 설명의 효과를 극대화하고자 합니다.

최근 인공지능(AI) 기술의 발전과 함께, AI의 결정 과정을 사람들이 이해할 수 있도록 설명하는 설명 가능한 AI (XAI) 의 중요성이 더욱 커지고 있습니다. 하지만 기존의 XAI는 주로 개별 예측이나 시스템 동작 자체에 대한 설명에 초점을 맞춰왔습니다. 그 결과, AI 시스템의 유용성, 신뢰도에 대한 사용자의 긍정적 인식을 제대로 이끌어내지 못하는 경우가 많았습니다.

미시간 대학교 연구진(Houjiang Liu, Yiheng Su, Matthew Lease)은 이러한 문제를 해결하기 위해 수사적 디자인(Rhetorical Design) 을 XAI에 접목하는 획기적인 연구를 발표했습니다. 논문 제목은 바로 **"수사적 XAI: 수사적 디자인을 통한 AI의 이점 및 활용 설명"**입니다. 이 연구는 단순한 정보 제공을 넘어, 사용자를 설득하고 AI에 대한 긍정적 태도를 형성하는 데 초점을 맞추고 있습니다.

연구진은 XAI 설명이 단순한 정보 전달이 아니라 사용자를 설득하는 하나의 '주장'으로 기능한다는 점을 강조합니다. 이를 위해 수사적 디자인의 세 가지 중요한 요소를 제시합니다.

1. 논리적 추론 (Logical Reasoning): 다양한 유형의 설명을 통해 AI의 결정 과정을 논리적으로 제시합니다. 사용자가 AI의 추론 과정을 이해하고 수긍할 수 있도록 명확하고 일관성 있는 설명이 필수적입니다.
2. 신뢰도 (Credibility): AI 시스템과 개발자의 신뢰도를 높이는 전략입니다. 투명성과 정확성을 확보하고, 사용자에게 AI 시스템의 한계와 가능성을 솔직하게 알림으로써 신뢰를 구축해야 합니다.
3. 감정적 공감 (Emotional Resonance): 사용자의 감정에 호소하는 전략입니다. AI 시스템이 사용자에게 유용하고, 도움이 되는 존재로 인식될 수 있도록 감정적인 연결고리를 형성해야 합니다.

이러한 수사적 요소들을 통해 사용자의 인식을 효과적으로 변화시키고, AI 채택을 증진시킬 수 있다는 것이 연구진의 주장입니다. 연구는 기존 XAI 연구를 바탕으로, 세 가지 수사적 요소에 부합하는 설계 전략을 제시하고, 수사적 디자인을 XAI에 통합하는 과정에서의 기회와 과제를 함께 제시합니다.

이 연구는 단순한 기술적 발전을 넘어, AI와 인간의 효과적인 소통과 상호 작용을 위한 새로운 패러다임을 제시한다는 점에서 큰 의미를 지닙니다. 앞으로 AI 개발자들은 단순히 기술적인 완성도뿐만 아니라, 사용자에게 AI를 효과적으로 설명하고 신뢰를 구축하는 방법에 대해 더욱 고민해야 할 것입니다. 수사적 디자인이라는 새로운 관점은 AI 기술의 윤리적, 사회적 함의를 고려하는 데에도 큰 도움을 줄 것입니다. ✨