믿음과 설명 가능성: AI의 상관관계 탐구

설명 가능한 AI(XAI)와 사용자 신뢰도 간의 상관관계를 탐구한 메타 분석 연구 결과, 설명 가능성이 신뢰도 향상에 기여하지만 유일한 요인은 아니며, AI 시스템의 진정하고 지속 가능한 신뢰성 확보가 중요함을 강조.

최근 인공지능(AI) 분야에서 뜨거운 감자로 떠오른 주제가 있습니다. 바로 설명 가능한 AI(XAI) 와 사용자 신뢰도의 관계입니다. 일반적으로 AI 시스템의 설명 가능성이 높아질수록 사용자의 신뢰도 또한 높아진다는 가정이 널리 퍼져 있죠. 하지만 이 가정이 과연 정말일까요?

Zahra Atf와 Peter R. Lewis가 이끄는 연구팀은 이 질문에 답하기 위해 90개의 기존 연구를 메타 분석했습니다. 그 결과는 놀랍습니다. 연구팀은 설명 가능성과 사용자 신뢰도 간에 통계적으로 유의미한 양의 상관관계를 발견했습니다. 즉, AI가 어떻게 작동하는지 이해할 수 있도록 설명할 수 있다면, 사람들은 그 AI를 더욱 신뢰한다는 것입니다.

하지만 이 상관관계는 중간 정도의 강도를 보였습니다. 이는 설명 가능성이 신뢰도 향상에 기여하지만, 그것만으로는 충분하지 않다는 것을 의미합니다. 다른 요인들, 예를 들어 AI의 정확성, 공정성, 투명성 등도 사용자의 신뢰도에 영향을 미치는 중요한 요소일 것입니다.

이 연구는 XAI 분야에 대한 학문적 기여뿐만 아니라, 더 나아가 사회기술적 함의를 갖습니다. 특히 의료, 사법 등과 같이 신뢰성이 매우 중요한 분야에서 AI의 책임성과 신뢰도 확보는 필수적입니다. 알고리즘 편향이나 윤리적 투명성과 같은 문제를 해결해야만 공정하고 지속 가능한 AI 도입이 가능합니다.

결론적으로, 연구팀은 단순히 즉각적인 신뢰도 향상에만 집중하기보다는 AI 시스템의 진정하고 지속 가능한 신뢰성을 확보하는 것이 중요하다고 강조합니다. 설명 가능성은 신뢰를 높이는 중요한 요소이지만, AI에 대한 신뢰를 구축하기 위한 노력은 훨씬 더 포괄적이고 다면적인 접근 방식을 필요로 한다는 것을 이 연구는 보여줍니다. 단순한 설명 가능성을 넘어, 공정성, 투명성, 책임성을 갖춘 AI 시스템 구축에 대한 고민이 지금보다 더욱 필요한 시점입니다.