의료 AI의 블랙박스를 벗기다: 후행적 설명의 재평가

본 기사는 의료 AI 분야에서 후행적 설명의 중요성을 재조명하는 논문을 소개합니다. 후행적 설명이 AI의 실제 추론 과정을 완벽히 재현하지 못하더라도, 의료진의 기능적 이해 증진, 의료진-AI 협력 강화, 의사결정 정당성 확보 등에 기여하여 의료 서비스 향상에 중요한 역할을 한다는 내용을 다룹니다.

최근 의료 AI 분야에서 '설명 가능한 AI(Explainable AI, XAI)'에 대한 관심이 높아지고 있습니다. 특히, 복잡한 의사결정 과정을 가진 '블랙박스' AI 시스템의 투명성을 확보하기 위한 노력이 활발히 진행 중인데요. 그 중심에 있는 것이 바로 후행적 설명(post-hoc explanations) 입니다.

Joshua Hatherley, Lauritz Munch, Jens Christian Bjerring 세 연구자는 "In defence of post-hoc explanations in medical AI" 논문에서 후행적 설명의 중요성을 역설했습니다. 기존에는 후행적 설명이 AI의 실제 추론 과정을 완벽히 재현하지 못한다는 비판이 제기되었죠. 하지만 이들은 이러한 비판에 맞서, 후행적 설명이 의료 현장에서 여전히 유용한 도구임을 주장합니다.

그 이유는 무엇일까요?

• 기능적 이해 증진: 후행적 설명은 AI 시스템의 작동 방식을 완벽하게 재현하지 못하더라도, 사용자(의료진)의 기능적 이해를 높일 수 있습니다. 즉, AI가 어떻게 결론에 도달했는지 정확히 알지 못하더라도, 그 결과를 해석하고 활용하는 데 필요한 정보를 제공할 수 있다는 것이죠.
• 의료진-AI 협력 강화: 후행적 설명은 의료진과 AI 시스템 간의 협력을 향상시킵니다. AI의 제안을 더욱 정확하게 이해하고, 판단에 반영하여 더 나은 진료 결과를 도출할 수 있도록 돕는 것이죠.
• 의사결정 정당성 확보: AI의 결정에 대한 후행적 설명은 의료진이 AI 기반 진료 결정을 정당화하는 데 도움을 줍니다. 이는 환자에게 더 나은 설명과 신뢰를 제공하고, 의료 분쟁 발생 가능성을 줄이는 데 기여할 수 있습니다.

결론적으로, 이 논문은 후행적 설명이 의료 AI의 '블랙박스' 문제에 대한 완벽한 해결책은 아니지만, 의료 현장에서의 AI 활용에 필수적인 도구임을 강조하고 있습니다. 후행적 설명은 의료진의 기능적 이해를 높이고, 의료진-AI 협력을 강화하며, 의사결정의 정당성을 확보하는 데 기여하여, 궁극적으로 더 안전하고 효과적인 의료 서비스 제공에 기여할 수 있다는 것이죠. 물론, 후행적 설명의 한계를 인지하고, 지속적인 연구와 개선을 통해 더욱 발전시켜 나가야 할 것입니다. 앞으로 후행적 설명 기술의 발전이 의료 AI의 신뢰도와 활용도를 더욱 높일 것으로 기대됩니다.