항공 교통 관제의 미래: 인간 중심의 설명 가능한 AI

본 논문은 항공 교통 관제사(ATCO) 중심의 설명 가능한 AI(XAI) 시스템 설계에 대한 인간 중심 접근법을 제시합니다. ATM 운영 목표 평가를 통해 ATCO들이 의사 결정 문서화 및 보고서 작성 시 XAI 설명을 필요로 하지만, AI 자문과 ATCO의 판단이 일치할 경우 설명 필요성이 감소함을 밝혔습니다. 이 연구는 더 효과적인 인간-AI 상호 작용을 위한 XAI 시스템 설계에 중요한 시사점을 제공합니다.

설명 가능한 AI(XAI)의 새로운 지평: 항공 교통 관제사를 위한 인간 중심 접근법

최근 설명 가능한 AI(XAI)에 대한 관심이 급증하고 있습니다. 하지만 기존 연구는 주로 AI 시스템이 얼마나 잘 설명을 생성하는지에 초점을 맞춰왔습니다. 연구자들의 직관에 의존한 결과, 실제 최종 사용자인 항공 교통 관제사(ATCO)들의 요구는 충분히 반영되지 못했습니다. 심지어 블랙박스 기반 시스템보다 성능이 떨어지는 경우도 발생했습니다.

Katherine Fennedy 등 연구진이 발표한 논문 "Do ATCOs Need Explanations, and Why? Towards ATCO-Centered Explainable AI for Conflict Resolution Advisories"는 이러한 문제점을 해결하기 위한 새로운 시도를 제시합니다. 바로 인간 중심의 접근법입니다. 연구진은 ATCO들이 정말로 설명을 필요로 하는지, 그리고 그 이유가 무엇인지를 묻는 근본적인 질문으로부터 연구를 시작했습니다.

연구진은 항공 교통 관리(ATM), 인간-컴퓨터 상호 작용, 사회 과학 분야의 통찰력을 종합적으로 분석하여 ATM 분야에서 XAI가 직면한 과제와 기회를 파악했습니다. 그 결과, 11가지 ATM 운영 목표에 대한 평가를 통해 중요한 사실을 발견했습니다. ATCO들이 미래를 위한 의사 결정 및 근거 문서화나 보고서 작성을 목적으로 할 때는 AI의 설명이 필수적이라는 것입니다.

하지만 흥미로운 점은 ATCO의 갈등 해결 방식이 AI의 자문과 일치할 경우, 설명을 찾는 빈도가 낮아진다는 점입니다. 즉, AI의 제안이 ATCO의 판단과 일치하면, 추가적인 설명은 필요하지 않다는 것을 의미합니다. 이는 ATCO들이 AI를 단순한 도구가 아닌, 협력적인 파트너로 인식할 때 발생하는 현상으로 해석될 수 있습니다.

이 연구는 아직 예비 단계의 결과이지만, ATM 분야에서 더욱 효과적인 인간-AI 상호 작용을 위한 ATCO 중심의 XAI 시스템 설계에 대한 중요한 방향을 제시합니다. 앞으로 ATCO들의 요구와 맥락을 고려한 XAI 시스템 개발이 더욱 활발해질 것으로 예상됩니다. 이는 단순히 기술적인 발전을 넘어, 인간과 AI의 조화로운 공존을 위한 중요한 발걸음이 될 것입니다. 💯