AI TREND NOW

#충격! 설명가능한 AI 논문의 99% 이상, 인간 검증 없이 주장만 난무?

설명 가능한 AI(XAI) 논문의 99% 이상이 인간의 이해 가능성을 제대로 검증하지 않았다는 연구 결과가 나왔습니다. 이 연구는 XAI 분야의 연구 방향 전환과 인간 중심적 평가의 중요성을 강조하며, 책임있는 AI 개발의 필요성을 다시 한번 일깨워줍니다.

설명가능한 AI 논문의 99% 이상, 인간 검증 없이 주장만 난무?

최근 Ashley Suh, Isabelle Hurley, Nora Smith, Ho Chit Siu 연구팀의 흥미로운 연구 결과가 발표되었습니다. 바로 설명 가능한 AI (XAI) 논문의 99% 이상이 인간의 설명 가능성을 제대로 검증하지 않았다는 것입니다.

연구팀은 전문 사서와 협력하여 '설명 가능성'과 '해석 가능성' 관련 키워드를 포함한 18,254편의 논문을 분석했습니다. 그 결과, XAI 기법의 인간 평가를 시사하는 용어를 포함한 논문은 253편에 불과했고, 그중 실제 인간 연구를 수행한 논문은 128편에 그쳤습니다. 즉, 전체 XAI 논문의 0.7%만이 인간의 설명 가능성에 대한 경험적 증거를 제시한 셈입니다.

이는 XAI 분야에서 '설명 가능하다'는 주장과 실제 인간의 이해도 사이에 엄청난 괴리가 존재함을 시사합니다. 연구팀은 XAI 연구의 엄격성에 대한 우려를 제기하며, 인간 평가를 중시하는 연구 방향 전환을 촉구하고 있습니다. 더불어, 연구 방법론을 공개하여 다른 연구자들의 재현성을 높이고, 이 문제에 대한 추가 연구를 장려하고 있습니다.

이 연구는 단순히 숫자 이상의 의미를 지닙니다. AI의 설명 가능성은 단순히 기술적 문제가 아닌, 인간과 AI의 상호 작용, 신뢰 구축, 윤리적 고려 등 다양한 측면을 포함하는 복잡한 문제입니다. 인간의 이해와 수용 없이는 진정한 설명 가능성을 확보할 수 없습니다. 따라서 이 연구는 XAI 분야의 연구자들에게 경종을 울리고, 더욱 인간 중심적인 연구 패러다임으로의 전환을 요구하는 중요한 메시지를 담고 있습니다.

이 연구는 AI 기술 발전에 있어서 단순한 기술적 성능 향상뿐 아니라, 인간과의 조화와 신뢰를 중시하는 **'책임있는 AI 개발'**의 중요성을 다시 한번 일깨워 줍니다. 앞으로 XAI 연구는 인간 참여를 통한 실증적 검증 없이는 진정한 발전을 이룰 수 없다는 점을 명심해야 할 것입니다.