잠재 공간 탐색을 통한 그래프 반실증적 설명 가능 AI
본 연구는 딥러닝 모델의 예측 결과를 설명하는 데 어려움을 극복하기 위해 그래프 데이터에 대한 반실증적 설명을 생성하는 새로운 방법을 제시합니다. 잠재 공간 탐색을 통해 이산적 그래프 구조와 연속적 그래프 속성을 효과적으로 통합하고, 실험 결과 기존 방법보다 우수한 성능을 보였습니다.

딥러닝의 블랙박스를 벗겨내다: 그래프 데이터에 대한 설명 가능한 AI
깊은 신경망의 예측 결과를 설명하는 것은 쉽지 않습니다. 마치 블랙박스와 같죠. 하지만, 전문가들이 이러한 모델을 신뢰하려면 예측에 대한 고품질 설명이 필수적입니다. 여기서 핵심이 되는 개념이 바로 반실증적 설명(Counterfactual Explanation) 입니다. 이는 예측이 특정 방식으로 변하는 ''가장 가까운'' 분포 내의 대체 입력을 찾아 예측을 설명하는 방법입니다.
하지만, 이 '가장 가까운' 대체 입력을 어떻게 정의할지는 여전히 풀어야 할 숙제입니다. 도메인(이미지, 그래프, 표 형식 데이터 등)과 특정 응용 분야에 따라 달라지기 때문입니다. 특히 그래프 데이터는 이산적인 특성과 노드 순열 그룹으로 인해 문제가 더욱 복잡해집니다.
덴마크 알보르그 대학교의 Andreas Abildtrup Hansen을 비롯한 연구팀은 이러한 문제를 해결하기 위해 새로운 방법을 제시했습니다. 그들은 케이스별 순열 동변량 그래프 변분 자동 인코더(permutation equivariant graph variational autoencoder) 를 사용하여 어떤 미분 가능한 블랙박스 그래프 분류기에 대해서도 반실증적 설명을 생성하는 방법을 개발했습니다.
이 방법의 핵심은 자동 인코더의 잠재 공간을 탐색하는 것입니다. 분류기의 분류 경계를 가로질러 잠재 공간을 이동함으로써 반실증적 설명을 연속적으로 생성합니다. 이를 통해 이산적인 그래프 구조와 연속적인 그래프 속성을 매끄럽게 통합할 수 있습니다.
연구팀은 세 가지 그래프 데이터셋을 사용하여 이 방법의 효과를 실험적으로 검증했습니다. 그 결과, 이 모델이 기존 방법보다 꾸준히 높은 성능을 보이며 더욱 강력함을 입증했습니다. 이 연구는 딥러닝 모델의 신뢰성을 높이고, 그래프 데이터 분석 분야에 새로운 가능성을 제시할 것으로 기대됩니다.
잠재 공간 탐색: 마치 미지의 영역을 탐험하는 것처럼, 연구팀은 자동 인코더의 잠재 공간을 탐험하여 그래프 데이터의 복잡한 패턴을 이해하고 설명 가능한 AI를 구축하는 데 성공했습니다. 이는 딥러닝의 블랙박스를 벗겨내는 중요한 진전입니다.
Reference
[arxiv] Graph Counterfactual Explainable AI via Latent Space Traversal
Published: (Updated: )
Author: Andreas Abildtrup Hansen, Paraskevas Pegios, Anna Calissano, Aasa Feragen
http://arxiv.org/abs/2501.08850v1