생성 모델과 적대적 랜덤 포레스트를 활용한 조건부 특징 중요도 측정: 새로운 XAI 접근법 cARFi
본 논문은 생성 모델, 특히 Adversarial Random Forest(ARF)를 이용하여 조건부 특징 중요도를 측정하는 새로운 방법인 cARFi를 제안합니다. cARFi는 기존 방법의 한계를 극복하고, 간편한 튜닝과 높은 유연성, 통계적 유의성 추론 등의 장점을 제공하며 XAI 분야 발전에 크게 기여할 것으로 예상됩니다.

설명 가능한 인공지능(XAI) 분야에서 조건부 특징 중요도는 예측 모델 성능에 대한 특징의 영향을 다른 특징들의 정보를 고려하여 평가하는 중요한 지표입니다. 하지만 기존의 모델-애그노스틱 사후 분석 방법들은 다양체(manifold)를 존중하는 특징값 조작이 어렵다는 한계를 가지고 있었습니다. 이러한 문제를 해결하기 위해, 최근 생성 모델의 발전이 새로운 가능성을 열었습니다.
Kristin Blesch 등 연구진이 발표한 논문 "Conditional Feature Importance with Generative Modeling Using Adversarial Random Forests"는 이러한 한계를 극복하는 혁신적인 방법을 제시합니다. 본 연구는 표 형태의 데이터 (범주형 및 연속형 특징 모두 포함)에 대해, Adversarial Random Forest (ARF) 라는 강력한 생성 모델을 활용합니다. ARF는 집중적인 튜닝이나 많은 계산 자원 없이도 다양체를 존중하는 데이터 포인트를 생성할 수 있다는 장점을 가지고 있습니다. 이는 XAI 방법의 하위 루틴으로 사용하기에 매우 적합합니다.
연구진은 ARF로부터 추정된 조건부 분포에서 샘플링된 특징값을 통해 조건부 특징 중요도를 측정하는 새로운 방법인 cARFi (conditional ARF feature importance) 를 제안합니다. cARFi는 다음과 같은 장점을 가지고 있습니다:
- 간편한 튜닝: 강력한 중요도 점수를 얻기 위한 튜닝 과정이 간단합니다.
- 유연성: 조건부 또는 주변부 특징 중요도 개념에 유연하게 적용 가능합니다. 특징 하위 집합을 조건으로 설정하는 확장도 간단하게 구현 가능합니다.
- 통계적 유의성 추론: 통계적 검정을 통해 특징 중요도의 유의성을 추론할 수 있습니다.
본 연구는 기존 XAI 방법의 한계를 극복하고, 조건부 특징 중요도를 보다 효과적이고 정확하게 측정할 수 있는 새로운 길을 제시했습니다. cARFi는 다양한 분야에서 XAI 모델의 해석력을 높이는 데 크게 기여할 것으로 기대됩니다. 앞으로 ARF를 기반으로 한 다양한 XAI 기법들의 발전이 더욱 기대되는 부분입니다.
Reference
[arxiv] Conditional Feature Importance with Generative Modeling Using Adversarial Random Forests
Published: (Updated: )
Author: Kristin Blesch, Niklas Koenen, Jan Kapar, Pegah Golchian, Lukas Burk, Markus Loecher, Marvin N. Wright
http://arxiv.org/abs/2501.11178v1