극단적 상황에서의 AI 공정성: 꼬리의 법칙을 넘어서
Verya Monjezi 등 연구진의 논문 "Fairness Testing through Extreme Value Theory"는 극단값 이론(EVT)을 활용하여 극단적 상황에서의 AI 공정성을 평가하고, 생성형 AI를 활용한 새로운 샘플링 기법과 ECD 기반 완화 알고리즘을 제시함으로써, AI의 윤리적 문제 해결에 기여하는 획기적인 연구입니다.

데이터 기반 소프트웨어는 자동화된 의사결정 지원 시스템의 핵심 요소로 자리 잡았습니다. 하지만 이러한 소프트웨어는 과거 데이터를 학습하기 때문에 차별적인 관행을 반영하거나 증폭시킬 수 있다는 위험이 있습니다.
기존의 알고리즘 공정성 연구는 주로 평균적인 공정성에 초점을 맞춰왔습니다. 하지만 Verya Monjezi 등 연구진은 최근 발표한 논문, "Fairness Testing through Extreme Value Theory"에서 사회적 태도 변화에 지속적이고 큰 영향을 미치는 극단적인 상황에서의 공정성에 주목했습니다. 이들은 극단값 이론(EVT)을 활용하여 새로운 공정성 기준인 '극단적 반사실적 차별(ECD)'을 제시했습니다. ECD는 보호받는 집단 구성원의 결과에서 최악의 불이익 정도를 추정하는 기준입니다.
연구진은 탐색 기반 소프트웨어 엔지니어링과 생성형 AI 도구를 활용하여, 관련 샘플 수가 충분하지 않더라도 ML 결과 분포의 꼬리에서 통계적으로 유의미한 점들을 샘플링하는 무작위 알고리즘을 제시했습니다. 이 알고리즘은 데이터 부족 문제를 해결하고 극단적인 상황에서의 공정성을 평가하는 데 중요한 역할을 합니다.
심층 신경망, 로지스틱 회귀, 랜덤 포레스트 등 4가지 ML 모델과 알고리즘 공정성 관련 10가지 사회적 과제를 대상으로 실험을 진행한 결과, 생성형 AI 방법론은 95%의 경우 유효한 EVT 분포를 추론하기에 충분한 샘플을 생성하는 것으로 나타났습니다. 놀랍게도, 기존의 편향 완화 알고리즘은 평균적인 차별을 줄이는 반면, 최악의 경우 차별을 상당히 증가시키는 경우(5%)도 발견되었습니다. 심지어 MiniMax-Fairness와 같은 꼬리 부분까지 고려하는 알고리즘조차도 최악의 경우 차별을 증가시키는 경우(30%)가 있었습니다.
연구진은 평균적인 차별을 저하시키지 않으면서 꼬리 부분에서의 공정성을 90%의 경우 향상시키는 새로운 ECD 기반 완화 알고리즘을 제안했습니다. 이는 기존 알고리즘의 한계를 극복하고, 보다 공정하고 신뢰할 수 있는 AI 시스템 개발을 위한 중요한 이정표가 될 것으로 기대됩니다. 이 연구는 AI의 윤리적 문제에 대한 깊이 있는 고찰과 함께, 생성형 AI의 새로운 활용 가능성을 제시하는 혁신적인 연구로 평가받고 있습니다. 앞으로 AI의 공정성 확보를 위한 연구 방향을 제시하는 중요한 성과입니다.
Reference
[arxiv] Fairness Testing through Extreme Value Theory
Published: (Updated: )
Author: Verya Monjezi, Ashutosh Trivedi, Vladik Kreinovich, Saeid Tizpaz-Niari
http://arxiv.org/abs/2501.11597v1