엄지척과 엄지손가락 아래로: AI 윤리 투표의 비례성 확보

본 논문은 AI 윤리 모델 학습에서의 찬반 투표 시스템에 대한 새로운 비례성 개념을 제시합니다. 찬성과 반대 투표의 영향을 동등하게 고려하거나, 별도로 고려하는 두 가지 접근 방식을 통해 기존의 비례성 개념을 확장하고, Phragmén's rule 등 기존 투표 방법들의 비례성 보장 여부를 분석하여 AI 윤리 시스템의 공정성 향상에 기여합니다.

Sonja Kraiczy, Georgios Papasotiropoulos, Grzegorz Pierczyński, Piotr Skowron 등이 작성한 논문 "Proportionality in Thumbs Up and Down Voting"은 AI 윤리 모델 학습에 있어 시민들의 찬반 투표를 통한 윤리적 선호도 결정 과정에서 발생하는 중요한 문제를 다룹니다. 바로 비례성입니다.

기존의 사회적 선택 이론에서는 찬성 투표만을 고려한 비례성 연구가 주를 이루었습니다. 하지만, AI 윤리처럼 찬반 의견이 모두 중요한 경우, 기존의 비례성 개념을 어떻게 적용해야 할까요? 이 논문은 이 질문에 대해 두 가지 혁신적인 답을 제시합니다.

첫 번째 접근 방식: 찬성과 반대 투표의 영향을 동등하게 고려하는 것입니다. 마치 찬성은 후보 지지, 반대는 거부권 행사와 같은 무게를 갖는다는 관점입니다. 이를 통해 기존 비례성 개념을 확장하여 찬반 투표 모두를 만족시키는 새로운 비례성 보장을 제시합니다.

두 번째 접근 방식: 찬성과 반대 투표를 분리하여 고려하는 것입니다. 거부권(반대 투표)의 영향력을 독립적으로 평가함으로써 기존 비례성 개념과는 다른 새로운 비례성 보장 기준을 제시합니다.

논문은 각 접근 방식에 대한 공리를 공식화하고, Phragmén's rule, Proportional Approval Voting rule, Method of Equal Shares 등 기존의 투표 방식들을 이러한 새로운 비례성 기준에 따라 평가합니다. 이는 AI 윤리 모델 학습 과정에서 더욱 공정하고 대표성 있는 결과를 도출하는 데 중요한 의미를 가집니다.

결론적으로, 이 연구는 AI 윤리 결정 과정의 투명성과 공정성을 높이는데 크게 기여할 것으로 예상됩니다. 단순히 찬성 또는 반대만을 고려하는 것이 아닌, 찬성과 반대의 상대적 비율을 고려하여 더욱 민주적이고 비례적인 AI 윤리 시스템 구축에 중요한 전환점을 마련한 것입니다. 향후 연구에서는 실제 시스템에 적용하여 그 효과를 검증하는 것이 중요한 과제가 될 것입니다.