AI 알고리즘의 '성씨 편향': 계층 불평등을 심화시키는가?

본 연구는 AI 알고리즘이 성씨라는 간과되기 쉬운 요소를 통해 사회적 불평등을 심화시킬 수 있다는 점을 밝히고, 공정한 AI 시스템 개발과 정책적 개입의 필요성을 강조합니다.

최근, 미국과 태국 연구진이 공동으로 진행한 흥미로운 연구 결과가 발표되었습니다. Pat Pataranutaporn, Nattavudh Powdthavee, Pattie Maes 세 명의 연구자는 "Algorithmic Inheritance: Surname Bias in AI Decisions Reinforces Intergenerational Inequality" 라는 논문을 통해 AI 시스템의 놀라운 편향성을 밝혀냈습니다. 이 연구는 AI가 성씨를 통해 사회적 지위, 부, 혈통 등을 암묵적으로 판단하고, 이러한 편견이 계층 간 불평등을 심화시키는 데 기여한다는 충격적인 사실을 제시합니다.

연구진은 미국과 태국 두 국가의 600개 성씨, 7만 2천 건의 평가 데이터를 분석했습니다. 성씨를 '부유층', '명문가', '일반', '음운적으로 유사한 변형' 그룹으로 분류하여 AI의 채용 추천, 리더십 임명, 대출 승인 등의 의사결정 과정에 미치는 영향을 분석한 결과, '엘리트 성씨'는 AI에 의해 지능, 부, 권력이 더 높게 평가되는 경향을 보였고, 이는 고위험 의사결정에 영향을 미치는 것으로 나타났습니다. 특히, 매개 분석 결과 지능에 대한 인식이 성씨 편향이 AI 의사결정 과정에 영향을 미치는 주요 메커니즘임을 밝혀냈습니다.

흥미로운 점은, 지원자의 자격 요건을 명시적으로 제시하더라도 성씨 편향이 완전히 사라지지 않았다는 것입니다. 특히 지원자의 자격 요건이 낮을 경우 성씨 편향의 영향이 더욱 두드러졌습니다. 이는 AI 시스템이 인종이나 성별과 같은 눈에 띄는 특징뿐만 아니라, 종종 간과되는 성씨와 같은 요소를 통해 체계적인 불평등을 강화할 수 있다는 것을 시사합니다.

결론적으로, 이 연구는 AI 시스템이 공정성을 갖추도록 하는 알고리즘 개발과 정책적 개입의 시급성을 강조합니다. 단순히 '능력주의' 원칙만을 내세우는 시스템이 오히려 계층 간 특권의 유지를 강화할 수 있다는 점을 명심해야 합니다. AI 시스템의 알고리즘 책임성에 대한 비판적 재평가와 사회적 영향에 대한 폭넓은 논의가 필요한 시점입니다. 이 연구는 AI 기술의 윤리적 함의를 다시 한번 생각하게 만드는 중요한 계기가 될 것입니다.