더 많은 것과 같은 것: 증가된 대표성 하에서 지속되는 표상적 피해

최첨단 대규모 언어 모델에서 성별 대표성에 대한 연구 결과, 여성 대표성 증가에도 불구하고 고정관념 및 억압적인 시스템이 지속되는 문제점을 지적. 단순한 수치적 증가가 아닌, AI 시스템의 표현 방식에 대한 면밀한 검토와 개선 노력의 필요성을 강조.

생성형 AI의 그림자: Jennifer Mickel, Maria De-Arteaga, Leqi Liu, Kevin Tian 이 공동 집필한 논문 "More of the Same: Persistent Representational Harms Under Increased Representation"은 생성형 AI 시스템의 윤리적 문제를 날카롭게 파고듭니다. 단순히 표현되는 대상의 수를 늘리는 것만으로는 AI의 편향을 해결할 수 없다는 경고를 담고 있죠.

표면적 변화, 내면적 불균형: 연구진은 최첨단 대규모 언어 모델을 분석하여 성별에 따른 직업 표현을 조사했습니다. 그 결과, 시간이 지남에 따라 모델에 개입하여 성별 분포를 변경하려는 시도가 있었음을 확인했습니다. 실제로, 인물 소개나 프로필 생성을 요청했을 때 여성이 남성보다 더 많이 나타나는 경향을 보였습니다. 하지만 이것이 진정한 편향 해소를 의미하는 것은 아니었습니다.

숫자 너머의 진실: 흥미로운 점은, 여성의 대표성이 증가했음에도 불구하고, 성별에 따른 단어 사용의 차이가 통계적으로 유의미하게 나타났다는 것입니다. 이는 여성과 남성을 묘사하는 방식에 여전히 고정관념과 편향이 존재함을 의미합니다. 이러한 편향은 신자유주의적 이상과 같은 억압적인 시스템을 강화하는 결과를 낳는다는 것이 연구의 핵심적인 결론입니다. 단순히 여성의 수를 늘리는 것만으로는 문제를 해결할 수 없다는 사실을 명확히 보여주는 것이죠.

결론 및 시사점: 이 연구는 AI 개발에서 단순한 수치적 증가에만 집중해서는 안 된다는 중요한 메시지를 전달합니다. 진정한 공정성을 위해서는 AI 시스템이 사람들을 어떻게 표현하는지에 대한 면밀한 검토와 지속적인 개선 노력이 필요합니다. AI의 윤리적 함의를 깊이 있게 고민하고, 공정하고 다양한 AI 시스템 구축을 위한 노력이 계속되어야 할 것입니다. 단순히 ‘더 많은 것’이 아니라, ‘더 나은 것’을 향한 노력이 필요한 시점입니다.