AI 이미지 평가의 새로운 지평: '두꺼운 평가'의 등장

본 기사는 AI 이미지 모델의 문화적 표현 평가에 대한 기존의 한계를 극복하기 위해 제시된 '두꺼운 평가(thick evaluations)'라는 새로운 평가 프레임워크에 대해 소개합니다. 남아시아 지역 워크숍을 통해 현지 공동체의 참여를 바탕으로 개발된 이 평가 방식은 AI 평가의 객관성과 공정성을 높이고, 기술 발전에 대한 윤리적 책임을 강조하는 중요한 의미를 지닙니다.

최근 생성형 AI 이미지 모델이 비서구 문화를 얼마나 잘 표현하는지에 대한 평가가 활발히 이루어지고 있습니다. 하지만 Rida Qadri, Mark Diaz, Ding Wang, Michael Madaio 등의 연구자들은 기존의 평가 방식이 문화적 표현에 대한 단순화된 이상을 적용하고, 사람들이 자신의 표현을 정의하는 방식을 무시하며, 문화적 표현의 해석적이고 맥락적인 특성을 간과한다고 주장합니다. 그들은 이러한 '얇은 평가(thin evaluations)'에 대한 대안으로 '두꺼운 평가(thick evaluations)'라는 새로운 평가 프레임워크를 제시합니다.

'두꺼운 평가'는 더욱 세분화되고, 상황에 맞춰져 있으며, 담론적인 측면을 고려하는 평가 방식입니다. 이는 AI 이미지 속 사회적 세계의 표현을 평가하는데 있어, 해당 공동체의 문화적 이해와 해석을 중심에 놓고 평가 기준을 공동으로 만들어나가는 것을 의미합니다.

연구팀은 남아시아 지역에서 워크숍을 진행하며 사람들이 자신들의 문화를 담은 이미지를 어떻게 해석하고 의미를 부여하는지에 대한 '두꺼운' 관점을 연구했습니다. 이를 통해, 기존의 AI 평가 방식을 넘어서는, 공동체의 경험과 실제 삶에 부합하는 새로운 평가 지표를 개발하고자 노력했습니다. 즉, 단순히 기술적인 측면만이 아닌, 문화적 맥락과 공동체의 목소리를 반영하는 평가 시스템을 구축하는 데 초점을 맞춘 것입니다.

이 연구는 AI 이미지 모델이 문화적 표현을 다루는 방식에 대한 근본적인 질문을 던지며, 단순한 기술적 성능 평가를 넘어, 윤리적이고 사회적인 책임을 강조합니다. '두꺼운 평가'는 AI 기술 발전에 있어, 기술적 정확성과 함께 사회적 정의와 공정성을 고려해야 함을 보여주는 중요한 사례입니다. 앞으로 AI 개발 및 평가 과정에서, '두꺼운 평가'와 같은 공동체 중심적 접근 방식이 더욱 중요해질 것으로 예상됩니다. 단순히 기술적인 성능만을 평가하는 것이 아니라, AI가 사회에 미치는 영향, 특히 소외된 공동체에 미치는 영향까지 폭넓게 고려하는 '책임감 있는 AI 개발'의 중요성을 일깨워줍니다.