젠AI, 당신이 그린 농장은 현실과 다릅니다: AI 이미지 생성의 숨겨진 편향성

본 기사는 생성형 AI의 이미지 생성 과정에서 나타나는 편향성, 특히 산업적 축산 동물에 대한 왜곡된 이미지 생성 문제를 다룹니다. OpenAI의 DALL-E 3 모델을 중심으로, AI의 자동 프롬프트 수정 기능이 오히려 편향성을 심화시킬 수 있다는 점을 지적하며, AI 윤리 및 사회적 책임에 대한 심도 있는 논의를 촉구합니다.

우리 일상 깊숙이 들어온 챗GPT와 같은 생성형 AI. 인간 사회의 편견을 반영한다는 것은 이미 알려진 사실입니다. 하지만, 숭실대 Kehan Sheng 교수 연구팀의 놀라운 연구 결과가 발표되었습니다. AI가 동물, 특히 산업적 축산 동물에 대한 이미지 생성에서 심각한 편향성을 드러낸 것입니다!

연구팀은 OpenAI의 DALL-E 3 모델을 이용하여 이미지를 생성하는 실험을 진행했습니다. 그 결과, DALL-E 3은 젖소가 목초지에서 한가로이 풀을 뜯고, 돼지가 진흙탕에서 뒹구는 등 낭만적인 시골 농장 이미지를 생성하는 경향을 강하게 보였습니다. '현실적인 묘사'를 요청해도 이러한 편향성은 여전했습니다. 흥미로운 점은, AI의 자동 프롬프트 수정 기능을 억제했을 때에만, 실제 산업 현장과 유사한 이미지가 생성되었다는 점입니다.

실제로, 대부분의 산업화된 국가의 축산 농장은 동물들이 좁은 공간에 갇혀 사육되는 곳입니다. 이러한 현실은 사회적 가치관과는 동떨어져 있습니다. 하지만 DALL-E 3은 이를 제대로 반영하지 못하고, 마치 이상적인 농장을 그리듯 왜곡된 이미지를 만들어낸 것입니다. 자동 프롬프트 수정 기능을 껐을 때, 비로소 금속 헤드록에 갇힌 소, 콘크리트 바닥에 쇠창살 뒤에 갇힌 돼지 등의 현실적인 이미지가 생성되었습니다.

이 연구는 OpenAI가 편향성을 완화하기 위해 도입한 프롬프트 수정 기능이, 오히려 축산 시스템에 대한 강력한 편향성을 만들어낼 수 있다는 역설적 결과를 보여줍니다. AI가 만들어내는 이미지가 우리의 인식에 어떤 영향을 미치는지, 그리고 AI의 편향성을 제대로 해결하기 위한 더욱 심도 있는 연구가 필요함을 시사하는 중요한 발견입니다.

핵심: AI의 편향성은 인간뿐 아니라 동물, 특히 산업적 축산 동물에 대한 이미지에도 영향을 미치며, AI 개발 과정에서 편향성 제거에 대한 더욱 신중한 접근이 필요합니다. 이는 AI 윤리 및 사회적 책임에 대한 중요한 논의를 촉구하는 사례입니다.