흥미로운 연구결과: AI 생성 정보, 라벨링에도 설득력 유지?

AI 생성 콘텐츠에 대한 라벨링이 설득력에 미치는 영향을 조사한 연구 결과, 라벨링이 설득력을 낮추지 못한다는 사실이 밝혀졌습니다. AI 생성 정보의 윤리적 문제 해결을 위해서는 라벨링 외의 새로운 전략이 필요함을 시사합니다.

AI 생성 콘텐츠, 라벨링에도 설득력은 그대로?

최근 급증하는 AI 생성 정보의 홍수 속에서, 미국 연구진(Isabel O. Gallegos 외 7명)의 흥미로운 연구 결과가 발표되었습니다. 이 연구는 AI 생성 콘텐츠에 'AI 생성' 라벨을 붙이는 것이 과연 그 설득력을 낮추는지 여부를 실험적으로 검증한 것입니다.

연구 방법: 연구진은 1601명의 미국인을 대상으로 설문 조사를 실시했습니다. 참가자들에게는 AI가 생성한 정책 관련 메시지(예: 대학의 선수 장학금 지급 허용)를 제시하고, 메시지 작성자가 (a) 전문가 수준의 AI 모델, (b) 인간 정책 전문가, (c) 라벨 없음 중 하나로 무작위 배정했습니다.

주목할 만한 결과: 놀랍게도, 메시지는 대체로 설득력이 높았습니다. 평균적으로 참가자들의 정책에 대한 견해를 9.74%p 변화시켰습니다. 더욱 흥미로운 점은, AI 및 인간 라벨 조건에 배정된 참가자의 94.6%가 작성자 라벨을 믿었음에도 불구하고, 라벨은 참가자들의 태도 변화, 메시지 정확성 판단, 메시지 공유 의도에 유의미한 영향을 미치지 않았다는 점입니다. 이러한 결과는 참가자의 정책 사전 지식, AI 사용 경험, 정치 성향, 교육 수준, 나이 등 다양한 특성에 걸쳐 견고하게 나타났습니다.

결론 및 시사점: 연구 결과는 작성자 라벨이 투명성을 높일 수는 있지만, 라벨이 붙은 콘텐츠의 설득력을 크게 낮추지는 못한다는 것을 시사합니다. 이는 AI 생성 정보가 제기하는 문제 해결을 위해서는 라벨링 외의 대안적인 전략이 필요하다는 점을 강조합니다. 단순히 'AI가 만들었다'는 표시만으로는 AI 생성 정보의 잠재적 위험을 완화하기 어렵다는 것을 보여주는 중요한 연구라고 할 수 있습니다. 앞으로 AI 생성 콘텐츠의 윤리적 문제와 사회적 영향에 대한 심도있는 논의가 더욱 활발하게 이루어져야 할 것입니다.

연구진: Isabel O. Gallegos, Chen Shani, Weiyan Shi, Federico Bianchi, Izzy Gainsburg, Dan Jurafsky, Robb Willer