틱톡, 양면의 칼날: AI가 밝히는 반트랜스젠더 콘텐츠 확산의 실체

본 연구는 AI 기반 네트워크 분석을 통해 틱톡에서의 반트랜스젠더 콘텐츠 확산 실태를 규명하고, 플랫폼 운영자의 적극적인 대응을 촉구하는 내용입니다. RAG 기술을 활용한 혁신적인 콘텐츠 분류 방식과 전문가 협력을 통한 데이터 확보 노력이 주목할 만합니다.

틱톡, 양면의 칼날: AI가 밝히는 반트랜스젠더 콘텐츠 확산의 실체

최근 짧은 형식의 동영상 소셜 미디어인 틱톡은 트랜스젠더/논바이너리 크리에이터들에게 커뮤니티 연결과 가시성 확보의 중요한 플랫폼이 되었습니다. 하지만 동시에 극우 성향의 이용자들이 트랜스젠더/논바이너리 개인을 공격하는 데 악용되고 있으며, 증오 표현과 선전의 온상이 되고 있다는 우려 또한 제기되고 있습니다.

Maxyn Leitner 등 연구진은 이러한 상반된 현상에 주목하여 틱톡 내 반트랜스젠더 및 긍정적 트랜스젠더 관련 콘텐츠 커뮤니티의 네트워크 구조 차이와 반트랜스젠더 콘텐츠의 증폭 효과를 분석하는 연구를 진행했습니다.

정확한 데이터 확보를 위한 노력: 전문가의 손길

연구진은 트랜스젠더/논바이너리 커뮤니티 전문가들과 협력하여 정확하게 라벨링된 데이터 샘플을 확보했습니다. 이를 통해 편향된 데이터로 인한 오류를 최소화하고 연구의 신뢰성을 높였습니다.

혁신적인 기술 접목: RAG(Retrieval-Augmented Generation)

데이터 분석에는 획기적인 기술이 적용되었습니다. 연구진은 주석이 달린 예시와 분류 체계 정의를 활용한 RAG(Retrieval-Augmented Generation) 기반의 새로운 분류 파이프라인을 개발했습니다. 이를 통해 틱톡 콘텐츠를 긍정적, 부정적, 중립적 트랜스젠더 관련 콘텐츠로 정확하게 분류할 수 있었습니다. 연구 결과, 자체 개발한 분류 체계를 통합한 분류 엔진은 트랜스젠더 관련 콘텐츠를 보다 효과적으로 구분하는 것으로 나타났습니다.

네트워크 분석 결과: 숨겨진 연결고리

네트워크 분석 결과, 긍정적 트랜스젠더 콘텐츠 게시자와 반트랜스젠더 콘텐츠 게시자 간 상호 작용이 다수 존재하는 것으로 밝혀졌습니다. 이는 트랜스젠더 개인을 표적으로 한 공격이 체계적으로 이루어지고 있음을 시사하며, 보다 효과적인 콘텐츠 조절 도구의 필요성을 강조하고 있습니다.

시사점: 더 나은 미래를 위한 기술과 사회적 책임

본 연구는 단순한 기술적 성과를 넘어, 소셜 미디어 플랫폼의 윤리적 책임과 사회적 영향에 대한 중요한 논의를 촉구합니다. AI 기술을 활용한 정교한 콘텐츠 분석과 효과적인 콘텐츠 조절 시스템 구축은 긍정적 온라인 환경 조성에 필수적입니다. 틱톡과 같은 플랫폼 운영자들은 이러한 연구 결과를 바탕으로, 증오 표현과 차별을 효과적으로 차단하고 건강한 커뮤니티 환경을 조성하기 위한 적극적인 조치를 취해야 할 것입니다. 이는 단순히 기술적 문제가 아니라 사회적 책임의 문제이기 때문입니다.