AI TREND NOW

#발렌시아 홍수 속 가짜뉴스의 두 얼굴: 트위터와 틱톡의 감정 분석

본 연구는 발렌시아 홍수 사건을 중심으로 소셜 미디어(X, TikTok) 상의 허위 정보 확산 양상을 분석했습니다. 플랫폼에 따라 허위 정보와 관련된 감정(X: 슬픔, 공포; TikTok: 분노, 혐오)이 다르게 나타났으며, 텍스트 및 오디오 분석을 통해 허위 정보 탐지 성능을 향상시킬 수 있음을 확인했습니다. GPT-4o 기반 퓨샷 어노테이션 및 SVM+TF-IDF, 오디오 특징을 추가한 Roberta 모델의 효과성이 입증되었습니다.

발렌시아 홍수 속 가짜뉴스의 두 얼굴: 트위터와 틱톡의 감정 분석

2024년 10월 29일, 스페인 발렌시아를 강타한 극심한 폭우와 홍수. 이 재난 속에서 소셜 미디어는 정보의 바다이자 동시에 가짜뉴스의 온상이 되었습니다. Iván Arcos, Paolo Rosso, Ramón Salaverría 세 연구자는 트위터(현 X)와 틱톡에서 퍼진 650개의 게시물을 분석하여 흥미로운 결과를 도출했습니다.

플랫폼별 감정의 차이: 슬픔 vs 분노

연구팀은 X(트위터)와 틱톡에서 퍼진 허위 정보의 감정적 패턴을 비교 분석했습니다. 놀랍게도, 각 플랫폼에서 허위 정보와 연관된 주요 감정이 달랐습니다. X에서는 주로 슬픔과 공포가, 틱톡에서는 분노와 혐오가 두드러졌습니다. 이는 플랫폼 특유의 사용자 특성 및 정보 소비 방식의 차이를 반영하는 것으로 해석됩니다. X 사용자는 정보의 신뢰성에 대한 불안감으로 슬픔과 공포를 느끼는 반면, 틱톡 사용자는 허위 정보에 대한 분노와 혐오를 표출하는 경향이 더 강한 것으로 보입니다.

언어와 오디오 분석: 진실과 거짓의 다른 목소리

언어 분석 결과, 신뢰할 수 있는 정보는 명료하고 사실적인 언어를 사용하는 반면, 허위 정보는 부정, 지각적 단어, 개인적 일화 등을 사용하여 신뢰성을 가장하는 경향이 있었습니다. 틱톡의 오디오 분석에서는 더욱 흥미로운 결과가 나타났습니다. 신뢰할 수 있는 오디오는 밝은 음색과 로봇 같은 톤으로 명확성과 신뢰성을 높이는 반면, 허위 정보 오디오는 감정적 깊이와 조작적인 음악 요소를 활용하여 참여도를 높이고자 했습니다. 마치, 진실과 거짓이 서로 다른 목소리로 말하는 것과 같습니다.

AI를 활용한 허위 정보 탐지: GPT-4와 SVM의 활약

연구팀은 GPT-4를 이용한 퓨샷 어노테이션 기법과 SVM(Support Vector Machine)을 활용하여 허위 정보 탐지 모델을 개발했습니다. GPT-4의 퓨샷 어노테이션은 수동 라벨링과 높은 일치율(Cohen's kappa 0.684)을 보였습니다. SVM+TF-IDF 모델은 제한된 데이터에도 불구하고 최고의 F1-Score를 달성했습니다. 더 나아가, Roberta-large-bne 모델에 오디오 특징을 추가함으로써 정확도와 F1-Score를 모두 향상시켰습니다. 이는 텍스트와 오디오 정보를 통합하는 것이 허위 정보 탐지 성능 향상에 중요함을 시사합니다.

결론: 멀티모달 플랫폼, 멀티모달 분석

이 연구는 소셜 미디어의 허위 정보 확산이 플랫폼에 따라 다른 감정적 패턴을 보인다는 것을 보여주었습니다. 텍스트와 오디오 분석을 결합한 멀티모달 접근 방식은 허위 정보 탐지 성능을 크게 향상시킬 수 있으며, 특히 틱톡과 같은 멀티모달 플랫폼에서 그 중요성이 더욱 커지고 있습니다. GPT-4와 같은 대규모 언어 모델 또한 자동화된 허위 정보 탐지에 큰 잠재력을 가지고 있습니다. 앞으로는 멀티모달 데이터를 활용한 AI 기반 허위 정보 탐지 기술 개발이 더욱 중요해질 것입니다.