본 연구는 발렌시아 홍수 사건을 중심으로 소셜 미디어(X, TikTok) 상의 허위 정보 확산 양상을 분석했습니다. 플랫폼에 따라 허위 정보와 관련된 감정(X: 슬픔, 공포; TikTok: 분노, 혐오)이 다르게 나타났으며, 텍스트 및 오디오 분석을 통해 허위 정보 탐지 성능을 향상시킬 수 있음을 확인했습니다. GPT-4o 기반 퓨샷 어노테이션 및 SVM+TF-IDF, 오디오 특징을 추가한 Roberta 모델의 효과성이 입증되었습니다.

Daniel Schwartz 등 연구진의 논문에서 제시된 'Graph of Attacks with Pruning (GAP)'은 LLM 콘텐츠 관리의 핵심 문제인 은밀한 탈옥 프롬프트 생성 문제에 대한 효율적이고 강력한 해결책을 제시합니다. GPT-3.5에서 92%의 탈옥 성공률을 54%의 쿼리로 달성하고, PromptGuard의 정확도를 5.1%에서 93.89%로 향상시키는 등 놀라운 성과를 보였습니다.

본 기사는 Xun Liang 등 연구진이 발표한 SafeRAG 벤치마크를 소개하며, RAG 시스템의 보안 취약성 문제를 심층적으로 다룹니다. SafeRAG는 다양한 공격 유형을 분류하고 실험을 통해 RAG의 취약성을 증명하며, AI 시스템의 안전성 확보를 위한 중요성을 강조합니다.

Shi와 Wang의 연구는 기존 머신 언러닝 평가 지표의 한계를 지적하고, 콘포멀 예측 기반의 새로운 평가 지표와 언러닝 프레임워크를 제시합니다. 이를 통해 기존 방법들의 '망각' 성능을 개선하고, 더욱 안전하고 신뢰할 수 있는 AI 시스템 개발에 기여할 것으로 기대됩니다.

DunnoLab 연구진이 개발한 Vintix 모델은 문맥 내 강화 학습(ICRL)과 알고리즘 증류 기법을 통해 다양한 영역에서 활용 가능한 일반적인 행동 모델을 구축했습니다. 이는 범용 인공지능 개발에 중요한 진전을 의미하며, 향후 다양한 분야에 혁신적인 변화를 가져올 것으로 기대됩니다. 하지만, 실제 세계 적용을 위한 안전성 확보 및 윤리적인 고려가 중요합니다.