AI가 성씨에 내포된 사회적 지위 정보를 학습하여 편향된 판단을 내린다는 연구 결과가 발표되었습니다. 이는 고용, 승진, 대출 등의 영역에서 불공정을 초래할 수 있으며, AI 알고리즘의 공정성 확보와 사회적 책임에 대한 심각한 논의를 촉구하고 있습니다.

중국 연구진이 개발한 'Indiana Jones' 기법은 LLM의 콘텐츠 안전장치를 우회하는 놀라운 성공률을 보여주며, LLM의 윤리적 취약성과 향상된 보안 조치의 필요성을 강조하는 획기적인 연구 결과입니다.

본 기사는 최근 발표된 논문을 바탕으로, 거대언어모델(LLM)의 안전성에 심각한 위협이 되는 새로운 공격 기법인 '작업-프롬프트(TIP) 공격'을 소개합니다. TIP 공격은 암호 해독 등의 작업을 프롬프트에 숨겨 금지된 입력을 생성하며, GPT-4o와 LLaMA 3.2 등 6개의 최첨단 LLM에서 효과가 입증되었습니다. 이는 현재의 LLM 안전 조치의 미흡함을 보여주며, 더욱 강력한 방어 전략의 필요성을 강조합니다.

Hu 등 연구진의 논문은 비전-언어 모델(VLMs)의 데이터 유출 위험성을 최초로 분석하고, 온도 민감도 기반의 새로운 회원 추론 공격(MIA) 방법을 제시했습니다. LLaVA를 대상으로 한 실험 결과, 극소수의 샘플만으로도 높은 정확도의 MIA가 가능함을 보여주며 VLMs의 보안 강화 필요성을 강조했습니다.

동직강 등 연구팀이 개발한 MuseDance는 음악과 텍스트를 활용해 이미지를 애니메이션화하는 혁신적인 모델로, 복잡한 입력 없이도 유연하고 창의적인 영상 생성을 가능하게 합니다. 새로운 다중 모달 데이터셋 공개를 통해 연구 발전에 기여하며, 다양한 분야에 혁신을 가져올 잠재력을 가지고 있습니다.