단일 최적화된 이미지를 이용한 멀티모달 LLM에 대한 보편적인 적대적 공격 가능성을 제시하는 연구 결과가 발표되었습니다. 이 연구는 기존 방식보다 훨씬 높은 공격 성공률을 보이며, 멀티모달 LLM의 안전성에 대한 심각한 우려를 제기합니다. 더욱 강력한 방어 메커니즘 개발이 시급합니다.

중국 연구진이 개발한 MRS 알고리즘은 Mean Reverting Diffusion 모델의 샘플링 속도를 10~20배 향상시켜 고품질 이미지 생성의 실용성을 크게 높였습니다. 역시간 SDE와 PF-ODE의 해석적 해법을 활용한 독창적인 접근 방식이 핵심이며, 추가 학습 없이도 다양한 매개변수화 방식을 지원합니다. 하지만 추가적인 검증이 필요하다는 점을 유의해야 합니다.

본 논문은 기존의 확산 모델(DM)의 안전성 문제를 해결하기 위해 재훈련 없이 샘플링 경로를 직접 수정하는 획기적인 방법을 제시합니다. '부정 집합'을 활용하여 데이터 분포의 특정 영역을 피함으로써 고품질의 안전한 샘플을 생성하는 '안전한 복원기'를 개발하였으며, 이는 DM의 안전하고 윤리적인 활용에 크게 기여할 것으로 기대됩니다.

Nomic Embed v2는 MoE 아키텍처를 활용하여 기존 텍스트 임베딩 모델의 효율성 문제를 해결한 획기적인 모델입니다. 뛰어난 성능과 오픈소스 공개를 통해 텍스트 임베딩 분야에 새로운 가능성을 제시하며, RAG 애플리케이션을 비롯한 다양한 분야에 큰 영향을 미칠 것으로 예상됩니다.

Miao와 Kearns의 연구는 LLM의 환각 현상이 훈련 데이터의 단일 사실률과 모델의 보정 오류에 의해 영향받는다는 것을 실험적으로 증명했습니다. 이 연구는 훈련 데이터 중복 제거 관행에 대한 재고를 촉구하며, 선택적 중복을 통한 환각 감소 가능성을 제시합니다.