러시아 연구진이 개발한 단일 이미지 기반의 보편적 적대적 공격은 다양한 멀티모달 LLM의 정렬 안전장치를 우회하며 최대 93%의 성공률을 달성, AI 안전성에 대한 심각한 우려와 더욱 강력한 방어 메커니즘의 필요성을 제기하는 연구 결과를 발표했습니다.

Víctor Gallego가 개발한 MetaSC는 모델 가중치 수정 없이 실행 시간에 언어 모델의 안전성을 최적화하는 혁신적인 프레임워크입니다. 메타크리티크 메커니즘을 통해 안전성 프롬프트를 동적으로 최적화하여 적대적 공격 방어 및 다양한 안전 관련 작업에서 뛰어난 성능을 보입니다. GitHub 공개를 통해 AI 안전성 연구에 큰 기여를 할 것으로 예상됩니다.

Welzijn.AI는 노인의 정신 건강 모니터링을 위한 새로운 대화형 AI 시스템으로, 개방적이고 해석 가능한 아키텍처와 다양한 이해관계자의 참여를 통해 책임있는 AI 개발의 모범 사례를 제시합니다. SWOT 분석, 공동 창작 세션, 사용자 평가 등을 통해 얻어진 다양한 의견들은 AI 시스템 개발에 중요한 시사점을 제공합니다.

본 연구는 LLM을 활용하여 그래프 학습 모델의 성능을 향상시키는 새로운 프레임워크를 제시합니다. LLM 기반 노드 강화를 통해 심층적 의미를 포착하고, Graph Transformer를 통해 그래프 구조 정보를 효과적으로 활용함으로써 노드 분류 작업에서 뛰어난 성능을 달성했습니다. 이는 그래프 학습 분야에 새로운 가능성을 제시하는 중요한 연구입니다.

Lejla Skelic 등 연구진이 개발한 CIRCUIT 데이터셋은 LLM의 아날로그 회로 해석 및 추론 능력을 평가하는 새로운 벤치마크입니다. GPT-4o를 포함한 최첨단 LLM도 여전히 다단계 추론을 요구하는 문제에서 어려움을 겪고 있음을 보여주며, 향후 LLM의 발전 방향을 제시합니다.