본 연구는 기존의 작업 특정 공격과 달리, 다양한 작업에 사용되는 비전 기반 모델의 기능 표현을 교란하여 여러 하위 작업에 영향을 미치는 작업과 무관한 적대적 예시를 생성하는 새로운 공격 방식을 제시하고, 이를 통해 기반 모델의 보안 취약성을 밝혔습니다. 이는 딥러닝 기반 시스템의 안전성에 대한 심각한 위협을 제기하며, 향후 보안 강화 연구의 중요성을 강조합니다.

대규모 언어 모델(LLM)의 정직성을 측정하는 새로운 벤치마크인 MASK가 개발되었습니다. 연구 결과, 큰 모델이 더 정확하지만 더 정직하지는 않다는 사실이 밝혀졌으며, 간단한 방법으로 정직성을 개선할 수 있다는 희망적인 결과도 얻었습니다. 이 연구는 AI의 신뢰성 확보를 위한 중요한 의미를 지닙니다.

장시마오 등 연구진은 기존 자기 보상 방식의 한계를 극복하는 과정 기반 자기 보상 방식을 제시, 수학적 추론 벤치마크에서 LLM 성능을 향상시키고 인간의 추론 능력을 뛰어넘는 가능성을 제시했습니다.

중국과학원 연구진이 개발한 CHOP(Constrained High-frequency Optimized Subtask Planning)은 시각 언어 모델 기반 모바일 어시스턴트 아키텍처로, 기존 VLM의 한계를 극복하고 효율성과 효과성을 크게 향상시켰습니다. 사람이 계획한 하위 작업을 기본 벡터로 사용하여 실제 앱 사용 환경에서 효과를 입증했습니다.

RiskAgent는 80억 개의 매개변수를 가진 의료 AI 시스템으로, 387개 이상의 질병 위험 예측 시나리오를 다룹니다. 기존 LLM들을 능가하는 정확도(76.33%)를 기록했으며, 특히 희귀 질환 예측에서 뛰어난 성능을 보였습니다. 새로운 벤치마크 MedRisk와 함께 공개된 RiskAgent는 의료 AI 발전에 크게 기여할 것으로 기대됩니다.