왕수동 등 7명의 연구진은 거대 시각-언어 모델(LVLMs)의 지식 진화 과정을 최초로 규명했습니다. 단일 토큰 확률, 토큰 확률 분포, 특징 인코딩 등 세 가지 수준에서 다중 모달 지식 진화를 분석하여 '임계층'과 '돌연변이층'이라는 두 가지 핵심 단계와 '급속 진화', '안정화', '돌연변이'의 세 단계를 밝혔습니다. 이 연구는 LVLMs의 내부 메커니즘 이해 및 성능 향상에 새로운 관점을 제시하며, 관련 코드를 공개하여 후속 연구를 지원합니다.

Karthik Shivashankar의 연구는 딥러닝 기반 컴퓨터 비전을 활용하여 4D 증강현실 비디오의 효율적인 표현 및 재구성 방법을 제시했습니다. 마이크로소프트 홀로렌즈와 같은 XR 플랫폼에서의 실현 가능성을 입증하였으나, 현재 하드웨어 한계를 극복하기 위한 지속적인 연구가 필요함을 시사합니다.

본 기사는 케이트 샌더스와 벤자민 반 듀르메가 개발한 새로운 AI 추론 시스템 Bonsai에 대해 소개합니다. Bonsai는 해석 가능하고 적응력이 뛰어나며 불확실성을 잘 처리하는 특징을 가지고 있으며, 다양한 도메인에서 블랙박스 모델과 동등한 성능을 보이는 것으로 확인되었습니다.

대규모 언어 모델의 추론 능력 향상을 위한 새로운 연구 결과가 발표되었습니다. 연구에 따르면, 모델의 크기가 커질수록 추론 능력이 항상 향상되는 것은 아니며, 과매개변수화는 추론 성능을 저해할 수 있습니다. 지식 그래프의 엔트로피와 최적 모델 크기 사이의 관계를 밝혀냄으로써, 추론 작업에 최적화된 LLM을 설계하는 데 중요한 지침을 제공합니다.

NVIDIA 주도 연구팀이 개발한 Nemotron-H는 Mamba 계층과 MiniPuzzle 압축 기술을 통해 추론 속도를 최대 3배 향상시켰으며, FP8 기반 훈련으로 효율성을 높였습니다. Hugging Face 등 주요 플랫폼 지원으로 접근성도 높아질 전망입니다.