본 기사는 Kong Jun 등 연구진이 개발한 AdaPruner라는 새로운 AI 경량화 기술을 소개합니다. AdaPruner는 베이지안 최적화를 활용하여 LLM의 크기를 줄이면서도 성능 저하를 최소화하는 기술로, 20% 크기 감소에도 97%의 성능을 유지하는 놀라운 결과를 보였습니다.

Francesco Daghero 등 연구진의 연구는 마이크로컨트롤러에서의 딥러닝 가속화를 위한 혁신적인 접근 방식을 제시합니다. 최적화된 소프트웨어 커널, 경량 ISA 확장, 오픈소스 컴파일러 확장을 통해 ResNet18 및 ViT 네트워크에서 상당한 속도 향상과 함께 정확도 저하를 최소화했습니다. 이는 에너지 효율적인 스마트 기기 개발에 중요한 발걸음입니다.

Abdullah M. Zyarah와 Dhireesha Kudithipudi가 개발한 MiRU는 기존 GRU보다 훨씬 빠르고 효율적인 연속 학습 모델입니다. 메모리 및 연산 자원이 제한적인 에지 디바이스에서의 연속 학습 애플리케이션에 큰 잠재력을 가지고 있습니다.

Shivanshu Shekhar와 Tong Zhang이 개발한 ROCM은 일관성 모델을 기반으로 RLHF를 적용하여 확산 모델의 단점을 극복하고 효율성과 성능을 향상시킨 혁신적인 AI 모델 학습 프레임워크입니다. 분포 정규화를 통해 과적합을 방지하고 일반화 성능을 개선하여 경쟁력 있는 결과를 달성했습니다.

정영준, 천준하, 차순우, 김태섭 연구팀이 개발한 객체 중심 세계 모델은 슬롯 어텐션을 활용하여 언어 명령어에 기반한 효율적인 미래 상태 예측을 가능하게 합니다. 기존의 비디오 생성 모델보다 뛰어난 효율성과 일반화 성능을 보이며, 시각-언어-운동 제어 분야에 혁신을 가져올 것으로 기대됩니다.