Yang Li의 연구팀은 LLM 선택 과정을 다중 팔 밴딧 문제로 공식화한 LLM Bandit 프레임워크를 제시했습니다. 선호도 기반 동적 라우팅과 새로운 LLM에 대한 일반화 능력을 통해 정확성과 비용 효율성을 동시에 달성, 실제 환경에서의 LLM 최적화 가능성을 입증했습니다.

본 기사는 Ksenia Konyushkova 등 연구진이 발표한 'Vision-Language Model Dialog Games for Self-Improvement' 논문을 바탕으로, 고품질 데이터 부족 문제를 해결하기 위한 혁신적인 VLM 대화형 게임 프레임워크를 소개합니다. 두 에이전트 간의 게임 플레이를 통해 고품질 데이터를 자동 생성하고, 이를 통해 모델 성능 향상 및 일반화를 달성하는 과정을 자세히 설명하며, 자기 개선의 선순환 구조와 미래 가능성에 대해 논의합니다.

소형 언어 모델 SmolLM2는 11조 토큰의 방대한 데이터와 다단계 훈련 과정을 통해 기존 소형 모델의 성능을 뛰어넘었습니다. 새로운 데이터셋 공개를 통해 향후 소형 LLM 연구에 중요한 기여를 할 것으로 기대됩니다.

김정훈 교수 연구팀이 제시한 Peri-LN은 대규모 트랜스포머 모델의 훈련 안정성과 수렴 속도를 향상시키는 혁신적인 레이어 정규화 전략입니다. 이론적 분석과 대규모 실험을 통해 Peri-LN의 우수성을 검증하였으며, 향후 AI 기술 발전에 큰 영향을 미칠 것으로 기대됩니다.

본 연구는 연합 학습에서 데이터 이질성 문제를 해결하기 위해 새로운 매개변수 추적(PT) 패러다임과 두 가지 적응적 최적화 알고리즘(FAdamET, FAdamGT)을 제안합니다. 비볼록 설정에서의 수렴 분석과 실험 결과를 통해 기존 방법보다 우수한 성능을 입증했습니다.