마이크로소프트 연구진이 개발한 Bitnet.cpp는 3진수 LLM의 에지 추론 속도를 획기적으로 향상시킨 시스템입니다. Ternary Lookup Table과 Int2 with a Scale 기술을 통해 기존 모델보다 최대 6.25배 빠른 속도를 달성했으며, GitHub에서 공개되어 널리 활용될 것으로 예상됩니다.

Pang 등 연구진이 개발한 FedEAT는 연합 학습 기반 대규모 언어 모델의 강건성을 향상시키는 혁신적인 프레임워크입니다. 임베딩 공간에서의 적대적 훈련과 기하 중앙값 집계를 통해 데이터 이질성, 악의적인 클라이언트, 적대적 공격 등의 문제를 해결하여 연합 LLM의 실용성을 크게 높였습니다.

본 연구는 인간의 공간 지능과 AI의 공간 지능을 비교 분석한 최초의 연구로, AI가 인간에 비해 공간 능력이 현저히 낮다는 것을 밝혔습니다. 모델의 크기가 성능과 비례하지 않으며, 기존 학습 방법의 한계를 극복하기 위해서는 모델 구조 개선이 필요함을 시사합니다.

Aras Yurtman 등 연구팀이 개발한 LoCoMotif-DoK 알고리즘은 도메인 지식을 활용하여 시계열 모티프 발견의 정확도와 효율성을 크게 향상시켰습니다. 실험 결과, 기존 기법 대비 우수한 성능을 보였으며, 다양한 분야에서 시계열 데이터 분석에 혁신을 가져올 것으로 기대됩니다.

BaxBench는 LLM의 백엔드 애플리케이션 생성 능력을 평가하는 새로운 벤치마크입니다. 실험 결과, LLM은 기능성과 보안성 면에서 상당한 한계를 드러냈으며, 특히 인기 없는 프레임워크에서는 성능이 더욱 저조했습니다. 이는 LLM을 이용한 안전하고 자율적인 소프트웨어 개발을 위해서는 지속적인 연구개발이 필요함을 시사합니다.