연세대학교 연구팀이 개발한 HPU는 GPU와의 협업을 통해 LLM 추론의 성능과 에너지 효율을 크게 향상시키는 혁신적인 기술입니다. PCIe 기반 FPGA 카드를 활용한 프로토타입 실험 결과, 기존 시스템 대비 최대 4.1배의 성능 향상과 4.6배의 에너지 효율 개선을 달성하여 LLM 분야의 발전에 크게 기여할 것으로 예상됩니다.

마이크로소프트 연구팀이 개발한 TALES는 텍스트 어드벤처 게임을 활용하여 LLM의 추론 능력을 평가하는 새로운 벤치마크입니다. 실험 결과, 최고 성능의 LLM조차 인간이 즐기는 게임에서는 15% 미만의 성공률을 보였으며, 이는 향후 AI 연구 개발의 중요한 방향을 제시합니다.

영국 소규모 사업주들을 위한 멀티모달 생성 AI 도구 ACAI는 구조화된 프롬프트 시스템을 통해 사용자의 브랜드 정체성과 디자인 목표를 효과적으로 반영, 쉽고 직관적인 광고 디자인을 가능하게 합니다. HCI 분야에 새로운 가능성을 제시하는 이 연구는 생성 AI의 대중화에 기여할 것으로 기대됩니다.

장샹과 장용펑 연구팀이 발표한 논문은 AI 에이전트 기반의 '에이전트 사이트 인터넷'이라는 혁신적인 개념을 제시합니다. AIOS 서버를 통해 분산된 에이전트의 글로벌 협업을 가능하게 하며, 실제 구현된 AIOS-IoA는 이 비전을 현실로 만들었습니다.

본 연구는 출력 길이 제약 하에서의 LLM 추론 능력에 대한 최초의 심층적 실증 연구로, 제약 조건 하에서의 LLM 성능 저하 및 최적 모델 선택 전략에 대한 귀중한 통찰력을 제공합니다. 시간 제약을 고려한 실용적인 LLM 배포 가이드라인을 제시하여 실제 응용 분야에서의 LLM 활용 가능성을 더욱 높였습니다.