Yehuda Mishaly, Lior Wolf, Eliya Nachmani가 개발한 다중 대역 맘바 네트워크 기반의 딥러닝 능동적 음성 제거 기술은 기존 기술 대비 ANC 및 ASC 환경에서 각각 최대 7.2dB 및 6.2dB의 성능 향상을 보이며, 소음 및 음성 제거 분야에 혁신을 가져왔습니다.

Wen Lai, Alexander Fraser, Ivan Titov가 개발한 JoLA는 초저자원 환경에서의 LLM 미세조정 문제를 해결하는 혁신적인 방법으로, Transformer 헤드의 위치, 개입 방식, 매개변수를 동시에 학습하여 기존 방법보다 우수한 성능을 보입니다.

오석진, 노건웅, 정우환 연구원은 피벗 번역을 활용한 단일 모델 앙상블 프레임워크를 제시하여 저자원 언어쌍 번역의 성능 향상을 이끌었습니다. 단일 모델 기반으로 계산 비용을 절감하면서 고자원 언어의 지식을 효과적으로 전이하여 우수한 번역 품질을 달성했습니다.

Ankur Samanta 등 연구진이 개발한 FragmentNet은 학습 기반의 적응형 토크나이저를 통해 화학적으로 유효한 단편으로 분자 그래프를 분해하는 혁신적인 분자 표현 학습 모델입니다. VQVAE-GCN, 공간 위치 인코딩, 전역 분자 기술자, 트랜스포머를 통합하여 기존 모델보다 뛰어난 성능을 보이며, 분자 그래프의 단편 기반 편집 및 특성 추세 시각화를 가능하게 하여 신약 개발 및 재료 과학 분야에 혁신을 가져올 것으로 기대됩니다.

본 기사는 대기과학 분야에서 LLM의 성능을 평가하기 위한 새로운 벤치마크인 AtmosSci-Bench의 개발에 대해 소개합니다. AtmosSci-Bench는 다양한 유형의 LLM을 포괄적으로 평가하여, 기후 서비스 개선 및 대기과학 연구 발전에 기여할 것으로 기대됩니다.