related iamge

4비트로 거대 언어 모델 미세조정의 혁신: QR-Adaptor 등장!

주 등 연구진이 개발한 QR-Adaptor는 저비트 양자화와 LoRA를 결합하여 메모리 효율적인 거대 언어 모델 미세조정을 가능하게 하는 혁신적인 기법입니다. GSM8K 데이터셋에서 기존 최고 성능 대비 4.89%의 정확도 향상을 달성했으며, 일부 경우 16비트 모델을 능가하는 성능을 보였습니다.

related iamge

그래프 기반 합성 데이터 생성: LLM의 지식 습득 혁신을 이끌다

중국과학원 자동화연구소 연구팀이 개발한 Synthetic-on-Graph(SoG)는 LLM의 데이터 효율성 문제를 해결하는 혁신적인 합성 데이터 생성 프레임워크입니다. 문서 간 지식 연관성을 고려한 합성 데이터 생성, CoT 및 CC 기법을 통한 데이터 품질 향상으로 다중 도약 질의응답에서 SOTA 성능을 달성했습니다.

related iamge

혁신적인 AI 기반 에너지 관리: 프롬프트 기반 NILM의 등장

본 기사는 대규모 언어 모델(LLM)을 활용한 혁신적인 비침습 부하 모니터링(NILM) 기술에 대한 연구 결과를 소개합니다. 기존 NILM의 한계를 극복하고 정확도, 일반화 성능, 설명 가능성을 향상시킨 이 기술은 에너지 관리 분야의 혁신을 이끌 것으로 기대됩니다.

related iamge

거대 언어 모델의 추론 능력 혁신: 그래프 표현 학습을 통한 '사고' 능력 부여

Gao Hang 등 연구진이 발표한 'Learn to Think(L2T)'는 그래프 학습과 GNN을 활용하여 LLM의 추론 능력을 획기적으로 향상시킨 새로운 프레임워크입니다. 추가 훈련 없이 다양한 작업에서 성능 향상을 보였으며, LLM의 '사고 능력' 발전에 중요한 기여를 할 것으로 기대됩니다.

related iamge

생성형 AI, 대학생들은 어떻게 사용할까? - 인구통계학적 요인과 성격 특성의 영향 분석

본 연구는 미국 대학생 363명을 대상으로 생성형 AI(GAI) 사용 실태를 분석한 결과, 학년, 언어 능력, 인종 등 인구통계학적 요인과 5대 성격 요인이 GAI 사용 및 인식에 유의미한 영향을 미친다는 사실을 밝혔습니다. 이를 바탕으로 대학은 학생들의 효과적이고 윤리적인 GAI 활용을 위한 맞춤형 지침을 제공해야 합니다.