본 기사는 Zhihan Zhang, Yixin Cao, Lizi Liao 연구팀이 개발한 Chart2Code를 소개합니다. Chart2Code는 MLLM의 차트-투-코드 생성 능력을 향상시키는 혁신적인 프레임워크로, 이중 선호도 학습과 이중 점수 방식을 통해 효율적이고 정확한 코드 생성을 가능하게 합니다.

본 연구는 거대 언어 모델(LLM)의 사후 훈련 과정에서 모델 내부적으로 지식, 진실성, 거부, 신뢰도가 어떻게 변화하는지에 대한 메커니즘을 규명하였습니다. 특히, 사후 훈련이 기존 지식 표현을 바탕으로 새로운 지식 표현을 개발하고, 진실성은 유지하는 반면 거부 반응은 변화하며, 신뢰도는 엔트로피 뉴런과 무관함을 밝힘으로써 LLM 연구에 중요한 시사점을 제공합니다.

자기 개선형 LLM의 과신 문제를 해결하기 위한 반복적 보정 전략이 제시된 연구 결과가 발표되었습니다. 이 연구는 LLM의 정확도뿐 아니라 신뢰도 향상의 중요성을 강조하며, AI의 윤리적 책임과 신뢰성 확보에 기여할 것으로 예상됩니다.

Bo Yuan 등 연구팀이 개발한 NoiseAL은 LLM과 소형 모델(SM)의 협업을 통해 잡음 레이블 문제를 해결하는 혁신적인 능동 학습 프레임워크입니다. LLM의 강력한 능력과 SM의 효율성을 결합하여 기존 방식보다 높은 정확도와 효율성을 달성했습니다.

본 연구는 생성 모델의 출력을 효율적으로 제어하기 위해 활성화 벡터에 대한 스파스 간섭을 학습하는 새로운 방법인 LinEAS를 제안합니다. LinEAS는 전역 손실 함수와 스파스 정규화를 통해 기존 방법의 한계를 극복하고, 다양한 생성 모델에 적용 가능성을 보여줍니다.