매개변수 vs. 컨텍스트: 언어 모델의 지식 의존도 미세 조정

Baolong Bi 등 연구진이 발표한 CK-PLUG는 거대 언어 모델(LLM)의 환각 문제를 해결하기 위한 혁신적인 방법으로, 모델의 매개변수 지식과 외부 지식 간의 충돌을 효과적으로 관리하여 지식 의존도를 미세 조정합니다. Llama3-8B를 이용한 실험 결과, 메모리 재현율을 9.9%~71.9% 범위로 조절하며, 다양한 RAG 작업에서 일관된 성능 향상을 보였습니다.

거대 언어 모델의 환각 문제, 새로운 해결책 등장!

최근 발표된 논문 "Parameters vs. Context: Fine-Grained Control of Knowledge Reliance in Language Models"에서, Baolong Bi를 비롯한 연구팀은 거대 언어 모델(LLM)의 고질적인 문제인 환각(hallucination)을 해결하기 위한 혁신적인 방법, CK-PLUG를 제시했습니다.

LLM은 종종 사실이 아닌 정보를 생성하는데, 이는 모델 내부의 지식과 외부에서 검색된 정보 간의 충돌 때문입니다. 기존의 검색 증강 생성(RAG) 기법은 외부 지식을 통합하여 이 문제를 완화하려 하지만, 검색된 정보가 신뢰할 수 없거나 모델의 내부 지식이 오래된 경우 여전히 문제가 발생합니다. 이러한 상황에서 LLM은 자체 매개변수에 의존할지, 혹은 상충되는 컨텍스트에 의존할지 결정하는 데 어려움을 겪습니다.

CK-PLUG: 지식 의존도의 미세 조정

연구팀은 이 문제를 해결하기 위해 CK-PLUG라는 플러그 앤 플레이 방식을 제안합니다. CK-PLUG는 Confidence Gain이라는 새로운 지식 일관성 측정 지표를 도입하여 컨텍스트 삽입 후 토큰 확률 분포의 엔트로피 변화를 측정함으로써 지식 충돌을 감지합니다. 그리고 단일 조정 매개변수를 통해 음의 Confidence Gain을 가진 토큰의 확률 분포를 조정하여 지식 선호도를 미세하게 제어합니다.

놀라운 실험 결과

Llama3-8B 모델을 사용한 실험에서 CK-PLUG는 가정과 반대되는 RAG 시나리오에서 지식 의존도를 상당히 조절하는 동시에 생성 유창성과 지식 정확도를 유지하는 능력을 입증했습니다. 특히, RAG 응답의 메모리 재현율(MR)을 기존 42.1%에서 9.9%~71.9%의 넓은 범위로 조정할 수 있었습니다. 뿐만 아니라, CK-PLUG는 모델의 내부 및 외부 지식에 대한 신뢰도에 기반한 적응적 제어를 지원하여 다양한 일반적인 RAG 작업에서 일관된 성능 향상을 달성했습니다.

향후 전망

CK-PLUG는 LLM의 환각 문제 해결에 큰 가능성을 보여주는 획기적인 연구입니다. 본 연구의 코드는 GitHub 에서 확인할 수 있습니다. 향후 연구에서는 더욱 다양한 LLM과 RAG 작업에 대한 적용 및 더욱 정교한 지식 충돌 해결 메커니즘 개발이 기대됩니다. 이를 통해 더욱 안전하고 신뢰할 수 있는 LLM 기반 애플리케이션 개발이 가속화될 것으로 예상됩니다.