획기적인 AI 모델 'Control LLM': 잊지 않는 인공지능의 탄생

LinkedIn 연구진을 포함한 연구팀이 개발한 'Control LLM'은 기존 AI 모델의 '파국적 망각' 문제를 해결, 새로운 지식 학습과 기존 지식 유지를 동시에 달성하며 수학적 추론, 코딩, 다국어 능력 향상을 통해 최첨단 성능을 기록했습니다. 소량의 데이터와 컴퓨팅 자원으로 놀라운 성과를 거두었으며, LinkedIn 제품에도 적용되었습니다.

끊임없이 발전하는 인공지능(AI) 분야에서 가장 큰 과제 중 하나는 바로 '파국적 망각(Catastrophic Forgetting)'입니다. 이는 인공지능 모델이 새로운 지식을 학습하는 과정에서 기존에 학습된 지식을 잊어버리는 현상을 말합니다. 지속적 사전 훈련(CPT)과 지속적 감독 미세 조정(CSFT)과 같은 훈련 방식에서 특히 심각한 문제로 인식되고 있습니다.

하지만 이제 이 문제에 대한 혁신적인 해결책이 등장했습니다. LinkedIn의 연구진을 포함한 연구팀이 개발한 'Control LLM' 이 바로 그 주인공입니다. 'Control LLM'은 병렬적으로 사전 훈련된 확장된 트랜스포머 블록을 활용하고, 보간 전략을 통해 이들의 은닉 상태를 정렬하는 획기적인 접근 방식을 제시합니다. 이는 기존 작업의 성능을 유지하면서 새로운 지식을 원활하게 통합하는 것을 가능하게 합니다.

그 효과는 놀랍습니다. Llama3.1-8B-Instruct 모델을 기반으로 한 실험 결과, 수학적 추론 능력은 무려 14.4% 향상되었고(Math-Hard), 코딩 성능 또한 10% 증가했습니다(MBPP-PLUS). Llama3.1-8B 모델에서는 다국어 능력이 C-Eval에서 10.6%, CMMLU에서 6.8%, CMMLU-0shot-CoT에서는 30.2%나 향상되었습니다. 이는 동일한 기본 모델에서 미세 조정된 오픈소스 모델 중 최고 수준(SOTA)의 성능이며, 기존 방법들을 뛰어넘는 성과입니다. 특히 주목할 만한 점은 이러한 성능 향상이 적은 데이터와 컴퓨팅 자원으로 이루어졌다는 것입니다. 더욱 놀라운 것은 기존 능력의 저하가 MMLU에서 4.3% 미만으로 매우 적다는 점입니다. 이는 기존 오픈소스 수학 및 코딩 모델에서 35% 이상의 성능 저하가 발생하는 것과는 대조적입니다.

이처럼 뛰어난 성능을 보이는 'Control LLM'은 이미 LinkedIn의 GenAI 기반 구직자 및 광고 부서 제품에 성공적으로 적용되었습니다. 연구팀은 더 많은 연구를 지원하기 위해 훈련 및 평가 코드( https://github.com/linkedin/ControlLLM )와 공개 데이터셋으로 훈련된 모델(https://huggingface.co/ControlLLM)을 공개했습니다.

'Control LLM'은 단순한 기술적 진보를 넘어, 인공지능의 지속적인 학습과 발전에 대한 새로운 가능성을 제시합니다. '잊지 않는 인공지능'이라는 꿈에 한 걸음 더 가까이 다가선 셈입니다. 앞으로 'Control LLM'이 어떤 놀라운 성과를 만들어낼지 기대해 볼 만합니다.