잊지 않는 AI: 지속적 학습의 혁신, Recurrent-KIF

Feng 등의 연구진이 개발한 Recurrent-KIF는 대규모 언어 모델의 지속적 학습 문제를 해결하기 위해 동적 중요도 분포 추정 및 내부/외부 루프 기반의 지식 융합 전략을 제시, 파국적 망각 문제 완화 및 지식 전이 향상을 실험적으로 증명했습니다.

끊임없이 변화하는 세상에서 AI는 어떻게 끊임없이 학습하고 발전할 수 있을까요? 바로 '지속적 학습(Continual Learning, CL)'이 그 핵심입니다. 대규모 언어 모델(LLM)을 매번 처음부터 다시 훈련시키는 것은 비용과 시간 면에서 엄청난 부담이죠. 하지만 Feng, Wang, Lu 등의 연구진이 개발한 Recurrent-KIF는 이 문제에 대한 획기적인 해결책을 제시합니다.

기존의 모델 앙상블이나 모델 병합 방식은 매개변수의 중요도를 정적으로 평가하기 때문에 지식 전이와 망각 현상 사이의 균형을 맞추는 데 어려움을 겪었습니다. 마치 인간이 새로운 것을 배우면서 기존 지식을 잊어버리는 것처럼 말이죠. 하지만 Recurrent-KIF는 다릅니다.

Recurrent-KIF는 매개변수의 중요도 분포를 동적으로 추정합니다. 이는 인간의 지속적 학습 방식에서 영감을 얻었습니다. 빠르게 새로운 작업에 적응하면서 중요한 매개변수를 식별하는 내부 루프와, 중복된 지식을 제거하고 핵심 지식을 통합하여 전반적인 지식을 관리하는 외부 루프가 이를 가능하게 합니다. 두 루프는 반복적으로 여러 차례 융합 과정을 수행하며, 중간 훈련 정보를 활용하여 진화하는 중요도 분포에 따라 융합 전략을 적응적으로 조정합니다.

7억 7천만개에서 130억개에 이르는 다양한 크기의 모델을 대상으로 한 실험 결과는 Recurrent-KIF가 파국적 망각(catastrophic forgetting) 을 효과적으로 완화하고 지식 전이를 향상시킨다는 것을 보여줍니다. 이는 마치 인간처럼, 새로운 지식을 습득하면서도 기존의 지식을 유지하고 활용할 수 있다는 것을 의미합니다.

Recurrent-KIF는 단순한 기술적 진보를 넘어, AI의 지속적 학습 능력에 대한 새로운 가능성을 열어주는 획기적인 연구입니다. 앞으로 AI가 더욱 스마트하고, 효율적이며, 인간과 같은 지속적인 학습 능력을 갖추도록 하는데 중요한 역할을 할 것으로 기대됩니다. 이러한 혁신은 AI가 우리 삶에 더욱 깊숙이 통합될 미래를 예고하는 신호탄입니다. 🎉