혁신적인 초경량 언어 모델 PLM: 에지 컴퓨팅의 미래를 열다

초경량 언어 모델 PLM은 에지 기기의 제한된 자원 내에서 뛰어난 성능을 제공하며, RLHF와 2단계 SFT를 통해 성능을 더욱 향상시켰습니다. 다양한 에지 기기에서의 작동 검증을 통해 보편적 컴퓨팅 시대를 앞당길 혁신적인 기술임을 입증했습니다.

대규모 언어 모델(LLM)의 발전은 눈부시지만, 그 어마어마한 자원 소모는 에지 기기 활용에 큰 걸림돌이었습니다. 최근 등장한 소형 언어 모델들은 LLM의 성능을 축소하여 에지 환경에 적용하려는 시도였지만, 여전히 제한된 저장 공간과 대역폭을 넘어서지 못했습니다.

하지만 이제 희소식이 있습니다! Cheng Deng 등 12명의 연구진이 개발한 PLM(Peripheral Language Model) 이 그 해답을 제시합니다. PLM은 모델 아키텍처와 에지 시스템 제약 조건을 공동으로 최적화하는 공동 설계(co-design) 방식으로 탄생했습니다. 단순한 축소판이 아닌, 에지 환경에 최적화된 새로운 아키텍처를 통해 획기적인 성능을 달성한 것입니다.

PLM의 핵심은 다중 헤드 잠재적 주의(Multi-head Latent Attention) 메커니즘과 제곱 ReLU 활성화 함수의 사용입니다. 이를 통해 추론 시 최대 메모리 사용량을 줄이고, 모델의 효율성을 극대화했습니다. 여기에 더해, 연구진은 다단계 학습 전략과 Warmup-Stable-Decay-Constant (WSDC) 학습률 스케줄러를 도입하여 학습 효율을 높였습니다.

특히 눈에 띄는 점은 RLHF(Reinforcement Learning from Human Feedback) 의 적용입니다. ARIES 선호도 학습 방식을 채택하여 2단계 SFT(Supervised Fine-Tuning) 과정을 거침으로써 일반 작업에서는 2%, GSM8K 작업에서는 9%, 코딩 작업에서는 11%의 성능 향상을 달성했습니다. 이는 기존 소형 언어 모델을 뛰어넘는 놀라운 결과입니다.

단순히 성능 향상만이 아닙니다. PLM은 공개 데이터로 학습된 기존 소형 언어 모델 중 가장 적은 활성화 매개변수를 가지면서도 최고의 성능을 보여줍니다. 더욱 놀라운 사실은 일반 소비자용 GPU, 모바일, 라즈베리 파이 등 다양한 에지 기기에서 원활하게 작동한다는 것입니다. 이는 PLM이 진정한 의미의 보편적 컴퓨팅(Ubiquitous Computing) 을 가능하게 할 잠재력을 가지고 있음을 보여줍니다.

PLM 시리즈 모델은 https://github.com/plm-team/PLM 에서 공개되어 있습니다. 이제 에지 컴퓨팅의 새로운 시대가 열리고 있습니다. PLM의 등장은 단순히 기술의 발전을 넘어, 더욱 스마트하고 연결된 세상을 향한 중요한 이정표가 될 것입니다.