PLD+ : LLM 추론 속도의 혁신 🎉
PLD+는 LLM 추론 속도를 획기적으로 향상시키는 알고리즘으로, 예측적 디코딩과 추론 아티팩트 활용을 통해 기존 방식의 한계를 극복했습니다. 추가적인 컴퓨팅 자원이나 미세 조정 없이도 뛰어난 성능을 보여주며, 다양한 입력-지시형 작업에서 활용될 것으로 기대됩니다.

LLM 추론 속도의 혁명: PLD+ 등장
최근 몇 년 동안 급격한 발전을 거듭해 온 대규모 언어 모델(LLM)은 놀라운 성능을 보여주고 있지만, 여전히 추론 속도 문제는 풀어야 할 과제로 남아있습니다. 특히 코드 편집, 텍스트 편집, 요약과 같이 입력과 출력이 상당 부분 겹치는 입력-지시형 작업에서는 더욱 그렇습니다.
이러한 문제를 해결하기 위해 Shwetha Somasundaram, Anirudh Phukan, Apoorv Saxena 연구팀이 개발한 PLD+(Parallel Language Decoding+) 가 등장했습니다. PLD+는 예측적 디코딩(speculative decoding) 이라는 새로운 패러다임을 활용하여 미래 토큰을 미리 예측하고 병렬적으로 검증하는 방식을 사용합니다. 이를 통해 기존의 순차적 디코딩 방식보다 훨씬 빠른 추론 속도를 달성할 수 있습니다.
하지만 예측적 디코딩은 추가적인 컴퓨팅 자원과 미세 조정을 필요로 한다는 단점이 있습니다. PLD+는 이러한 단점을 극복하기 위해, 입력과 출력의 상당 부분이 중복되는 입력-지시형 작업의 특징을 이용합니다. 또한 추론 과정에서 생성되는 어텐션(attention) 및 은닉 상태(hidden states) 와 같은 아티팩트를 적극적으로 활용하여 추론 속도를 가속화합니다. 즉, 모델이 이미 계산한 정보를 재활용하여 불필요한 계산을 줄이는 것입니다.
연구팀은 다섯 가지 입력-지시형 작업을 통해 PLD+를 테스트했습니다. 놀랍게도, PLD+는 모든 미세 조정 없는 접근 방식을 능가하는 성능을 보였습니다. 심지어 그리디(greedy) 설정에서는 기존 최고 성능의 미세 조정 기반 접근 방식인 EAGLE을 네 가지 작업에서 최대 2.31배의 속도 향상으로 앞질렀습니다. 가장 중요한 점은 PLD+는 추가적인 컴퓨팅 자원이나 미세 조정 없이 사용할 수 있다는 점입니다.
PLD+는 LLM 추론 속도 향상에 있어 새로운 기준을 제시하며, 향후 더욱 발전된 LLM 응용 프로그램 개발에 큰 영향을 미칠 것으로 예상됩니다. 빠르고 효율적인 LLM 추론을 필요로 하는 다양한 분야에서 PLD+의 활용이 기대됩니다. 이 혁신적인 기술이 우리의 디지털 삶에 어떤 변화를 가져올지 주목해 볼 필요가 있습니다.
Reference
[arxiv] PLD+: Accelerating LLM inference by leveraging Language Model Artifacts
Published: (Updated: )
Author: Shwetha Somasundaram, Anirudh Phukan, Apoorv Saxena
http://arxiv.org/abs/2412.01447v1