파라미터 효율적인 미세 조정의 혁신: PaCA 알고리즘의 등장

성균관대 연구팀이 개발한 PaCA 알고리즘은 기존 PEFT의 한계를 극복, 대규모 언어 모델 미세 조정의 속도와 메모리 효율을 크게 향상시켰습니다. LoRA 대비 학습 시간 22%, 메모리 사용량 16% 감소 효과를 보이며, LLaMA3.1-70B와 같은 대규모 모델의 미세 조정도 가능하게 합니다.

파라미터 효율적인 미세 조정(PEFT) 알고리즘의 한계 극복

최근 대규모 언어 모델의 미세 조정은 막대한 메모리와 연산 비용을 필요로 합니다. 이를 해결하기 위해 등장한 파라미터 효율적인 미세 조정(PEFT) 알고리즘은 전체 모델이 아닌 일부 어댑터 파라미터만 학습하여 자원 소모를 줄입니다. 하지만 PEFT는 연산 비용 감소에도 불구하고, 어댑터 레이어와 사전 학습된 레이어의 순차적 처리로 인한 지연 시간 오버헤드 때문에 학습 시간 단축에는 한계가 있었습니다. LoRA와 같은 기존 방법들은 추론 시에 효율적이지만, 학습 단계에서는 여전히 이러한 문제를 안고 있었습니다.

PaCA: 부분 연결 적응을 통한 획기적인 속도 및 메모리 개선

성균관대학교 연구팀(우성현, 남궁솔, 이선우, 정인호, 김범석, 전동석)은 이러한 문제를 해결하기 위해 PaCA(Partial Connection Adaptation) 알고리즘을 제시했습니다. PaCA는 어댑터 레이어를 추가하는 대신, 사전 학습된 가중치 내의 무작위로 선택된 부분 연결만 미세 조정합니다. 이를 통해 어댑터와 사전 학습 레이어의 순차적 처리로 인한 시간 오버헤드를 제거하고, 전체 활성화가 아닌 부분 활성화만 저장하여 활성화 메모리 사용량도 줄입니다.

PaCA의 놀라운 성능

연구 결과, PaCA는 LoRA에 비해 학습 시간을 22%, 총 메모리 사용량을 16% 감소시키면서 유사한 정확도를 유지했습니다. MMLU 데이터셋과 Oasst1 데이터셋에서의 미세 조정 실험 모두에서 이러한 성능 개선이 확인되었습니다. 더 나아가, PaCA는 양자화와 결합하여 LLaMA3.1-70B와 같은 대규모 모델의 미세 조정까지 가능하게 합니다. NVIDIA A100 GPU와 INTEL Gaudi2 HPU 모두에서 LoRA 대비 16% 향상된 처리량과 23% 더 긴 시퀀스 학습을 지원합니다.

미래를 향한 발걸음: 더욱 효율적인 AI 모델 학습을 위한 혁신

PaCA는 단순히 속도와 메모리 효율을 개선하는 것을 넘어, 대규모 모델의 미세 조정 접근 방식에 대한 새로운 패러다임을 제시합니다. GitHub(https://github.com/WooSunghyeon/paca)에서 공개된 코드를 통해 누구든지 PaCA를 활용할 수 있습니다. 이 연구는 더욱 효율적이고 빠른 AI 모델 학습을 위한 중요한 이정표가 될 것으로 기대됩니다. 앞으로 PaCA를 기반으로 한 더욱 발전된 연구들이 AI 분야의 혁신을 가속화할 것입니다.