혁신적인 AI 가속기 EXION: 확산 모델의 계산 비용 혁명
카이스트 연구팀이 개발한 EXION은 확산 모델의 계산 비용 문제를 해결하는 소프트웨어-하드웨어 통합 가속기입니다. 반복 계산 과정의 희소성을 활용하여 GPU 대비 뛰어난 성능 및 에너지 효율을 달성, AI 시스템의 효율성과 실용성을 크게 향상시킬 것으로 기대됩니다.

최근 몇 년 동안, 텍스트 프롬프트로부터 다양한 다중 모달 출력을 생성하는 혁신적인 AI 솔루션으로 확산 모델이 떠올랐습니다. 하지만 이러한 강력한 기능에도 불구하고, 확산 모델은 반복적인 아키텍처로 인해 과도한 지연 시간과 에너지 소비와 같은 계산상의 어려움에 직면해 있습니다. 기존의 트랜스포머 가속 기술을 적용할 수 있지만, 확산 모델의 반복적인 특성은 여전히 해결되지 않은 과제로 남아있습니다.
그 해결책이 바로 EXION입니다.
카이스트 연구팀(허재훈, 아디웨나 푸트라, 윤지언, 윤성웅, 이항열, 김지훈, 김주영)이 제시한 EXION은 확산 모델에서 고유한 반복 간 및 반복 내 출력 희소성을 활용하여 계산 문제를 해결하는 최초의 소프트웨어-하드웨어 공동 설계 확산 가속기입니다. EXION은 다음과 같은 두 가지 소프트웨어 최적화 기법을 제시합니다.
- FFN-Reuse 알고리즘: 서로 다른 반복 간의 FFN(Feed-Forward Network) 계층에서 중복 계산을 식별하고 건너뜁니다 (반복 간 희소성).
- 개선된 조기 예측 방법: 두 단계 선행 1 검출을 사용하여 어텐션 점수를 정확하게 예측하고, 반복 내 불필요한 계산을 건너뜁니다 (반복 내 희소성).
또한, EXION은 희소 행렬을 압축된 형태로 결합하여 하드웨어 활용도를 높이는 새로운 데이터 압축 메커니즘인 ConMerge를 도입했습니다. EXION은 위에서 설명한 희소성 유도 알고리즘을 지원하는 전용 하드웨어 아키텍처를 갖추고 있어 높은 출력 희소성을 향상된 에너지 효율 및 성능으로 전환합니다.
다양한 유형의 다중 모달 확산 모델에서 EXION이 정확도에 영향을 미치지 않음을 보여주는 실험 결과를 통해 그 실현 가능성을 확인했습니다. 서버 및 에지 수준 설정에서 EXION을 구현하고 유사한 사양의 GPU와 성능을 비교한 결과, EXION은 서버 GPU에 비해 성능과 에너지 효율이 3.2379.3배 및 45.13067.6배 향상되었고, 에지 GPU에 비해 42.61090.9배 및 196.94668.2배 향상되는 놀라운 결과를 보였습니다.
EXION은 단순한 성능 향상을 넘어, 에너지 효율적인 AI 시스템 구축에 중요한 이정표를 제시하며, 향후 AI 기술 발전에 큰 영향을 미칠 것으로 기대됩니다. 특히, 에지 디바이스에서의 AI 처리 성능 향상은 자율주행, 사물 인터넷 등 다양한 분야에 혁신을 가져올 수 있습니다.
Reference
[arxiv] EXION: Exploiting Inter- and Intra-Iteration Output Sparsity for Diffusion Models
Published: (Updated: )
Author: Jaehoon Heo, Adiwena Putra, Jieon Yoon, Sungwoong Yune, Hangyeol Lee, Ji-Hoon Kim, Joo-Young Kim
http://arxiv.org/abs/2501.05680v1