RED: 재구성 가능한 전압 스윙과 유지 관리 인식 스케줄링을 갖춘 eDRAM 기반 PIM을 위한 에너지 최적화 프레임워크

김재영 박사 연구팀이 개발한 RED 프레임워크는 eDRAM 기반 PIM의 에너지 효율을 획기적으로 개선하여 AI 시대의 에너지 문제 해결에 기여할 것으로 기대됩니다.

AI 시대의 에너지 효율 혁신: RED 프레임워크

최근 AI의 급속한 발전과 함께 Transformer 모델과 같은 대규모 언어 모델이 다양한 분야에서 뛰어난 성능을 보여주고 있습니다. 하지만 이러한 모델의 방대한 파라미터 수는 기존 폰 노이만 아키텍처에서 높은 지연 시간과 에너지 소모를 초래합니다.

이러한 문제를 해결하기 위해 Processing-in-Memory (PIM) 기술이 주목받고 있습니다. PIM은 데이터 이동을 최소화하여 데이터 집약적인 애플리케이션의 처리 속도를 높이는 기술입니다. 기존 연구들은 주로 PIM의 연산 부분을 최적화하여 에너지 효율을 높이는 데 집중했지만, PIM에서 가장 많은 에너지를 소모하는 메모리 설계의 중요성은 상대적으로 간과되어 왔습니다.

김재영 박사를 비롯한 연구팀은 이러한 문제점을 해결하기 위해 RED (Reconfigurable Voltage Swing and Retention-aware Scheduling) 라는 새로운 에너지 최적화 프레임워크를 개발했습니다. RED는 eDRAM 기반 PIM에 적용되는데, 연구팀은 eDRAM 기반 PIM의 동작을 분석하여 두 가지 중요한 사실을 발견했습니다.

1. 메모리 접근 에너지 소모가 PIM에서 가장 큰 비중을 차지한다는 점
2. 읽기 비트라인(RBL) 전압 스윙, 감지 증폭기 전력, 유지 시간 사이에 상호 작용이 존재한다는 점

이러한 발견을 바탕으로 연구팀은 재구성 가능한 eDRAM과 유지 관리 인식 스케줄링을 제안했습니다. 이는 eDRAM 매크로의 실행 시간 에너지 소모를 최소화하는 혁신적인 기술입니다. RED 프레임워크는 모든 가능한 타일링 기법과 메모리 동작에 대한 에너지 소모량을 미리 예측하여 최적의 작동점을 찾습니다. 재구성 가능한 eDRAM은 스케줄링에 따라 RBL 전압 스윙을 실시간으로 제어하여 메모리 접근 전력을 최적화합니다. 또한, RED는 리프레시 건너뛰기 및 감지 증폭기 전력 게이팅을 사용하여 상호 작용으로 인한 에너지 소모 오버헤드를 줄입니다.

결과적으로 RED 프레임워크는 기존 SRAM 기반 PIM보다 최대 3.05배 높은 에너지 효율을 달성했습니다. 재구성 가능한 eDRAM과 최적화 기법을 통해 eDRAM 매크로의 에너지 소모를 최대 74.88% 줄였으며, 스케줄링을 위한 추가적인 면적 및 에너지 오버헤드는 각각 **3.5%**와 **0.77%**에 불과합니다. 이는 AI 시대의 에너지 효율적인 PIM 구현에 중요한 이정표가 될 것으로 기대됩니다. 🎉