마이크로컨트롤러 상 효율적인 희소 심층 신경망을 위한 경량 소프트웨어 커널 및 하드웨어 확장 기술

Francesco Daghero 등 연구진은 마이크로컨트롤러에서 희소 심층 신경망(DNN)의 효율적인 가속화를 위한 경량 소프트웨어 커널 및 하드웨어 확장 기술을 제시했습니다. 최적화된 소프트웨어 커널, 경량 ISA 확장, 그리고 오픈소스 DNN 컴파일러 확장을 통해 뛰어난 성능 향상과 에너지 효율을 달성했습니다.

혁신적인 에지 컴퓨팅 기술: 마이크로컨트롤러의 잠재력을 극대화하다

최근 에지 디바이스에서의 인공지능(AI) 활용이 급증하면서, 제한된 자원을 가진 마이크로컨트롤러(MCU) 상에서 심층 신경망(DNN)을 효율적으로 구동하는 기술이 주목받고 있습니다. Francesco Daghero 등 연구진은 이러한 문제에 대한 획기적인 해결책을 제시했습니다. 그들의 연구는 가지치기된 DNN의 가속화에 초점을 맞추고 있으며, 놀라운 성능 향상을 보여줍니다.

3가지 핵심 전략: 속도와 효율의 조화

연구진은 다음과 같은 3가지 전략을 통해 MCU 상에서 DNN 성능을 극대화했습니다.

1. 최적화된 소프트웨어 커널: 연구진은 초저전력 멀티코어 RISC-V MCU를 대상으로 N:M 가지치기 레이어를 위한 최적화된 소프트웨어 커널을 설계했습니다. 1:8 및 1:16 희소성에서 각각 기존 대비 최대 2.1배 및 3.4배의 속도 향상을 달성했습니다. 이는 기존의 제약을 뛰어넘는 괄목할 만한 성과입니다.

2. 경량 ISA 확장: 간접 로드 및 비영 인덱스 압축 연산은 DNN 처리 속도에 큰 영향을 미칩니다. 연구진은 이러한 연산을 가속화하기 위해 경량 Instruction-Set Architecture(ISA) 확장을 구현했습니다. 이는 최대 1.9배의 추가적인 속도 향상을 가져왔으며, 5%라는 낮은 하드웨어 오버헤드만을 발생시켰습니다. 성능 향상과 하드웨어 효율성 사이의 훌륭한 균형을 이룬 것입니다.

3. 개방형 DNN 컴파일러 확장: 연구진은 개발한 희소 커널을 활용하여 오픈소스 DNN 컴파일러를 확장했습니다. ResNet18과 Vision Transformer(ViT) 네트워크에서 각각 3.21배 및 1.81배의 속도 향상을 달성했으며, 정확도 저하는 1.5% 미만으로 유지했습니다. 이는 실제 응용 분야에서도 충분히 활용 가능한 수준의 성능을 의미합니다.

미래를 향한 발걸음: 에지 AI의 새로운 지평

이 연구는 MCU 기반 에지 디바이스에서의 AI 처리 성능을 비약적으로 향상시킬 가능성을 보여줍니다. 소프트웨어와 하드웨어의 통합적인 접근 방식은 향후 에지 AI 기술 발전에 중요한 이정표가 될 것입니다. 이를 통해 더욱 지능적이고 효율적인 에지 디바이스 개발이 가속화될 것으로 예상됩니다. 다만, 향후 연구에서는 다양한 DNN 아키텍처 및 MCU 플랫폼에 대한 확장성과 더욱 높은 수준의 에너지 효율성 개선 등을 고려해야 할 것입니다.