센서 내부의 AI 혁명: 초저전력 CNN의 등장

이탈리아 연구진이 센서 내부에서 직접 작동하는 초저전력 CNN을 구현하는 데 성공했습니다. ST마이크로일렉트로닉스의 ISPU와 조기 종료 메커니즘을 활용하여 기존 방식 대비 11%의 전력 소모 감소를 달성했으며, 정확도는 동일하게 유지했습니다. 이는 IoT, 웨어러블 기기 등 다양한 분야에 혁신적인 변화를 가져올 것으로 기대됩니다.

최근, 제한된 메모리, 연산 능력, 에너지를 가진 임베디드 디바이스에 머신러닝(ML)을 통합하는 TinyML이 주목받고 있습니다. 특히, ML을 센서에 직접 통합하여 전력 소모를 더욱 줄이는 연구가 활발히 진행 중입니다. 하지만 기존 연구는 센서에서 직접 작동하는 합성곱 신경망(CNN)의 최적화 구현에는 미흡했습니다.

이탈리아 연구진(Hazem Hesham Yousef Shalby 외 6인)이 발표한 논문, "On-Sensor Convolutional Neural Networks with Early-Exits"는 이러한 한계를 극복하는 획기적인 결과를 제시합니다. ST마이크로일렉트로닉스의 관성 측정 장치(IMU) 내 지능형 센서 처리 장치(ISPU)에서 심층 우선 탐색 CNN을 최적화된 설계 및 구현을 통해 실현한 것입니다.

연구진의 접근 방식은 CNN을 ISPU와 마이크로컨트롤러(MCU) 사이에 분할하고, 조기 종료 메커니즘을 사용하여 결과에 대한 충분한 신뢰도에 도달하면 IMU에서 계산을 중지하는 데 있습니다. 이를 통해 전력 소모를 상당히 줄일 수 있었습니다.

NUCLEO-F411RE 보드를 사용한 실험 결과, 이 솔루션은 평균 4.8mA의 전류 소모를 달성하여 MCU에서의 일반적인 추론 파이프라인에 비해 11%의 감소를 보였습니다. 놀라운 점은 정확도는 동일하게 유지되었다는 것입니다.

이 연구는 에너지 효율적인 AI 기술 개발에 중요한 전환점을 마련했습니다. 센서 내부에서 직접 AI 연산을 수행함으로써, 배터리 수명이 중요한 사물 인터넷(IoT) 기기, 웨어러블 기기, 로봇 등 다양한 분야에 혁신적인 변화를 가져올 것으로 기대됩니다. 특히, 조기 종료 메커니즘은 전력 소모 감소와 성능 저하 간의 균형을 효과적으로 제어할 수 있는 핵심 기술로서 앞으로 더욱 발전될 가능성이 높습니다. 하지만, 다양한 센서와 응용 분야에 대한 추가 연구 및 최적화가 필요한 부분입니다.