혁신적인 AI 네트워크: 프로그래머블 데이터 플레인에서의 CNN 추론, Quark의 성공

Mai Zhang 등 연구팀이 개발한 Quark 프레임워크는 프로그래머블 데이터 플레인(PDP)에서 컨볼루션 신경망(CNN) 추론을 효율적으로 수행하여, 제한된 자원에도 불구하고 높은 정확도(97.3%)와 속도를 달성했습니다. 이는 AI 기반 네트워크의 발전에 크게 기여할 것으로 기대됩니다.

최근 네트워크 분야에서 인공지능(AI)의 활용이 급증하고 있습니다. 특히 프로그래머블 데이터 플레인(PDP)을 이용한 지능형 데이터 플레인(IDP) 기술은 네트워크 트래픽의 동적 분석 및 빠른 대응, 효율적인 네트워크 링크 관리에 크게 기여할 것으로 기대됩니다. 하지만 PDP 하드웨어 파이프라인은 SRAM 용량 제한, 곱셈 및 나눗셈 연산의 부재 등의 심각한 자원 제약을 가지고 있습니다. 이는 IDP 개발에 큰 걸림돌이 되어 왔습니다.

Mai Zhang을 비롯한 연구팀은 이러한 문제를 해결하기 위해 Quark이라는 획기적인 프레임워크를 개발했습니다. Quark은 컨볼루션 신경망(CNN) 추론을 PDP 상에서 완전히 수행하는 것을 목표로 합니다. 기존의 한계를 극복하기 위해 연구팀은 세 가지 주요 전략을 사용했습니다.

• 모델 프루닝: CNN 모델을 간소화하여 PDP의 제한된 자원을 효율적으로 사용합니다.
• 양자화: 부동 소수점 연산을 지원하여 PDP의 연산 능력 제한을 극복합니다.
• CNN 분할: CNN을 더 작은 단위로 나누어 PDP의 자원 활용도를 높입니다.

연구팀은 Intel Tofino ASIC 기반의 P4 하드웨어 스위치와 BMv2 소프트웨어 스위치에서 Quark의 시험대를 구축하여 실험을 진행했습니다. 놀랍게도, Quark은 이상 탐지 작업에서 **97.3%**의 높은 정확도를 달성했습니다. 이는 Intel Tofino ASIC 스위치의 SRAM 자원의 **22.7%**만 사용하면서 이뤄낸 성과입니다. 평균 지연 시간은 42.66 μs로, 라인 레이트에서 추론 작업을 완료했습니다.

이 연구는 PDP 상에서 효율적인 CNN 추론을 가능하게 하는 중요한 이정표를 세웠습니다. Quark은 제한된 자원에도 불구하고 높은 정확도와 속도를 제공하여, AI 기반 네트워크의 실제 구현에 한 걸음 더 다가가게 했습니다. 앞으로 Quark의 발전과 더욱 다양한 응용 분야에서의 활용이 기대됩니다. 특히, 네트워크 보안, 트래픽 관리, 그리고 지능형 네트워크 관리 분야에서의 혁신을 가져올 것으로 예상됩니다.