CogSys: 알고리즘-하드웨어 공동 설계로 실시간 추론의 새 지평을 열다

CogSys는 알고리즘-하드웨어 공동 설계를 통해 신경 상징 AI의 실시간 추론을 가능하게 한 획기적인 시스템입니다. 기존 하드웨어의 한계를 극복하고 뛰어난 성능을 보여주며, 다양한 분야에서 혁신적인 응용을 가능하게 할 것으로 기대됩니다.

서론: 인공지능(AI) 분야에서 신경 상징 AI는 투명성, 해석 가능성, 신뢰성을 향상시키는 유망한 패러다임으로 떠오르고 있습니다. 하지만 기존 CPU, GPU, TPU 등의 하드웨어에서는 메모리 집약성, 계산 이질성, 액세스 패턴 불규칙성으로 인해 성능 저하가 심각한 문제였습니다.

CogSys의 혁신: Zishen Wan 등 연구진이 개발한 CogSys는 이러한 문제를 해결하기 위해 알고리즘과 하드웨어를 공동 설계한 획기적인 시스템입니다. CogSys는 크게 세 가지 핵심 요소로 구성됩니다.

• 효율적인 알고리즘: 계산 및 메모리 오버헤드를 줄이기 위해 효율적인 인수분해 기법을 도입했습니다. 이는 신경 상징 작업의 처리 속도를 크게 향상시키는 데 기여합니다.
• 확장 가능한 하드웨어 아키텍처: 재구성 가능한 신경/상징 처리 요소(nsPE)와 버블 스트리밍(BS) 데이터 흐름, 그리고 공간-시간(ST) 매핑을 통해 고도로 병렬적이고 효율적인 신경 상징 계산을 가능하게 합니다. TSMC 28nm 기술 노드에서 평가한 결과, TPU 유사 시스토릭 어레이 대비 75배 이상의 속도 향상을 달성했습니다. 데스크탑 및 에지 GPU와 비교해도 4배에서 96배까지 속도 향상을 보였습니다.
• 적응형 작업 인식 스케줄러(adSCH): 이질적인 커널을 조율하고 자원 활용도를 높여 시스템 전체의 효율성을 극대화합니다.

놀라운 성능: CogSys는 다양한 인지 작업에서 뛰어난 성능을 보여주었습니다. 특히, 인간의 유체 지능에 필적하는 실시간 추론을 가능하게 했다는 점이 주목할 만합니다. 단 0.3초 만에 추론 작업을 완료하며, 4 mm²의 면적과 1.48 W의 전력 소비량만으로도 동작합니다. 이는 에지 기기에서의 실시간 AI 응용을 현실로 만들 가능성을 보여줍니다.

결론: CogSys는 신경 상징 AI의 실시간 응용을 위한 중요한 이정표를 세웠습니다. 알고리즘과 하드웨어의 혁신적인 공동 설계를 통해 계산 효율성과 확장성을 동시에 달성함으로써, AI의 새로운 가능성을 열었습니다. 앞으로 CogSys는 자율주행, 로보틱스, 의료 진단 등 다양한 분야에서 혁신적인 응용을 가져올 것으로 기대됩니다. 더불어, AI의 투명성과 신뢰성을 높이는 데도 크게 기여할 것으로 예상됩니다.