LLM-DSE: 대규모 언어 모델로 하드웨어 가속기 설계 혁신을 이끌다
LLM-DSE는 LLM과 DSE를 결합한 다중 에이전트 프레임워크로, 하드웨어 가속기 설계 최적화 문제를 해결합니다. 기존 방법 대비 2.55배 향상된 성능을 보이며, 오픈소스로 공개되어 AI 기반 하드웨어 설계 분야의 발전에 기여할 것으로 예상됩니다.

최근, 하드웨어 가속기 설계 분야에서 획기적인 발전이 있었습니다. Hanyu Wang 등 연구진이 개발한 LLM-DSE라는 새로운 프레임워크가 등장하여 기존의 어려움을 극복하고 놀라운 성능 향상을 보여주었기 때문입니다.
기존의 고수준 합성(HLS) 도구는 추상화 수준을 높여 도메인 특화 가속기(DSA) 프로그래밍의 어려움을 완화했지만, 하드웨어 지시어 매개변수 최적화는 여전히 난제였습니다. 휴리스틱 및 학습 기반 기존 방법들은 적응성과 샘플 효율성이 부족했습니다.
하지만 LLM-DSE는 이러한 한계를 뛰어넘습니다. 대규모 언어 모델(LLM)과 설계 공간 탐색(DSE)을 결합한 다중 에이전트 프레임워크인 LLM-DSE는 Router, Specialist, Arbitrator, Critic의 네 가지 에이전트로 구성됩니다. 각 에이전트는 상호 작용하며 최적화 과정을 가속화합니다. LLM-DSE는 핵심 도메인 지식을 활용하여 효율적인 매개변수 조합을 식별하고, 온라인 상호 작용을 통한 언어 학습으로 적응력을 유지합니다.
HLSyn 데이터셋을 사용한 평가 결과, LLM-DSE는 최첨단 방법보다 2.55배 향상된 성능을 달성했습니다. 새로운 설계를 발견하면서 실행 시간도 단축시켰습니다. 더욱이, ablation study를 통해 제안된 에이전트 상호 작용의 효과와 필요성을 검증했습니다.
특히 주목할 점은, LLM-DSE의 오픈소스 공개입니다. GitHub (https://github.com/Nozidoali/LLM-DSE) 에서 코드를 확인할 수 있습니다. 이는 AI 기반 하드웨어 설계 분야의 발전에 크게 기여할 것으로 기대됩니다. LLM-DSE는 단순한 성능 향상을 넘어, AI를 활용한 하드웨어 설계의 새로운 가능성을 제시하며, 앞으로 이 분야의 연구 방향에 중요한 영향을 미칠 것으로 예상됩니다.
LLM-DSE의 등장은 단순한 기술적 진보를 넘어, AI와 하드웨어 설계 분야의 융합을 가속화하는 중요한 이정표가 될 것입니다. 앞으로 더욱 발전된 AI 기반 하드웨어 설계 기술이 등장하여 우리 삶을 더욱 풍요롭게 만들어 줄 것으로 기대합니다.
Reference
[arxiv] LLM-DSE: Searching Accelerator Parameters with LLM Agents
Published: (Updated: )
Author: Hanyu Wang, Xinrui Wu, Zijian Ding, Su Zheng, Chengyue Wang, Tony Nowatzki, Yizhou Sun, Jason Cong
http://arxiv.org/abs/2505.12188v2