ChiseLLM: 추론 LLM의 힘으로 칩 설계의 새로운 지평을 열다

ChiseLLM은 LLM의 추론 능력을 활용하여 Chisel 기반 하드웨어 개발의 효율성을 높인 혁신적인 모델입니다. 데이터 처리, 프롬프트 기반 추론, 도메인 적응 모델 학습을 통해 구문 정확성과 설계 다양성을 크게 향상시켰으며, 공개된 데이터셋과 모델은 향후 연구에 중요한 기여를 할 것으로 기대됩니다.

특정 도메인 아키텍처(DSA) 개발의 급증하는 수요는 민첩한 하드웨어 개발 방법론(AHDM)의 발전을 촉진했습니다. Chisel과 같은 하드웨어 구성 언어(HCL)는 고차원 추상화 기능을 제공하여 HCL 기반 AHDM에 이상적인 언어가 되었습니다. 하지만 대규모 언어 모델(LLM)은 코드 생성 작업에서 뛰어나지만, 특히 구문 정확성과 설계 변화에 있어 Chisel 코드 생성에는 여전히 어려움을 겪고 있습니다.

최근 추론 모델은 테스트 시간 확장 기법을 통해 코드 생성 능력을 크게 향상시켰습니다. 그러나 도메인 적응 없이 추론 모델을 사용하는 경우 Chisel 코드 생성 작업에 대한 실질적인 이점을 가져올 수 없다는 사실을 발견했습니다.

이 논문에서는 데이터 처리 및 변환, 프롬프트 기반 추론 추적 합성, 도메인 적응 모델 학습으로 구성된 솔루션인 ChiseLLM을 제시합니다. 공개 RTL 코드 리소스에서 고품질 데이터 세트를 구축하고, 프롬프트 개선 방법을 통해 모델이 구조화된 사고 패턴을 채택하도록 유도했습니다.

실험 결과, ChiseLLM-7B 및 ChiseLLM-32B 모델은 기본 모델에 비해 구문 정확성을 각각 18.85% 및 26.32% 향상시켰고, 기준 추론 모델에 비해 변화 설계 능력을 47.58% 향상시켰습니다. 우리의 데이터 세트와 모델은 공개적으로 사용 가능하며, HCL 기반 AHDM을 위한 고성능 비용 효율적인 모델을 제공하고 미래 연구를 위한 효과적인 기준을 제시합니다. GitHub 저장소: https://github.com/observerw/ChiseLLM

Bowei Wang, Jiaran Gao, Yelai Feng, Renzhi Chen, Shanshan Li, Lei Wang 등의 연구진은 ChiseLLM을 통해 LLM의 추론 능력을 활용하여 Chisel 기반 하드웨어 개발의 효율성과 정확성을 획기적으로 높였습니다. 이는 하드웨어 개발의 민첩성을 높이는 데 크게 기여할 것으로 예상됩니다. 특히, 공개된 데이터셋과 모델은 향후 연구에 중요한 기반을 제공할 것으로 기대됩니다. ChiseLLM은 단순한 코드 생성 도구를 넘어, AI 기반 하드웨어 설계의 새로운 패러다임을 제시하는 혁신적인 연구 결과입니다.