Plan-over-Graph: 병렬 처리 가능한 LLM 에이전트 스케줄링을 향하여

Shiqi Zhang 박사 연구팀이 개발한 Plan-over-Graph는 LLM의 병렬 작업 스케줄링 문제를 해결하는 혁신적인 패러다임입니다. 실제 작업을 하위 작업으로 분해하고 작업 그래프를 생성하여 병렬 실행 계획을 생성하는 방식으로, API 기반 및 오픈소스 LLM 모두에서 성능 향상을 달성했습니다. GitHub에서 코드와 데이터를 공개하여 AI 기술 발전에 기여할 것으로 기대됩니다.

AI계의 혁신: 복잡한 작업을 그래프로 정복하다!

최근 엄청난 발전을 거듭하고 있는 대규모 언어 모델(LLM)은 이제 단순한 텍스트 생성을 넘어, 복잡한 작업 계획 및 추론 능력까지 선보이고 있습니다. 하지만, 여러 작업을 동시에 처리하는 병렬 스케줄링은 아직까지 풀어야 할 숙제로 남아있죠. 중국과학원의 Shiqi Zhang 박사 연구팀은 이러한 문제에 대한 획기적인 해결책을 제시했습니다. 바로 'Plan-over-Graph' 라는 새로운 패러다임입니다!

Plan-over-Graph: 무엇이 특별할까요?

기존의 LLM은 하나의 작업을 순차적으로 처리하는 데 집중했다면, Plan-over-Graph는 다릅니다. 먼저, 실제 텍스트로 주어진 작업을 여러 개의 작은 실행 가능한 하위 작업으로 분해합니다. 마치 레고 블록처럼 말이죠. 그리고 이러한 하위 작업들의 관계를 보여주는 추상적인 작업 그래프를 만듭니다. 이 그래프를 LLM에 입력하여 병렬 실행 계획을 생성하는 것이 핵심입니다.

복잡한 그래프, 어떻게 다룰까요?

복잡하고 규모가 큰 작업 그래프를 효과적으로 처리하기 위해, 연구팀은 자동화되고 제어 가능한 파이프라인을 설계하여 합성 그래프를 생성했습니다. 또한, LLM의 학습 효율을 높이기 위해 두 단계의 학습 체계를 도입했습니다. 마치 숙련된 장인이 정교한 기계를 만들 듯, 단계별로 꼼꼼하게 학습 과정을 설계한 것이죠.

놀라운 결과!

연구 결과는 놀랍습니다. API 기반 LLM과 학습 가능한 오픈소스 LLM 모두에서 작업 성능이 크게 향상되었다는 것을 확인했습니다. 특히, 복잡한 작업들을 그래프로 정규화함으로써 병렬 실행을 자연스럽게 지원하여 전반적인 효율성을 획기적으로 높였습니다. 이는 마치 교통 체증을 해결하기 위해 스마트 교통 시스템을 도입한 것과 같은 효과를 거둔 것입니다.

GitHub에서 확인하세요!

이 혁신적인 연구 결과는 GitHub (https://github.com/zsq259/Plan-over-Graph) 에서 코드와 데이터와 함께 공개되어 있습니다. AI 기술의 발전에 관심 있는 분이라면 꼭 확인해 보세요!

이 연구는 LLM의 활용 범위를 한층 더 넓히고, 병렬 처리의 효율성을 극대화하는 데 중요한 기여를 할 것으로 기대됩니다. 앞으로 더욱 복잡하고 다양한 작업들을 효율적으로 처리하는 AI 시스템 개발에 중요한 이정표가 될 것입니다.