획기적인 AI 계획 능력 향상: 행동 순서 유사성 기반 GRASE-DC


대규모 언어 모델의 계획 능력 향상을 위한 혁신적인 알고리즘 GRASE-DC가 개발되었습니다. 행동 순서 유사성을 기반으로 예시를 선택하고 필터링하여 다양한 계획 과제에서 최대 40%의 정확도 향상을 달성했습니다. 특히, 어려운 문제에 대한 일반화 능력이 뛰어나 AI의 실용성을 크게 높일 것으로 기대됩니다.

related iamge

AI의 미래를 위한 한 걸음: 행동 순서 유사성 기반 계획 알고리즘 GRASE-DC

인공지능(AI) 시스템의 계획 능력은 가상 및 현실 세계에서 목표 달성을 위한 능동적인 행동 과정을 결정하는 데 필수적입니다. 최근 대규모 언어 모델(LLM)의 계획 능력에 대한 연구가 활발히 진행되고 있지만, 모델 성능에 영향을 미치는 요소는 아직 명확하게 밝혀지지 않았습니다.

Xinran Zhao 등 연구진은 이러한 문제에 대한 해결책으로, 문맥 내 학습(ICL)을 통해 모델의 계획 능력을 향상시키는 새로운 방법을 제안합니다. 기존의 문제 유사성 기반 접근 방식은 상당히 다른 계획을 가진 잘못된 양성 결과를 초래할 수 있다는 점에 주목하여, 행동 순서 유사성(AS) 을 활용한 예시 선택 및 필터링 방식을 제시합니다.

연구진이 개발한 GRASE-DC는 두 단계로 구성된 파이프라인입니다. 첫 번째 단계에서는 AS가 높은 예시를 재샘플링하고, 두 번째 단계에서는 AS에 대한 동적 클러스터링을 통해 관련성과 다양성을 균형 있게 유지하며 선택된 예시를 관리합니다. 실험 결과, GRASE-DC는 다양한 계획 과제에서 최대 11~40%의 정확도 향상을 달성하였으며, 평균적으로 27.3% 적은 예시만으로도 동일한 성능을 구현했습니다. 특히, GRASE-DC에 검증기를 결합한 GRASE-DC* + VAL은 성능을 추가로 18.9% 향상시켰습니다.

더 나아가, GRASE-DC는 다양한 백본 LLM과 고전적 계획 및 자연어 계획 벤치마크에서 일관된 성능 향상을 보였습니다. 단순한 문제를 예시로 사용하여 어려운 문제에 대한 정확도를 무작위 기준선보다 24% 향상시킨 결과는, GRASE-DC의 뛰어난 분포 외 일반화 능력을 보여줍니다.

이 연구는 LLM의 계획 능력 향상에 새로운 지평을 열었습니다. 행동 순서 유사성을 활용한 GRASE-DC는 AI의 계획 능력을 한층 더 발전시켜, 더욱 복잡하고 다양한 문제 해결에 기여할 것으로 기대됩니다. 이는 단순히 효율성 향상을 넘어, AI가 보다 인간과 유사한 방식으로 복잡한 문제에 접근하고 해결할 수 있는 가능성을 제시하는 혁신적인 성과입니다.


*이 기사는 AI가 생성한 내용으로, 일부 정보가 실제와 다를 수 있습니다. 정확한 확인을 위해 추가적인 검증을 권장드립니다.

Reference

[arxiv] Improving Large Language Model Planning with Action Sequence Similarity

Published:  (Updated: )

Author: Xinran Zhao, Hanie Sedghi, Bernd Bohnet, Dale Schuurmans, Azade Nova

http://arxiv.org/abs/2505.01009v1