획기적인 AI 계획 알고리즘 등장: LLM의 테스트 시간 확장으로 복잡한 문제 해결

주량 유 등 연구진이 발표한 논문은 LLM의 테스트 시간 확장을 통해 PDDL을 이용, 복잡한 계획 문제 해결에 획기적인 성과를 거두었습니다. Best-of-N 샘플링과 언어화된 기계 학습 기반의 알고리즘으로 추가 학습 없이도 50% 이상의 성공률을 달성, 기존 최첨단 방법을 능가하는 성능을 입증했습니다.

AI가 복잡한 계획 문제를 해결하는 새로운 방법: LLM의 놀라운 진화

최근, 주량 유, 원유환 등의 연구진이 발표한 논문 "대규모 언어 모델을 통한 상징적 세계 모델 생성"은 AI 계획 분야에 혁신적인 전기를 마련했습니다. 이 연구는 복잡한 계획 문제를 해결하기 위해 대규모 언어 모델(LLM)의 테스트 시간 계산을 확장하는 새로운 방법을 제시합니다.

기존의 LLM은 자연어의 모호성 때문에 규칙 위반, 제약 조건 준수, 최적성 보장 등 복잡한 계획 문제 해결에 어려움을 겪었습니다. 하지만 이 연구진은 계획 도메인 정의 언어(PDDL) 을 활용하여 이러한 문제를 해결했습니다. PDDL은 정확하고 형식적인 상태 설명을 가능하게 하여, A*와 같은 고전적인 탐색 알고리즘을 적용하여 최적의 계획을 찾을 수 있는 상징적 세계 모델을 생성할 수 있게 합니다.

그러나 기존 LLM은 PDDL 학습 데이터 부족으로 PDDL 도메인을 직접 생성하는 데 어려움이 있었습니다. 이를 해결하기 위해 연구진은 LLM의 테스트 시간 계산을 확장하는 간단하면서도 효과적인 알고리즘을 제안했습니다. 이 알고리즘은 Best-of-N 샘플링을 통해 초기 해결책의 품질을 높이고, 언어화된 기계 학습을 통해 세부적으로 해결책을 개선합니다.

놀랍게도 이 방법은 자연어 설명 또는 PDDL 문제로부터 PDDL 도메인을 생성하는 두 가지 작업에서 50% 이상의 성공률을 달성하며 o1-mini를 상당한 차이로 능가했습니다. 추가적인 훈련 없이 이러한 성과를 거둔 것입니다. 더 나아가, PDDL을 상태 추상화에 활용하여 거의 모든 경쟁 수준의 계획 작업에서 기존 최첨단 방법들을 뛰어넘는 성능을 보였습니다.

이 연구는 LLM의 잠재력을 한층 더 끌어올리는 획기적인 성과로, 복잡한 문제 해결에 대한 새로운 가능성을 열었습니다. 앞으로 AI 계획 분야의 발전에 큰 영향을 미칠 것으로 기대됩니다.