혁신적인 지식 그래프 질의응답: 보상 기반 트리 탐색으로 LLM 강화

Xiao Long 등 연구진의 RTSoG 프레임워크는 LLM 기반 KGQA의 한계를 극복하고, 질문을 하위 질문으로 분해하고 SC-MCTS를 활용하여 최적의 추론 경로를 찾는 방식으로 GrailQA와 WebQSP에서 최첨단 성능을 달성했습니다.

최근 대규모 언어 모델(LLM)은 지식 그래프 질의응답(KGQA) 분야에서 놀라운 성능을 보여주고 있습니다. KGQA는 자연어 질문에 대한 답을 지식 그래프(KG)를 기반으로 찾는 것을 목표로 합니다. 기존의 LLM 기반 KGQA 방법들은 주로 그래프 검색 증강 생성(GraphRAG) 패러다임을 따릅니다. 즉, 먼저 대규모 KG에서 추론 경로를 검색한 다음, 이를 바탕으로 답을 생성합니다.

하지만 이러한 방법들은 새로운 최적 추론 경로 탐색에 집중하면서 기존 추론 경로 활용에는 소홀히 하여, 최적이 아닌 추론 경로를 선택할 수 있다는 한계가 있습니다. 또한 질문에 담긴 복잡한 의미 때문에 부정확한 추론 경로가 검색될 수도 있습니다.

Xiao Long 등 연구진이 발표한 논문, "Enhancing Large Language Models with Reward-guided Tree Search for Knowledge Graph Question and Answering"은 이러한 문제를 해결하기 위해 새로운 KGQA 프레임워크인 Reward-guided Tree Search on Graph (RTSoG) 를 제시합니다. RTSoG는 복잡한 의미를 처리하기 위해 원래 질문을 일련의 간단하고 명확하게 정의된 하위 질문으로 분해합니다. 그런 다음, 보상 모델로 안내되는 Self-Critic Monte Carlo Tree Search (SC-MCTS) 를 도입하여 반복적으로 가중치가 부여된 추론 경로를 상황 정보로 검색합니다. 마지막으로, 가중치에 따라 가중치가 부여된 추론 경로를 결합하여 최종 답변을 생성합니다.

네 개의 데이터셋에 대한 광범위한 실험 결과, RTSoG의 효과가 입증되었습니다. 특히, GrailQA와 WebQSP에서 최첨단 방법 대비 각각 8.7%와 7.0%의 성능 향상을 달성했습니다. 이는 LLM 기반 KGQA의 새로운 가능성을 제시하는 획기적인 결과입니다. RTSoG의 등장은 보다 정확하고 효율적인 KGQA 시스템 개발에 중요한 이정표가 될 것으로 예상됩니다. 향후 연구에서는 RTSoG의 확장성과 다양한 KGQA 응용 분야에 대한 적용 가능성을 탐색하는 것이 중요할 것입니다. 더욱 복잡하고 다양한 질문 유형에 대한 처리 능력 향상도 중요한 과제입니다.