혁신적인 AI: 온톨로지 기반 역발상으로 거대 언어 모델 강화
류런쉔 등 연구진이 개발한 온톨로지 기반 역발상(ORT) 프레임워크는 거대 언어 모델의 지식 그래프 질의응답 능력을 크게 향상시켰습니다. 인간의 역발상에서 영감을 얻은 이 방법은 다단계 추론의 어려움을 해결하고 최첨단 성능을 달성했습니다.

거대 언어 모델의 한계를 뛰어넘다: 온톨로지 기반 역발상 (ORT)
최근 괄목할 만한 발전을 이룬 거대 언어 모델(LLM)은 자연어 처리 분야에서 뛰어난 성능을 보여주고 있습니다. 하지만 지식 그래프 질의응답(KGQA) 작업에서는 다단계 추론이 필요한 질문에 대한 응답에 어려움을 겪고 있습니다. 기존의 방법들은 개체 벡터 매칭에 의존하지만, 질문의 목적은 추상적이고 특정 개체와의 매칭이 어려워 추론 경로를 설정하는 데 어려움을 겪습니다. 이는 정보 손실과 중복으로 이어지는 문제점을 야기합니다.
류런쉔(Runxuan Liu) 등 8명의 연구진은 이러한 문제를 해결하기 위해 인간의 역발상에서 영감을 얻은 새로운 프레임워크인 온톨로지 기반 역발상(Ontology-Guided Reverse Thinking, ORT) 을 제안했습니다. ORT는 목적에서 조건으로 추론 경로를 구성하는 혁신적인 접근 방식을 사용합니다.
ORT는 다음과 같은 세 가지 주요 단계로 작동합니다.
- LLM을 활용한 레이블 추출: LLM을 이용하여 질문의 목적 레이블과 조건 레이블을 추출합니다. 질문의 핵심 의도를 정확하게 파악하는 것이 중요한 단계입니다.
- 온톨로지 기반 레이블 추론 경로 구성: 지식 그래프 온톨로지를 기반으로 목적 레이블에서 조건 레이블로 이어지는 추론 경로를 구성합니다. 온톨로지의 계층적 구조를 활용하여 효율적이고 정확한 추론 경로를 생성합니다.
- 레이블 추론 경로 기반 지식 검색: 구성된 레이블 추론 경로를 이용하여 지식 그래프에서 관련 정보를 검색합니다. 이 단계에서 불필요한 정보를 제거하고 질문에 대한 정확한 답변을 도출합니다.
WebQSP와 CWQ 데이터셋을 이용한 실험 결과, ORT는 최첨단 성능을 달성했으며 LLM의 KGQA 능력을 크게 향상시켰음을 확인했습니다. 이는 LLM의 지식 추론 능력 향상에 중요한 이정표를 제시하는 연구 결과입니다. ORT는 단순한 정보 검색을 넘어, 인간의 사고 과정을 모방하여 더욱 정교하고 효율적인 지식 처리 시스템 구축의 가능성을 열었습니다. 이는 향후 AI 기술 발전에 중요한 영향을 미칠 것으로 기대됩니다.
(추가적인 연구 방향): ORT의 성능 향상을 위한 추가 연구로는 더욱 정교한 온톨로지 모델 개발, 다양한 유형의 질문에 대한 적용성 확장, 그리고 LLM과 온톨로지 간의 상호 작용 메커니즘 개선 등이 고려될 수 있습니다.
Reference
[arxiv] Ontology-Guided Reverse Thinking Makes Large Language Models Stronger on Knowledge Graph Question Answering
Published: (Updated: )
Author: Runxuan Liu, Bei Luo, Jiaqi Li, Baoxin Wang, Ming Liu, Dayong Wu, Shijin Wang, Bing Qin
http://arxiv.org/abs/2502.11491v1