세션 검색의 혁명: LLMs를 활용한 Symbolic Graph Ranker (SGR)

Songhao Wu 등의 연구팀은 세션 검색의 효율성을 높이기 위해 LLMs와 그래프 구조를 결합한 Symbolic Graph Ranker (SGR)를 제안했습니다. 자기 지도 학습을 통해 LLM의 그래프 구조 이해 능력을 향상시키고, 실험 결과를 통해 SGR의 우수성을 확인했습니다. 이 연구는 기존 검색 전략과 LLMs를 연결하는 새로운 패러다임을 제시합니다.

사용자의 복잡한 정보 요구를 충족시키기 위한 일련의 상호 작용적 질의와 행동을 포함하는 세션 검색은 최근 많은 관심을 받고 있습니다. 기존의 세션 검색 전략은 주로 심층적인 의미 이해를 위해 순차적 모델링에 초점을 맞춰왔습니다. 하지만, 상호작용의 그래프 구조라는 중요한 정보는 간과되어 왔습니다. 일부 접근 방식은 그래프 구조 정보를 포착하려고 시도하지만, 문서에 대한 일반적인 표현만을 사용하여 단어 수준의 의미 모델링은 고려하지 않았습니다.

Songhao Wu 등 9명의 연구자들은 이러한 한계를 극복하기 위해, Symbolic Graph Ranker (SGR) 라는 혁신적인 방법을 제안했습니다. SGR은 최신 대규모 언어 모델 (LLMs) 의 강력한 성능을 활용하여 텍스트 기반 및 그래프 기반 접근 방식의 장점을 결합합니다. 핵심 아이디어는 기호적 문법 규칙을 사용하여 세션 그래프를 텍스트로 변환하는 것입니다. 이를 통해 세션 히스토리, 상호 작용 과정 및 작업 지침을 LLM의 입력으로 원활하게 통합할 수 있습니다.

하지만, 텍스트 코퍼스로 사전 훈련된 LLMs와 그래프-텍스트 변환을 통해 생성된 기호적 언어 간에는 본질적인 차이가 존재합니다. 연구팀은 이러한 차이를 해소하기 위해, 링크 예측, 노드 콘텐츠 생성 및 생성적 대조 학습을 포함하는 일련의 자기 지도 학습 과제를 도입했습니다. 이를 통해 LLMs가 거시적 수준에서 미시적 수준까지 그래프의 위상 정보를 포착할 수 있도록 합니다.

AOL과 Tiangong-ST라는 두 개의 벤치마크 데이터셋을 사용한 실험 결과는 SGR의 우수성을 명확하게 보여줍니다. 이 연구는 기존의 검색 전략과 최신 LLMs를 연결하는 참신하고 효과적인 방법론을 제시합니다. 세션 검색 분야에 새로운 지평을 열 것으로 기대됩니다. 특히, LLMs의 강점을 그래프 구조 정보와 결합하여 사용자의 정보 요구를 더욱 정확하고 효율적으로 충족할 수 있는 가능성을 제시한다는 점에서 높이 평가할 만합니다. 향후 연구에서는 다양한 유형의 그래프 데이터와 더욱 복잡한 세션 검색 시나리오에 대한 SGR의 적용 가능성을 검증하는 것이 중요할 것입니다.