시퀀스 추천의 혁신: 의미 기반 검색 증강 대조 학습 (SRA-CL)

본 기사는 Cui et al.의 SRA-CL 논문을 바탕으로, 시퀀스 추천 분야의 난제인 데이터 희소성 문제를 해결하기 위한 새로운 접근 방식을 소개합니다. LLM을 활용하여 사용자와 아이템의 의미적 유사성을 파악하고, 신뢰할 수 있는 대조 학습 샘플을 생성하는 SRA-CL은 기존 모델에 쉽게 통합 가능하며, 우수한 성능을 보여줍니다.

시퀀스 추천의 난제, 의미 기반 검색으로 극복하다!

온라인 플랫폼의 핵심 기술인 시퀀스 추천은 사용자의 과거 행동 패턴을 분석하여 선호도를 예측하는 기술입니다. 하지만, 대부분의 사용자는 제한된 상호작용을 가지고 있으며, 많은 아이템은 관심을 거의 받지 못하는 데이터 희소성 문제에 직면합니다. 이러한 문제를 해결하기 위해 등장한 것이 바로 대조 학습(Contrastive Learning)입니다. 자체 데이터에서 긍정적 샘플 쌍을 구성하고, 임베딩 공간에서의 일치도를 극대화함으로써, 기존 데이터를 효과적으로 활용할 수 있습니다.

하지만 기존 대조 학습 방식은 희소한 협업 신호를 기반으로 학습된 표현에 의존하거나, 불확실성이 큰 무작위 변형을 사용하여 신뢰할 수 있는 긍정적 샘플 쌍을 생성하는 데 어려움을 겪었습니다.

Cui et al.의 획기적인 연구: SRA-CL

이러한 한계를 극복하기 위해, Cui et al.은 의미 기반 검색 증강 대조 학습 (Semantic Retrieval Augmented Contrastive Learning, SRA-CL) 이라는 혁신적인 접근 방식을 제안했습니다. SRA-CL은 대규모 언어 모델(LLM)을 활용하여, 대조 학습의 신뢰성을 높이는 두 가지 주요 구성 요소로 이루어져 있습니다.

1. 사용자 의미 검색을 통한 교차 시퀀스 대조 학습: LLM을 사용하여 다양한 사용자의 선호도를 이해하고, 의미적으로 유사한 사용자를 검색하여 학습 가능한 샘플 합성 방법을 통해 신뢰할 수 있는 긍정적 샘플을 형성합니다. 즉, LLM이 사용자의 취향을 '이해'하고, 비슷한 취향의 사용자들을 찾아 새로운 학습 데이터를 만드는 것입니다.

2. 아이템 의미 검색을 통한 내부 시퀀스 대조 학습: LLM을 사용하여 아이템을 이해하고, 유사한 아이템을 검색하여 의미 기반 아이템 치환을 수행합니다. 이를 통해 의미적으로 일관된 증강된 뷰를 생성하여 대조 학습을 수행합니다. 즉, LLM이 아이템의 특징을 '이해'하고, 비슷한 아이템들을 찾아 학습 데이터의 다양성을 확보하는 것입니다.

SRA-CL은 기존 순차 추천 모델에 쉽게 통합될 수 있으며, 네 개의 공개 데이터셋에서 광범위한 실험을 통해 그 효과와 일반화 성능을 입증했습니다. 이는 데이터 희소성 문제에 효과적으로 대응하고, 시퀀스 추천의 정확도를 향상시킬 수 있는 획기적인 연구 결과입니다.

미래를 향한 전망

SRA-CL은 LLM을 활용하여 시퀀스 추천의 한계를 뛰어넘는 중요한 발걸음입니다. 앞으로 LLM의 발전과 함께 SRA-CL은 더욱 정교해지고, 개인화된 추천 시스템 구축에 크게 기여할 것으로 예상됩니다. 하지만, LLM의 계산 비용 및 윤리적 문제 등에 대한 고려도 필요합니다.