딥러닝 기반 추천 시스템의 혁신: 확산 기반 크로스-인터랙션 투타워 모델

왕이한 등 연구팀의 논문은 투타워 모델의 한계를 극복하기 위해 확산 모듈과 혼합 어텐션 메커니즘을 활용한 새로운 크로스-인터랙션 아키텍처를 제안하고, 실험을 통해 기존 SOTA 모델을 능가하는 성능 향상을 입증했습니다. 이는 추천 시스템의 정확성과 효율성을 크게 향상시킬 수 있는 혁신적인 연구입니다.

왕이한, 슝페이, 한저신, 송치, 전카이차오, 왕벤 연구팀이 발표한 논문 "Unleashing the Potential of Two-Tower Models: Diffusion-Based Cross-Interaction for Large-Scale Matching"은 콘텐츠 추천, 광고 시스템, 검색 엔진 등 다양한 분야에서 활용되는 투타워 모델의 한계를 극복하는 획기적인 연구 결과를 제시합니다.

투타워 모델은 사용자와 아이템 표현을 분리하여 대규모 후보 아이템 선별을 효율적으로 처리하지만, 사용자와 아이템 표현 간의 상호작용 정보가 제대로 활용되지 않는다는 단점이 있습니다. 기존 연구에서는 추가적인 완전 연결 계층(COLD)이나 과거 상호작용 정보 활용(DAT) 등의 방법이 제안되었지만, 성능 향상에 한계가 있었습니다.

본 연구에서는 이러한 한계를 극복하기 위해 **'크로스-인터랙션 분리 아키텍처'**를 제안합니다. 이는 확산 모듈을 활용하여 다음 긍정적 의도 표현을 재구성하고, 혼합 어텐션 모듈을 통해 사용자와 아이템 간의 포괄적인 상호작용을 가능하게 합니다. 특히, 사용자 행동 시퀀스 내 시간적 변화를 명시적으로 추출하여 다음 긍정적 의도 표현 재구성의 정확도를 향상시켰습니다.

두 개의 실제 데이터셋과 하나의 산업용 데이터셋을 이용한 실험 결과는 제안된 방법이 기존 최고 성능의 투타워 모델을 상당히 능가하며, 특히 확산 기반 접근 방식이 다른 생성 모델보다 아이템 표현 재구성에 더욱 효과적임을 보여줍니다. 이는 추천 시스템의 정확성과 효율성을 크게 향상시킬 수 있는 혁신적인 결과입니다.

핵심 내용 요약:

• 투타워 모델의 한계: 사용자-아이템 간 상호작용 정보 활용 부족
• 제안된 방법: 확산 모듈과 혼합 어텐션 모듈을 활용한 크로스-인터랙션 아키텍처
• 핵심 개선: 사용자 행동 시퀀스의 시간적 변화 고려
• 실험 결과: 기존 SOTA 모델 대비 성능 향상 및 확산 모델의 우수성 입증

본 연구는 대규모 매칭 시스템의 성능 향상에 크게 기여할 뿐만 아니라, 추천 시스템 분야의 지속적인 발전에 중요한 전환점을 마련할 것으로 기대됩니다. 향후 연구에서는 더욱 다양한 데이터셋과 응용 분야에 대한 실험을 통해 본 모델의 일반화 성능을 검증하는 것이 중요할 것입니다.