360Brew: 개인화된 추천의 혁명, 단일 모델로 LinkedIn을 재정의하다
LinkedIn의 연구진이 개발한 360Brew V1.0은 단일 초거대 언어 모델로 다양한 추천 과제를 해결하며, 기존 시스템의 복잡성과 유지보수 문제를 극복합니다. 텍스트 기반 인터페이스와 특징 공학의 필요성 제거를 통해 효율성과 확장성을 높였으며, 기존 시스템과 동등하거나 우수한 성능을 기록했습니다.

온라인 경험의 핵심, 바로 추천 시스템입니다. 검색 결과부터 개인 맞춤형 콘텐츠 제공까지, 추천 시스템은 우리의 디지털 삶을 깊숙이 관여하고 있습니다. 하지만 기존 추천 시스템은 수많은 예측 모델과 방대한 데이터를 다루는 복잡한 구조로 인해 유지보수와 확장에 어려움을 겪어왔습니다. 특징 공학에 많은 노력을 쏟아야 했고, 새로운 문제 영역에 적용하기도 어려웠죠.
하지만 이제, LinkedIn이 360Brew V1.0이라는 혁신적인 해결책을 제시했습니다! Hamed Firooz를 비롯한 22명의 연구원들이 개발한 360Brew는 1500억 개의 파라미터를 가진 디코더 전용 초거대 언어 모델로, 단일 모델로 LinkedIn의 다양한 추천 과제를 해결합니다.
360Brew의 놀라운 장점들:
- 단일 모델, 다중 과제 해결: 복잡한 시스템 대신 단 하나의 모델로 여러 추천 과제를 처리합니다. 이는 유지보수 비용과 시간을 획기적으로 절감하는 것을 의미합니다.
- 텍스트 기반 인터페이스의 강점: 텍스트 기반 인터페이스를 통해 추론 능력을 활용, 새로운 추천 영역과 기존 모델이 다루지 못했던 문제에도 적용 가능합니다. 기존 모델들의 복잡한 의존 관계를 가진 DAG(Directed Acyclic Graph)를 관리할 필요가 없어졌습니다.
- 특징 공학의 종말?: 자연어 인터페이스를 통해 작업 정의 및 사용자 행동을 설명함으로써, 번거로운 특징 공학 과정을 없앴습니다. 이는 개발 속도 향상과 유지보수의 간소화로 이어집니다.
LinkedIn 플랫폼에서의 360Brew 성과:
360Brew는 LinkedIn 플랫폼의 30개 이상의 예측 과제를 해결하며, 오프라인 지표 기준으로 기존 시스템과 비교하여 동등하거나 더 나은 성능을 보여주었습니다. 놀라운 점은 과제별 미세 조정 없이 이러한 성과를 달성했다는 것입니다. 이는 수 년간 여러 개발팀이 개발하고 유지해온 전용 모델들을 단일 모델이 대체했다는 것을 의미합니다.
미래를 향한 비전:
360Brew의 등장은 개인화된 추천 시스템의 미래를 새롭게 정의합니다. 단일 모델을 통해 복잡성을 줄이고 효율성을 높인 360Brew는 추천 시스템의 발전 방향을 제시하며, 더욱 개인화되고 효과적인 온라인 경험을 제공할 것으로 기대됩니다. 앞으로 360Brew가 어떻게 발전하고 다른 분야에 적용될지 주목할 필요가 있습니다.
Reference
[arxiv] 360Brew: A Decoder-only Foundation Model for Personalized Ranking and Recommendation
Published: (Updated: )
Author: Hamed Firooz, Maziar Sanjabi, Adrian Englhardt, Aman Gupta, Ben Levine, Dre Olgiati, Gungor Polatkan, Iuliia Melnychuk, Karthik Ramgopal, Kirill Talanine, Kutta Srinivasan, Luke Simon, Natesh Sivasubramoniapillai, Necip Fazil Ayan, Qingquan Song, Samira Sriram, Souvik Ghosh, Tao Song, Vignesh Kothapalli, Xiaoling Zhai, Ya Xu, Yu Wang, Yun Dai
http://arxiv.org/abs/2501.16450v1