360Brew: LinkedIn의 개인 맞춤형 순위 및 추천을 위한 혁신적인 기반 모델


LinkedIn의 22명 연구진이 개발한 150B 파라미터의 디코더 전용 기반 모델 360Brew V1.0은 단일 모델로 다양한 예측 과제를 해결하고, 텍스트 인터페이스를 통해 강력한 일반화 능력과 기능 엔지니어링 제거라는 혁신적인 장점을 제공합니다.

related iamge

LinkedIn의 새로운 혁신: 360Brew 기반 모델

온라인 경험의 기반이 되는 순위 및 추천 시스템. 검색 결과부터 개인 맞춤형 콘텐츠 제공까지, 그 복잡성은 날마다 증가하고 있습니다. 수천 개의 예측 모델과 방대한 데이터 세트를 활용하는 다층 아키텍처는 유지보수와 기능 엔지니어링에 막대한 노력을 필요로 합니다. 이는 기술 부채를 악화시키고 혁신을 저해하는 주요 원인이 됩니다.

하지만 이제, LinkedIn은 이러한 어려움을 극복할 획기적인 해결책을 제시합니다. 바로 360Brew V1.0입니다! 22명의 연구원(Hamed Firooz, Maziar Sanjabi 외)이 개발한 360Brew는 150B 파라미터의 디코더 전용 기반 모델로, 텍스트 인터페이스를 통해 순위 및 추천 작업을 수행합니다. 이는 단순한 기술적 진보를 넘어, '단일 모델로 다중 예측 과제 해결', '뛰어난 일반화 능력', '기능 엔지니어링 제거' 라는 세 가지 핵심적인 장점을 제공합니다.

단일 모델, 다중 과제 해결: 360Brew는 LinkedIn 플랫폼의 다양한 부문에서 30개 이상의 예측 작업을 처리합니다. 기존에는 각 작업마다 별도의 모델이 필요했지만, 이제 360Brew 하나로 해결 가능합니다. 이는 수년간 여러 팀이 개발하고 유지 관리해온 시스템을 대체하는 혁신적인 결과입니다. 오프라인 지표 기준으로 기존 시스템과 동등하거나 그 이상의 성능을 달성하며, 별도의 미세 조정 없이도 효율성을 극대화합니다.

텍스트 인터페이스 기반의 강력한 일반화 능력: 텍스트 기반 인터페이스를 통해 360Brew는 추론 능력을 활용하여 새로운 추천 영역과 도메인 외 문제에도 쉽게 적응합니다. 이는 기존 시스템의 한계를 극복하고 시스템 확장성을 비약적으로 높여줍니다.

기능 엔지니어링의 종말: 360Brew는 자연어 인터페이스를 통해 작업 정의와 구성원 행동 및 사회적 연결을 표현합니다. 이를 통해 복잡한 모델 의존성의 DAG(Directed Acyclic Graph) 유지 관리가 필요 없어졌으며, 결과적으로 기능 엔지니어링의 부담을 완전히 제거합니다.

360Brew는 단순한 기술적 개선을 넘어, 순위 및 추천 시스템의 미래를 새롭게 정의하는 혁신적인 모델입니다. LinkedIn의 데이터와 실제 작업 환경에서 검증된 360Brew는 앞으로 더욱 발전된 개인화된 온라인 경험을 제공할 것입니다.


*이 기사는 AI가 생성한 내용으로, 일부 정보가 실제와 다를 수 있습니다. 정확한 확인을 위해 추가적인 검증을 권장드립니다.

Reference

[arxiv] 360Brew: A Decoder-only Foundation Model for Personalized Ranking and Recommendation

Published:  (Updated: )

Author: Hamed Firooz, Maziar Sanjabi, Adrian Englhardt, Aman Gupta, Ben Levine, Dre Olgiati, Gungor Polatkan, Iuliia Melnychuk, Karthik Ramgopal, Kirill Talanine, Kutta Srinivasan, Luke Simon, Natesh Sivasubramoniapillai, Necip Fazil Ayan, Qingquan Song, Samira Sriram, Souvik Ghosh, Tao Song, Tejas Dharamsi, Vignesh Kothapalli, Xiaoling Zhai, Ya Xu, Yu Wang, Yun Dai

http://arxiv.org/abs/2501.16450v3