FedALT: 적응형 로컬 학습과 RoTW LoRA를 통한 연합 미세 조정

중국과학원 연구팀이 개발한 FedALT는 개인정보 보호를 중시하는 연합 학습 분야의 혁신적인 알고리즘으로, 기존 방식의 한계를 극복하고 향상된 성능을 제공합니다. 적응형 믹서와 RoTW LoRA를 통해 데이터 이질성 문제를 해결하고, 개별 클라이언트의 개성을 유지하면서 전역 정보를 효과적으로 활용합니다.

개인정보 보호를 위한 혁신적인 연합 학습 기술, FedALT 등장!

대규모 언어 모델(LLM)의 연합 학습은 개인정보 보호를 보장하면서 모델을 개별 사용자에게 맞춤화할 수 있는 유망한 기술입니다. 하지만 기존의 연합 학습 방법들은 모델 집계 과정에서 클라이언트 간의 간섭이 발생하고 데이터의 이질성으로 인해 성능 저하 문제를 겪어왔습니다.

중국과학원의 Bian Jieming 박사 연구팀은 이러한 문제를 해결하기 위해 FedALT 라는 혁신적인 연합 미세 조정 알고리즘을 개발했습니다. FedALT는 기존의 FedAvg 방식과는 달리, 각 클라이언트가 개별적으로 LoRA(Low-Rank Adaptation)를 학습하면서, 별도의 RoTW(Rest-of-the-World) LoRA를 통해 전역 정보를 공유하는 방식을 채택했습니다. 이는 마치 여러 학생들이 각자 공부하면서(개별 LoRA) 서로의 노트를 참고하는(RoTW LoRA) 것과 유사합니다.

핵심은 적응형 믹서입니다. 이 믹서는 MoE(Mixture-of-Experts) 원리를 활용하여 입력 데이터에 따라 개별 LoRA와 RoTW LoRA의 가중치를 동적으로 조절합니다. 이는 마치 요리사가 재료의 특성에 따라 양념의 비율을 조절하는 것과 같습니다. 이를 통해 데이터 이질성 문제를 효과적으로 해결하고, 각 클라이언트의 개성을 유지하면서 전역 정보를 효과적으로 활용할 수 있습니다.

NLP 벤치마크 실험 결과, FedALT는 기존 최첨단 기법들을 크게 능가하는 성능을 보였습니다. 이는 계산 효율성을 떨어뜨리지 않으면서 개별 클라이언트에 대한 맞춤화를 극대화하는 FedALT의 우수성을 증명하는 것입니다.

FedALT는 개인정보 보호를 중시하는 연합 학습 분야에 새로운 이정표를 제시하며, 향후 다양한 분야에서 활용될 가능성을 보여줍니다. 연구팀은 앞으로도 지속적인 연구를 통해 FedALT의 성능을 더욱 개선하고, 다양한 응용 분야에 적용할 계획이라고 밝혔습니다.

주요 연구진: Bian Jieming, Wang Lei, Zhang Letian, Xu Jie (중국과학원)