우주 컴퓨팅 시대를 여는 위성 연합 학습: 초거대 모델의 새로운 지평

Yan Zhu 등 연구진은 위성의 제한된 자원을 고려한 효율적인 위성 연합 학습 프레임워크를 제안, 초거대 모델의 우주 컴퓨팅 적용 가능성을 입증했습니다. 맞춤형 통신 전략을 통해 훈련 시간을 33% 단축시키는 성과를 거두었습니다.

인공지능(AI)과 저궤도 위성(LEO) 기술의 발전은 거대 원격 감지 기반 모델을 다양한 작업에 활용할 수 있는 가능성을 열었습니다. 하지만, 이러한 모델을 지상으로 직접 다운로드하여 미세 조정하는 것은 개인 정보 보호 문제와 제한된 대역폭으로 인해 어려움을 겪고 있습니다.

Yan Zhu 등 연구진이 제시한 획기적인 해결책은 바로 위성 연합 학습(FL) 입니다. 위성 연합 학습은 모델을 위성에서 직접 미세 조정하고 데이터를 다운로드하지 않고 모델 업데이트를 집계하는 방법으로, 이를 통해 개인 정보 보호 문제와 대역폭 제약을 동시에 해결할 수 있습니다.

하지만 거대 기반 모델의 경우, 위성의 컴퓨팅 용량은 기존 위성 FL 프레임워크에서 효과적인 온보드 미세 조정을 지원하기에 부족합니다. 이러한 문제를 해결하기 위해 연구진은 위성-지상 협력 연합 미세 조정 프레임워크를 제안했습니다. 이 프레임워크의 핵심은 제한된 온보드 컴퓨팅 성능을 완화하기 위해 모델 구성 요소를 합리적으로 분해하고 할당하는 방법에 있습니다.

미세 조정 중에 위성은 순전파와 역전파를 위해 지상국이나 다른 위성과 중간 결과를 교환합니다. 하지만, 간헐적인 위성-지상 통신, 짧은 위성-지상 통신 창, 불안정한 궤도 간 위성 링크(ISL)와 같이 우주 전송 네트워크의 특수한 통신 토폴로지로 인해 통신상의 어려움이 발생합니다.

연구진은 이러한 통신 지연을 줄이기 위해 통신 및 컴퓨팅 자원을 통합하는 맞춤형 통신 전략을 도입했습니다. 구체적으로, 궤도 내 병렬 통신 전략, 토폴로지 인식 위성-지상 통신 전략, 지연 최소화 궤도 간 통신 전략을 제안하여 우주 통신 비용을 줄였습니다. 시뮬레이션 결과, 훈련 시간이 약 33% 단축되는 것을 확인했습니다.

이 연구는 우주 컴퓨팅 시대를 향한 중요한 발걸음이며, 앞으로 위성 기반 AI 기술의 발전과 다양한 응용 분야 확장에 큰 영향을 미칠 것으로 예상됩니다. 특히, 원격 감지, 재난 관리, 환경 모니터링 등 다양한 분야에서 혁신적인 변화를 가져올 수 있을 것으로 기대됩니다.