엑사스케일 기후 예측 모델 ORBIT-2: 0.9km 고해상도 기후 예측의 혁신
16명의 연구진이 개발한 ORBIT-2는 0.9km 고해상도 기후 예측을 가능하게 하는 혁신적인 엑사스케일 AI 모델입니다. Reslim과 TILES라는 두 가지 핵심 기술을 통해 1.8 ExaFLOPS의 처리 성능과 92-98%의 확장성 효율을 달성했습니다. 높은 정확도(R^2 0.98-0.99)로 기후 변화 대응에 획기적인 전기를 마련할 것으로 기대됩니다.

기후 변화는 전 세계적인 위협이며, 정확한 기후 예측은 효과적인 대응 전략을 수립하는 데 필수적입니다. 하지만 기존의 기후 모델은 관측 데이터의 부족과 낮은 해상도로 인해 지역적인 예측에 어려움을 겪었습니다. 이러한 한계를 극복하기 위해, Xiao Wang을 비롯한 16명의 연구진이 개발한 혁신적인 엑사스케일 비전 기반 모델 ORBIT-2가 등장했습니다.
ORBIT-2는 기존의 AI 기후 모델의 한계를 극복하기 위해 두 가지 핵심 기술을 도입했습니다. 첫째, Reslim (Residual Slim ViT) 은 경량화된 아키텍처와 베이지안 규제를 통해 효율적이고 강력한 예측을 가능하게 합니다. 둘째, TILES (tile-wise sequence scaling algorithm) 는 비전 트랜스포머의 자기 주의 메커니즘의 복잡성을 2차에서 1차로 줄여, 긴 시퀀스 처리와 대규모 병렬 처리를 가능하게 합니다.
이러한 혁신적인 기술을 통해 ORBIT-2는 32,768개의 GPU를 사용하여 1.8 ExaFLOPS의 지속적인 처리량을 달성했으며, 92-98%의 강력한 확장성 효율을 보였습니다. 이는 기후 모델링 분야의 새로운 기준을 제시하는 놀라운 성과입니다. ORBIT-2는 0.9km의 전 세계적인 고해상도로 기후를 예측할 수 있으며, 최대 42억 토큰의 시퀀스를 처리할 수 있습니다. 7km 해상도의 벤치마크 테스트에서 ORBIT-2는 관측 데이터에 대한 R^2 점수가 0.98~0.99에 달하는 높은 정확도를 달성했습니다.
ORBIT-2는 단순한 기술적 진보를 넘어, 기후 변화에 대한 보다 정확하고 효과적인 대응 전략 수립에 중요한 역할을 할 것으로 기대됩니다. 고해상도 기후 예측을 통해 지역 사회는 보다 정확한 위험 평가를 수행하고, 효과적인 적응 전략을 개발할 수 있게 될 것입니다. 이는 기후 변화 대응에 있어서 중요한 이정표가 될 것입니다. 향후 ORBIT-2의 발전과 활용에 대한 지속적인 관심과 연구가 필요합니다.
핵심 내용:
- 초고해상도(0.9km) 기후 예측: 지역적인 기후 변화에 대한 더욱 정확한 예측을 가능하게 합니다.
- 뛰어난 정확도 (R^2 0.98-0.99): 관측 데이터와의 높은 일치율을 보여줍니다.
- 엑사스케일 컴퓨팅: 대규모 병렬 처리를 통해 엄청난 양의 데이터를 처리합니다.
- 혁신적인 기술 (Reslim, TILES): 기존 모델의 한계를 극복하는 핵심 기술입니다.
Reference
[arxiv] ORBIT-2: Scaling Exascale Vision Foundation Models for Weather and Climate Downscaling
Published: (Updated: )
Author: Xiao Wang, Jong-Youl Choi, Takuya Kurihaya, Isaac Lyngaas, Hong-Jun Yoon, Ming Fan, Nasik Muhammad Nafi, Aristeidis Tsaris, Ashwin M. Aji, Maliha Hossain, Mohamed Wahib, Dali Wang, Peter Thornton, Prasanna Balaprakash, Moetasim Ashfaq, Dan Lu
http://arxiv.org/abs/2505.04802v1