CITRAS: 시계열 예측의 새로운 지평을 열다

본 기사는 야마구치 요스케 등 연구팀이 개발한 CITRAS 모델에 대해 소개합니다. CITRAS는 다양한 변수를 고려하는 시계열 예측에서 기존 최고 성능을 뛰어넘는 성과를 달성, 실제 응용 분야에서 폭넓게 활용될 것으로 기대됩니다.

들어가며: 현대 사회에서 시계열 예측은 날씨 예보, 주식 시장 분석, 에너지 수요 예측 등 다양한 분야에서 필수적인 기술입니다. 하지만, 단순한 과거 데이터만으로는 정확한 예측이 어렵고, 다양한 외부 변수(covariates)를 고려해야 합니다. 이러한 변수들은 때로는 미래 정보를 포함하기도 하며, 그 가용성과 영향력 또한 다양하게 나타납니다.

CITRAS의 등장: 야마구치 요스케, 스에미츠 이세이, 그리고 웨이 웬펑 연구팀은 이러한 문제점을 해결하기 위해 CITRAS (Covariate-Informed Transformer for Time Series Forecasting) 라는 혁신적인 모델을 제시했습니다. CITRAS는 기존의 딥러닝 모델들이 가진 한계를 극복하고, 다중 타겟 변수와 과거 및 미래 정보를 포함하는 변수들을 효과적으로 활용하여 정확도를 높이는 데 성공했습니다.

CITRAS의 핵심: CITRAS는 패치 기반 Transformer 아키텍처를 기반으로 합니다. 이는 기존 Transformer의 강력한 자기회귀 능력을 유지하면서, 두 가지 핵심적인 메커니즘을 도입하여 차별화를 이루었습니다.

• Key-Value (KV) Shift: 미래에 알려진 변수들을 활용하여 현재 시점의 타겟 변수 예측에 효과적으로 통합합니다. 이는 변수 간의 동시적인 의존성을 고려하는 획기적인 방법입니다.
• Attention Score Smoothing: 국소적으로 정확한 패치 단위의 변수 간 의존성을 과거 시계열의 어텐션 점수를 부드럽게 처리하여 전역적인 변수 수준의 의존성으로 변환합니다. 이를 통해 단기 및 장기적인 상관관계를 모두 고려할 수 있습니다.

놀라운 성과: CITRAS는 다양한 실험을 통해 변수를 고려하는 시계열 예측과 다변량 시계열 예측 모두에서 기존 최고 성능을 능가하는 결과를 보여주었습니다. 이는 CITRAS가 변수 간의 복잡한 의존성을 효과적으로 활용하여 예측 정확도를 크게 향상시킬 수 있음을 증명합니다.

결론: CITRAS는 시계열 예측 분야에 새로운 가능성을 제시합니다. 복잡한 상황에서도 다양한 변수를 효과적으로 활용하여 높은 정확도를 달성할 수 있다는 점에서, 실제 응용 분야에서 폭넓게 활용될 것으로 기대됩니다. 앞으로 CITRAS의 발전과 더욱 다양한 분야로의 확장이 기대됩니다.