ReFocus: 다변량 시계열 예측의 새로운 지평을 열다

ReFocus는 중간 주파수 스펙트럼 갭과 공유 주요 주파수를 고려한 혁신적인 다변량 시계열 예측 모델로, 기존 최고 성능 모델을 능가하는 성능을 입증했습니다. 적응형 중간 주파수 에너지 최적화 모듈과 에너지 기반 주요 주파수 선택 블록, 그리고 주요 주파수 향상 학습 전략을 통해 다변량 시계열 예측의 정확도를 크게 향상시켰습니다.

ReFocus: 다변량 시계열 예측의 게임 체인저

최근 몇 년 동안 딥러닝 기반 시계열 분석 기술은 눈부신 발전을 이루었습니다. 특히 주파수 기반 기법의 도입은 정확도와 효율성 향상에 크게 기여했습니다. 하지만 현실 세계의 시계열 데이터는 흥미로운 특징을 가지고 있습니다. 바로 중간 주파수 스펙트럼 갭과 공유 주요 주파수입니다.

중간 주파수 스펙트럼 갭은 에너지가 저주파 영역에 집중되어 중간 주파수 영역은 상대적으로 무시되는 현상입니다. 기존 딥러닝 모델들은 이러한 갭으로 인해 중요한 주파수 정보를 제대로 추출하지 못하는 어려움을 겪었습니다. 또한, 공유 주요 주파수는 서로 다른 시계열에서 구별할 수 없는 유사한 주파수 패턴이 나타나는 현상입니다. 기존 연구에서는 이러한 공유 주파수 정보를 효과적으로 활용하지 못했습니다.

Guoqi Yu를 비롯한 연구팀은 이러한 문제점을 해결하기 위해 ReFocus라는 혁신적인 모델을 제안했습니다. ReFocus는 적응형 중간 주파수 에너지 최적화 모듈(Adaptive Mid-Frequency Energy Optimizer) 과 에너지 기반 주요 주파수 선택 블록(Energy-based Key-Frequency Picking Block) 을 통해 중간 주파수와 공유 주요 주파수의 중요성을 강조합니다. 특히, 적응형 중간 주파수 에너지 최적화 모듈은 합성곱과 잔차 학습을 기반으로 중간 주파수 대역의 중요도를 높입니다. 에너지 기반 주요 주파수 선택 블록은 매개변수 수를 줄이면서 시계열 간의 상관관계를 효과적으로 모델링합니다.

더 나아가, ReFocus는 주요 주파수 향상 학습 전략(Key-Frequency Enhanced Training strategy) 을 도입했습니다. 이 전략은 다른 채널의 스펙트럼 정보를 각 채널에 무작위로 도입하여 주요 주파수 모델링을 더욱 강화합니다.

ReFocus는 교통, ECL, 태양 에너지 데이터셋을 이용한 실험에서 iTransformer를 능가하는 놀라운 성능을 보였습니다. MSE(Mean Squared Error)를 각각 4%, 6%, 5% 감소시키는 괄목할 만한 결과를 달성했습니다. 이는 ReFocus가 다변량 시계열 예측 분야에 새로운 가능성을 제시하는 중요한 업적임을 의미합니다. 자세한 내용과 코드는 GitHub 레포지토리 (https://github.com/Levi-Ackman/ReFocus)에서 확인할 수 있습니다. 이 연구는 시계열 분석 분야의 발전에 크게 기여할 것으로 기대됩니다.