구글, 다변량 시계열 예측 위한 TimesFM-3 공개

구글 리서치가 다변량 시계열 예측을 위한 최신 파운데이션 모델 TimesFM-3를 공개했다. 기존 모델들이 단일 시계열(univariate) 예측에 한정되었던 것과 달리, TimesFM-3는 여러 시계열과 외부 변수가 상호작용하는 복잡한 현실 세계의 예측 문제를 해결하도록 설계되었다.

주요 기능 및 아키텍처

TimesFM-3는 3300억 개의 파라미터를 보유하고 있으며, 1조 개 이상의 실제 및 합성 시계열 데이터로 사전 훈련되었다. 이 모델은 별도의 미세 조정(fine-tuning) 없이 제로샷(zero-shot) 방식으로 다음과 같은 기능을 지원한다:

• 다중 타겟 예측: 관련 있는 여러 시계열을 동시에 예측하며, 포인트 및 분위수(quantile) 예측을 모두 지원한다.
• 과거 공변량(Past covariates): 과거에만 알려진 정보(예: 과거 유동 인구)를 반영한다.
• 동적 공변량(Past-future covariates): 미래에 알려진 이벤트(예: 프로모션 계획, 날씨 예보)를 활용해 예측 정확도를 높인다.

아키텍처 측면에서는 이전 버전과 동일한 디코더 전용(decoder-only) 트랜스포머 구조를 채택했다. 시계열 데이터를 32단계의 패치(patch)로 그룹화하여 처리하며, 각 시계열의 스케일 차이를 고려한 정규화 과정을 거친다. 특히 과거-미래 공변량의 경우 'lookahead' 전략을 통해 토큰을 구성하는 방식을 적용했다.