구글, 다변량 시계열 모델 TimesFM-3 공개
TimesFM-3: 다변량과 공변량을 한 번의 순전파로 예측하는 제로샷 시계열 파운데이션 모델
핵심 내용
구글 리서치가 다변량과 공변량을 단일 순전파로 예측하는 3.3억 파라미터 규모 시계열 파운데이션 모델 TimesFM-3를 공개했다.
자세히 보기
구글 리서치가 다변량(multivariate) 예측과 공변량(covariate) 처리를 모델 구조에 내장한 시계열 파운데이션 모델 TimesFM-3를 공개했다. 파라미터 3.3억 개 규모로, 1조 개 이상의 시점 데이터를 사전 학습하여 미세조정 없이 제로샷(zero-shot) 예측이 가능하다.
핵심 기술 및 구조
기존 모델의 단변량 한계와 자기회귀(autoregressive) 방식의 지연 문제를 해결하기 위해 Contiguous Patch Masking(CPM) 기반의 비자기회귀 디코딩을 도입했다. 목표 계열, 과거 공변량, 과거-미래 공변량을 2차원 토큰 격자에 배치하고, 예측 구간을 마스크 토큰으로 미리 설정하여 **단일 순전파(single forward pass)**로 모든 예측값을 동시에 생성한다. 이를 통해 예측 구간이 길어질 때 발생하는 오차 누적과 지연 문제를 개선했다.
성능 및 벤치마크
GIFT-Eval, fev-bench, TIME 등 3가지 주요 벤치마크에서 점 예측과 확률 예측 지표 모두 사전 학습 파운데이션 모델 중 평균 순위 1위를 기록했다. 특히 다변량 모드에서는 Chronos-2, Toto 2.0 등 경쟁 모델 대비 우월한 성능을 보였으며, 단변량 모드만으로도 기존 최신 모델들을 상회한다. 확률 예측 시 9개 분위수(quantile)를 직접 출력하여 예측 불확실성을 정량화할 수 있다.
라이선스 및 실무 적용 주의사항
모델 가중치는 Hugging Face에서 다운로드 가능하나, TimesFM-3.0 사전 학습 가중치는 비상업 전용(non-commercial) 라이선스가 적용되어 상업적/프로덕션 환경 사용이 제한된다. 또한 다변량 어텐션 특성상 한 번의 순전파로 처리 가능한 계열 수에 상한(32개)이 존재하며, 이를 초과할 경우 자동 분할 처리되므로 중요한 공변량은 선별하여 입력 예산 내에 포함해야 한다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.