추천Timestral-209M: 32,768개 시계열 데이터, 1,024개 미래 예측

Mistral AI가 공개한 Timestral-209M은 시계열 데이터를 학습 없이 바로 예측하는 파운데이션 모델이다. 209M 파라미터 규모로, 단일 변수와 다중 변수 시계열 모두를 처리한다. 과거 데이터만 있는 경우와 미래 공변량이 알려진 경우를 구분해 입력을 받는다.

1 / 2

최대 32,768개의 과거 시간 단계를 받아 한 번의 전방 전파(forward pass)로 최대 1,024개 단계를 예측한다. 단순 점수 예측이 아니라 0.01부터 0.99까지 21개 분위(quantile)의 확률적 분포를 출력한다. 누락된 값은 NaN으로 표기하여 처리하며, 범주형 공변량은 타깃 인코딩을 적용한다.

GIFT-Eval, TIME, fev-bench 세 가지 주요 벤치마크에서 t0-gamma, TimesFM-3, Chronos-2 등 기존 모델보다 낮은 MASE와 CRPS 수치를 기록했다. 특히 fev-bench의 SQL 스킬 스코어에서 50.39점을 기록하며 경쟁 모델들을 앞섰다. PyTorch 기반이며 CPU와 GPU 모두에서 추론이 가능하다.

기존 시계열 모델은 특정 도메인 데이터로 재학습이 필요하지만, Timestral은 제로샷(Zero-shot)으로 다양한 시계열 패턴을 포착한다. 소스 코드가 공개되어 벤치마크 결과 재현이 용이하다. Modified MIT 라이선스로 배포되며, 5M부터 209M까지 다양한 크기의 체크포인트가 제공된다.