timesfm-3.0-pytorch: 0.3B 파라미터로 시계열 예측 끝내는 Google의 파운데이션 모델

시계열 데이터 분석의 진입 장벽을 낮추는 Google Research의 파운데이션 모델이다. 복잡한 모델링 없이 사전 학습된 가중치를 적용해 미래 값을 예측하는 데 집중한다.

Stacked Mixing Transformer 아키텍처와 Variate Attention, CPM Iterative RevIN을 결합해 정밀도를 높였다. 20개의 레이어와 1280 차원의 모델 크기로 0.3B 파라미터 규모를 유지하며 효율적인 추론을 지원한다.

Wikipedia 페이지뷰, Google Trends, 합성 데이터 등 다양한 소스로 사전 학습되어 일반적인 시계열 패턴에 강하다. 32 컨텍스트 패치와 64 예측 호라이즌 패치 길이를 기본 설정으로 제공한다.

PyTorch 기반의 공식 가중치와 설정을 포함해 기존 파이프라인에 쉽게 통합할 수 있다. 다만 비영리 라이선스 적용을 고려해 상업적 사용 전 조건을 확인해야 한다.