LG AI Research: 멀티모달 시계열 예측을 위한 적응형 정보 라우팅 기술

최근 NeurIPS 2024에서는 시계열 예측 분야에서 LLM 및 대형 모델의 활용도가 높아지며, TSALM(Time Series in the Age of Large Models) 워크숍이 개최되었습니다. LG AI연구원의 Data Intelligence (DI) Lab은 이 워크숍에서 멀티모달 시계열 예측에 관한 연구를 발표했습니다.

기존의 멀티모달 시계열 예측은 언어 모델을 직접 활용하거나 텍스트 임베딩을 별도로 사용하는 방식에 그쳤습니다. 하지만 시계열 데이터는 구조적이고 구체적인 반면, 텍스트는 글로벌하고 모호한 특성을 가져 두 데이터를 단순히 결합하는 데는 한계가 있습니다.

LG AI연구원은 이를 해결하기 위해 Adaptive Information Routing (AIR) 기술을 제안했습니다. 이 기술은 텍스트 데이터를 시계열 모델의 컨트롤러로 활용하여, 시계열 모델 내에서 정보가 흐르고 혼합되는 경로(Information Pathway)를 조절합니다.

구체적인 작동 방식은 다음과 같습니다:

• Information Routing 모듈: 텍스트 임베딩을 통합하여 FC Layer 사이의 Latent 가중치를 생성합니다.
• 동작 제어: 텍스트 정보에 따라 시계열 모델의 Temporal Mixing 및 Featural Mixing 강도를 조절합니다.
• Base 모델 적용: 본 연구에서는 FC Layer로 구성된 시계열 예측 모델인 TSMixer를 기반으로 성능을 검증했습니다.