Causal Representation Learning 연구 동향 - LG AI Research BLOG

현재 머신러닝 알고리즘은 데이터가 i.i.d(independent and identically distributed) 가정하에 동일한 분포를 가진다고 전제한다. 하지만 현실에서는 데이터 분포가 변하는 domain shift 문제가 발생하며, 이는 모델의 Robustness를 저해하는 주요 원인이 된다.

기존 모델은 데이터 간의 상관관계(Association)만을 파악할 뿐, 인과관계(Causality)를 추론하지 못한다. 이를 해결하기 위해 Causal Representation Learning은 물리적 메커니즘을 모듈화하여 표현함으로써, 새로운 환경에서도 재사용 가능한 지식을 학습하고 모델의 일반화 성능을 높이는 것을 목표로 한다.

인과 모델링의 단계는 Judea Pearl이 제시한 Ladder of Causation에 따라 다음과 같이 구분된다.

• Associational Causality: 주어진 입력에 따른 결과의 확률을 예측 (i.i.d 환경)
• Interventional Causality: 특정 변수를 변화시켰을 때의 효과를 추론
• Counterfactual Causality: 발생한 사건에 대한 '만약 ~했다면' 식의 가상 상황 추론

본 연구는 **Independent Causal Mechanism(ICM)**과 Sparse Mechanism Shift(SMS) 원리를 활용하여, 데이터로부터 인과적 표현을 학습하고 기존 머신러닝의 한계를 극복하는 방향을 제시한다.