표형 데이터의 효과적인 자가 지도 학습을 위한 표현 공간 증강 연구

LG AI연구원 DI Lab은 AAAI-25에서 제조 공정 및 품질 관리 등에 필수적인 **표형 데이터(Tabular Data)**를 효과적으로 학습할 수 있는 새로운 방법론인 RaTab(Representation Space Augmentation for Tabular Data)을 공개했다.

기존의 표형 데이터 학습은 XGBoost와 같은 트리 기반 모델에 의존하거나, 이미지/텍스트에 최적화된 자가 지도 학습(SSL) 기법을 적용하는 방식이었다. 하지만 기존 SSL의 데이터 증강 기법(Masking, Shuffling 등)은 표형 데이터의 핵심 피처 간 관계를 왜곡하거나 정보 손실을 초래하는 한계가 있었다.

RaTab은 이러한 문제를 해결하기 위해 입력 공간(Input Space)이 아닌 **표현 공간(Representation Space)**에서 증강을 수행한다. 주요 특징은 다음과 같다:

• 표현 공간 증강: 인코더의 마지막 MLP 레이어 가중치 행렬을 변형하여 보다 의미 있는 표현을 생성한다.
• Truncated SVD 활용: 가중치 행렬을 **SVD(Singular Value Decomposition)**로 분해하여, 데이터의 핵심 정보(Core Information)를 유지하면서도 표현의 다양성을 확보한다.
• 데이터 구조 보존: 기존 방식과 달리 피처 간의 복잡한 상호작용을 왜곡하지 않고도 효과적인 표현 학습이 가능하다.

이번 연구는 제조 현장의 방대한 센서 데이터와 로그 데이터를 보다 정교하게 처리하여 공정 최적화와 생산성 향상에 기여할 수 있는 딥러닝 기반의 강력한 토대를 마련했다는 점에서 의의가 있다.