LG AI 연구원, ICML 2024에서 Tabular Domain 연구 성과 발표

LG AI 연구원의 Data Intelligence(DI) Lab은 ICML 2024에서 'Binning as a Pretext Task: Improving Self-Supervised Learning in Tabular Domains' 논문을 발표했습니다. 이 연구는 Tabular Learning의 한계를 극복하기 위해 Binning Algorithm을 활용하여 수치형 변수를 범주형 변수로 변환하고, 이를 예측하는 Pretext Task를 통해 Representation을 학습하는 방식을 제안합니다.

이번 논문에서는 기존 MLP나 FT-Transformer 외에도 최신 모델 구조인 T2G-Former를 활용하여 성능을 검증했습니다. 또한, Tabular 데이터의 특성을 시각화하여 성능 개선 효과를 입증하는 다양한 실험 결과를 포함했습니다.

더불어, 이미지와 Tabular 데이터를 결합한 Image-tabular Multimodal Learning 연구인 CHARMS 방법론도 소개되었습니다. 이 방법론은 Optimal Transport를 사용하여 이미지의 채널과 Tabular 데이터의 속성(Attribute) 간의 상호 정보를 최대화함으로써, 서로 다른 모달리티 간의 정렬 문제를 해결하고 예측 성능을 높입니다.