LG AI Research: 표 형식 데이터 학습을 위한 새로운 접근법

이미지나 텍스트와 달리 **표 형식 데이터(Tabular Data)**는 딥러닝 모델이 복잡하고 불규칙한 함수를 학습하는 데 어려움을 겪는 영역이다. 기존 딥러닝 모델은 매끄러운 함수로 수렴하려는 경향이 있어, 이산적인 특성을 가진 표 데이터 처리에 취약하다.

LG AI Research의 Data Intelligence (DI) Lab은 이를 해결하기 위해 Binning을 사전 학습 과제(Pretext Task)로 사용하는 연구를 NeurIPS 2023에서 발표했다. 이 방법은 연속형 변수를 이산형 변수로 변환하는 알고리즘을 활용하며, 오토인코더(Autoencoder) 구조를 통해 입력값 자체가 아닌 Binning 클래스 값을 예측하도록 설계되었다.

Binning 방식의 주요 장점은 다음과 같다:

• 연속형 변수를 이산형으로 변환하여 불규칙한 함수 학습을 돕는 Inductive Bias 부여
• 수치형과 범주형 변수가 혼합된 표 데이터의 특성을 효과적으로 통합
• 유사한 값들을 동일한 Bin으로 그룹화하여 데이터의 패턴 학습 효율 증대
• 불필요한 패턴이나 미세한 오류를 무시할 수 있는 강건함 확보

실험 결과, 이 방법은 이진 분류, 다중 클래스 분류, 회귀 등 25개 데이터셋에서 우수한 성능을 보였으며, 지도 학습 기반의 Tree-based 알고리즘이나 최신 딥러닝 모델과 비교해도 대등하거나 더 나은 성능을 입증했다.