Trees to Flows and Back: Decision Trees와 Diffusion Models의 통합
·2026.06.06 21:59
의사결정 나무와 확산 모델 사이의 수학적 대응 관계를 규명하여 두 모델을 통합하는 연구를 발표했다.
이 연구는 이산적이고 계층적인 **의사결정 나무(Decision Trees)**와 연속적이고 동적인 확산 모델(Diffusion Models) 사이의 수학적 대응 관계를 정립하여 두 모델을 통합한다.
연구진은 이 통합 과정에서 **Global Trajectory Score Matching (GTSM)**이라는 공유된 최적화 원리를 발견했으며, 이상적인 형태의 그래디언트 부스팅(Gradient Boosting)이 이 원리에 대해 점근적으로 최적임을 입증했다.
실질적인 활용을 위해 두 가지 구현 방식을 제안한다:
- treeflow: 정형 데이터(Tabular data) 생성 시 기존 방식보다 높은 충실도를 유지하면서도 2배 빠른 연산 속도를 제공한다.
- dsmtree: 계층적 의사결정 로직을 신경망으로 전이하는 새로운 증류(Distillation) 방법으로, 여러 벤치마크에서 교사 모델 성능의 2% 이내까지 추종한다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.
