LG AI Research, DistPFN으로 표본 내 학습 레이블 시프트 해결
·2026.11.03 09:00
핵심 내용
LG AI Research의 DistPFN이 재학습 없이 불균형 데이터 정확도를 13.7% 높였다
자세히 보기
- LG AI Research가 모델 구조 변경이나 재학습 없이 표본 내 컨텍스트 학습(Tabular In-Context Learning)의 레이블 시프트를 완화하는 테스트 타임 사후 확률 조정 방법 DistPFN을 제안함
- DistPFN-T는 강한 레이블 시프트 조건(베타=5)에서 TabICL 대비 상대적 정확도 13.7% 향상 및 평균 정확도 0.792 달성, 6개 시프트 강도에서 오라클 베이스라인(0.796)에 근접함
- 계산 비용 증가가 미미하여 TabPFN-v2의 평균 예측 시간을 1.002초에서 1.003초로만 늘렸으며, EME와 BBE 등 다른 베이스라인이 최대 1.7%p 성능 저하를 겪는 균형 데이터셋에서도 안정성 유지함
- ICML 2026의 구조화 데이터 트렌드는 원시 정확도보다 신뢰성에 초점을 맞추며, 시간-주파수 조합을 통한 불규칙 시계열 처리와 모델이 예시를 암기하는지 아닌지 검증하는 연구가 주목받음
ICML 2026 Context
- 제43회 ICML 컨퍼런스가 2026년 7월 6일부터 11일까지 서울에서 개최되며, 해당 행사가 한국에서 열리는 것은 처음임
- 총 23,918건의 제출 논문 중 6,352편이 채택되어 26.6%의 채택률을 기록했으며, 제출 건수는 전년 대비 2배 증가함
- 우수 논문상(Outstanding Paper)은 'The Flexibility Trap'과 'High-Accuracy Sampling'에 수여되었으며, 2016년 발표된 'Asynchronous Methods for Deep Reinforcement Learning'은 시간의 시험상(Test of Time Award)을 수상함
Time Series Deep Learning Trends
- 고정 길이 패칭을 대체하는 BPE 기반 토큰화가 조건부 디코딩과 결합될 때 평균 예측 성능을 40% 향상시키고 MSE를 최대 48% 감소시킴
- PRO-DYN 프레임워크는 동역학 학습 능력에 따라 모델을 분류하며, 동역학 담당 블록을 모델 아키텍처의 끝에 배치하는 것이 가장 효과적임을 발견함
- UEC-STD는 예측을 추세와 계절성 성분으로 분해하여 오류 수정 메커니즘을 부활시켰으며, 재학습 없이 4개 백본 모델과 10개 데이터셋에서 강건성을 향상시킴
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.