LG AI Research, DistPFN으로 표본 내 학습 레이블 시프트 해결

·2026.11.03 09:00

핵심 내용

LG AI Research의 DistPFN이 재학습 없이 불균형 데이터 정확도를 13.7% 높였다

1 / 6

자세히 보기

  • LG AI Research가 모델 구조 변경이나 재학습 없이 표본 내 컨텍스트 학습(Tabular In-Context Learning)의 레이블 시프트를 완화하는 테스트 타임 사후 확률 조정 방법 DistPFN을 제안함
  • DistPFN-T는 강한 레이블 시프트 조건(베타=5)에서 TabICL 대비 상대적 정확도 13.7% 향상 및 평균 정확도 0.792 달성, 6개 시프트 강도에서 오라클 베이스라인(0.796)에 근접함
  • 계산 비용 증가가 미미하여 TabPFN-v2의 평균 예측 시간을 1.002초에서 1.003초로만 늘렸으며, EME와 BBE 등 다른 베이스라인이 최대 1.7%p 성능 저하를 겪는 균형 데이터셋에서도 안정성 유지함
  • ICML 2026의 구조화 데이터 트렌드는 원시 정확도보다 신뢰성에 초점을 맞추며, 시간-주파수 조합을 통한 불규칙 시계열 처리와 모델이 예시를 암기하는지 아닌지 검증하는 연구가 주목받음

ICML 2026 Context

  • 제43회 ICML 컨퍼런스가 2026년 7월 6일부터 11일까지 서울에서 개최되며, 해당 행사가 한국에서 열리는 것은 처음임
  • 총 23,918건의 제출 논문 중 6,352편이 채택되어 26.6%의 채택률을 기록했으며, 제출 건수는 전년 대비 2배 증가함
  • 우수 논문상(Outstanding Paper)은 'The Flexibility Trap'과 'High-Accuracy Sampling'에 수여되었으며, 2016년 발표된 'Asynchronous Methods for Deep Reinforcement Learning'은 시간의 시험상(Test of Time Award)을 수상함

Time Series Deep Learning Trends

  • 고정 길이 패칭을 대체하는 BPE 기반 토큰화가 조건부 디코딩과 결합될 때 평균 예측 성능을 40% 향상시키고 MSE를 최대 48% 감소시킴
  • PRO-DYN 프레임워크는 동역학 학습 능력에 따라 모델을 분류하며, 동역학 담당 블록을 모델 아키텍처의 끝에 배치하는 것이 가장 효과적임을 발견함
  • UEC-STD는 예측을 추세와 계절성 성분으로 분해하여 오류 수정 메커니즘을 부활시켰으며, 재학습 없이 4개 백본 모델과 10개 데이터셋에서 강건성을 향상시킴

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.