Supervised model의 geometric blind spot
We proved that every supervised model you've ever trained has a geometric blind spot; and adversarial training makes it worse, not better
·2026.04.27 12:35
supervised learning의 구조적 geometric blind spot을 보이며, adversarial training이 이를 더 악화시킨다고 주장했다.
Supervised Learning Has a Necessary Geometric Blind Spot라는 논문이 공개됐고, arXiv 번호는 2604.21395다.
핵심 주장으로는 ERM(empirical risk minimization) 을 최소화하는 모델이 훈련 라벨을 예측하는 모든 방향에서 0이 아닌 Jacobian sensitivity를 유지할 수밖에 없다고 제시한다.
저자들은 이 한계가 모델 용량이나 데이터셋 크기로 사라지지 않으며, 데이터 분포에 의해 결정된다고 설명한다.
또한 PGD adversarial training이 clean-input geometry를 개선하기보다 오히려 더 나쁘게 만들 수 있다고 주장하며, 이를 실험과 이론으로 연결한다.
코드 저장소도 함께 공개됐다: PMH.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.