AI BriefingSupervised model의 geometric blind spot
We proved that every supervised model you've ever trained has a geometric blind spot; and adversarial training makes it worse, not better
·2026.04.27 12:35
핵심 내용
supervised learning의 구조적 geometric blind spot을 보이며, adversarial training이 이를 더 악화시킨다고 주장했다.
자세히 보기
Supervised Learning Has a Necessary Geometric Blind Spot라는 논문이 공개됐고, arXiv 번호는 2604.21395다.
핵심 주장으로는 ERM(empirical risk minimization) 을 최소화하는 모델이 훈련 라벨을 예측하는 모든 방향에서 0이 아닌 Jacobian sensitivity를 유지할 수밖에 없다고 제시한다.
저자들은 이 한계가 모델 용량이나 데이터셋 크기로 사라지지 않으며, 데이터 분포에 의해 결정된다고 설명한다.
또한 PGD adversarial training이 clean-input geometry를 개선하기보다 오히려 더 나쁘게 만들 수 있다고 주장하며, 이를 실험과 이론으로 연결한다.
코드 저장소도 함께 공개됐다: PMH.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
