#fp16와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
사전학습 실패의 핵심 원인으로 인과성 훼손과 수치 편향을 꼽았다.
프론티어 모델은 distillation을 막기 어렵고, 대규모 pretraining은 작은 bias와 causality 위반에도 쉽게 무너진다.