새 arXiv 정책: 환각 참고문헌에 1년 이용 금지

arXiv는 저자로 이름을 올린 이상 생성 방식과 무관하게 논문 전체에 책임을 진다고 본다.

생성형 AI가 만든 부적절한 표현, 표절, 편향, 오류, 잘못된 참고문헌이 논문에 들어갔고, 저자가 이를 검증하지 않았다는 명백한 증거가 있으면 해당 논문은 신뢰할 수 없는 것으로 간주한다.

제재는 다음과 같다.

• arXiv 1년 이용 금지
• 이후 제출물은 먼저 평판 있는 peer-reviewed venue에서 수락돼야 함

명백한 증거의 예시는 다음과 같다.

• 존재하지 않는 참고문헌, 즉 hallucinated references
• LLM이 남긴 메타 코멘트나 초안 주석
• 실험 숫자를 채워 넣으라는 식의 모델 출력 흔적