수학자 단체, AI 연구소에 인간 이해 지원과 투명성 강화 권고

수학자 단체가 AI 연구소들이 중요한 수학 결과를 생성할 때 준수해야 할 권고안을 발표했다. 이 지침은 인간의 이해가 학술적 산출물의 핵심이어야 한다고 강조한다. AI가 복잡한 증명을 생산할 수 있지만, 커뮤니티 접근 없이 독점 모델로 고급 문제를 테스트하는 현행 관행은 문제가 있으며 중단해야 한다고 주장한다.

핵심 원칙

권고안은 세 가지 기본 원칙에 기반한다:

• AI 연구소는 중요한 결과를 가능한 한 빨리 책임 있게 공개해야 한다.
• 인간의 즉각적인 이해 없이 산출물을 공개하는 연구소는 해당 이해를 위한 개발을 자금 지원하고 뒷받침해야 한다.
• 이해 과정은 AI 연구소가 주도하지 않고, 자연스럽고 커뮤니티 주도적이어야 한다.

기술적 공개 기준

인간이 아직 이해하지 못한 결과에 대해, 연구소는 공개 전후로 구체적인 기술적 조치를 취해야 한다:

• 문헌 검토 및 인용: AI가 독립적으로 발견했더라도 관련 아이디어를 문헌에서 찾아 인용해야 한다.
• 표준화된 형식: 증명은 전통적인 수학 스타일로 다시 작성하고 명확한 서론과 정리 진술을 포함하며, 비표준 용어를 피해야 한다.
• 저장소 기탁: 결과는 마케팅 수단이 아닌, 지속 식별자가 있는 중립적인 학술 저장소에 기탁해야 한다.
• 완전한 투명성: 모델 이름, 프롬프트, 요약된 사고 과정, 소요 시간, 추정 계산 비용을 공개해야 한다.
• 형식화: 가능한 경우 증명을 형식화하여 아티팩트와 메타데이터에 대한 커뮤니티 기준을 충족해야 한다.
• 맥락 문서화: AI 사용 방식, 모델이 실패한 유사 문제 수, 문제 선택 방식을 각 공개 시마다 문서화해야 한다.

인간 이해 지원

문서는 AI 연구소가 수학 커뮤니티가 AI 생성 결과를 흡수할 수 있도록 자금을 제공할 책임이 있다고 주장한다. 이 지원은 독립적인 비영리 기관을 통해 분배되어야 하며 다음을 지원할 수 있다:

• 복잡한 증명을 위한 컨퍼런스 또는 여름 학교.
• 워크숍 및 장기 작업 그룹.
• 검증 및 적용을 돕는 박사후연구원 또는 학생.
• 책이나 해설 기사를 작성하는 전문가.

접근성과 형평성

지침은 독점 모델로 인해 연구소가 전체 분야를 앞지르는 이중 구조를 경고한다. 기존 불평등을 악화시키고 집단적 검증과 공유된 직관이 번성할 수 있도록, 전 세계 수학 커뮤니티가 공개 모델에 광범위하고 공평하게 접근할 것을 권고한다.