수학에서의 심각한 AI 정렬 문제 - 테렌스 타오 외

Terence Tao를 비롯한 다수의 필즈상 수상자들이 AI 기업과 수학 커뮤니티 간의 심각한 목표 불일치(Misalignment)를 지적하는 성명을 발표했다. 이들은 LLM의 수학 능력 향상으로 미해결 문제 해결이 가능해졌지만, AI 기업의 '문제 해결' 중심 벤치마킹이 수학 과학과 커뮤니티에 해로울 수 있다고 우려했다.

AI와 수학 커뮤니티의 목표 불일치

수학 연구의 본질은 단순한 정답 도출이 아니라 새로운 통찰과 방법론을 구축하는 과정이다. 그러나 AI가 대량 생산하는 '참/거짓' 명제는 적절한 문서화, 신규 방법론 격리, 선행 연구 인용이 생략된 채 급속히 발표되어 심각한 귀속(attribution) 및 표절(plagiarism) 문제를 야기하고 있다. 이는 새로운 아이디어를 살리기보다 기존 연구 생태계의 토양을 파괴할 위험이 있다.

교육 및 전승 과정의 위협

수학 커뮤니티는 학생과 아이디어를 핵심 자원으로 여기며, 인간 상호작용을 통한 성장과 지혜의 전승을 중시한다. AI가 기존 작업의 결과물을 직접 생성하는 능력은 이해를 바탕으로 질문을 던지고 개념을 익히는 전통적인 교육 목표와 충돌한다. AI 솔루션의 확산으로 수학자 간의 인간적 전승 고리가 끊어질 수 있다는 점이 지적되었다.

향후 방향

Terence Tao 등 20여 명의 필즈상 수상자는 AI가 수학 연구를 잠재적으로 가속화할 수 있으나, 그 결과가 건설적이 될지 파괴적이 될지는 기술 통제 주체인 인간의 결정에 달려 있다고 강조했다. 수학계, AI 기업, 사회 전반이 이러한 지적 노동의 위협과 정렬 문제를 시급히 해결해야 한다고 촉구했다.