AI 자동 형식화 급증, Lean 타입 이론 기반 미해결 및 건전성 버그 논란

AI 자동 형식화 급증

수학계는 자연어 증명을 Lean 정증명기용 기계 검증 코드로 변환하는 자동 형식화 흐름을 맞고 있다. 2025~2026년 이 전환은 가속화되었으며 주요 이정표는 다음과 같다.

• Anthropic은 2026년 9월 페르마의 마지막 정리를 자동 형식화했다고 발표했으며, 11일 만에 1300만 줄의 Lean 코드를 생성했다.
• OpenAI는 2026년 9월 Navier-Stokes 방정식의 강제력 포함 발산 문제를 Lean 코드와 함께 형식화해 공개했다.
• Meta/Facebook Research의 ATLAS 프로젝트는 2026년 5월까지 수학 교과서 26권의 상당 부분을 자동 형식화했다.
• **Mathematics Autoformalization Project (MAP)**는 2026년 9월 모든 알려진 수학을 코드로 번역해 1조 줄 규모로 만드는 것을 목표로 출범했다.

신뢰성 우려와 건전성 버그

생산성 향상에도 검증 인프라의 신뢰성은 여전히 핵심 과제다. 2026년 7~8월은 **“Summer of Soundness Bugs”**로 불리며, Lean 커널에서 여러 치명적 결함이 발견됐다. 보안 연구원들이 최신 AI 모델을 사용해 발견한 이 버그들은 Collatz 추측에 대한 부정 증명이나 Kepler 추측에 대한 짧은 무효 증명을 생성할 수 있게 했다. 모든 버그는 즉시 수정됐고, 약 30만 개 정리와 250만 줄 코드를 담은 mathlib 라이브러리는 재검증됐다.

미해결된 타입 이론 기반

저자 Thomas Hales와 Terence Tao는 Lean의 이론적 기반이 아직 완전히 이해되거나 일관성이 증명되지 않았다고 주장한다. 주요 쟁점은 다음과 같다.

• 판정 불가능한 정의적 동치: Mario Carneiro는 Lean에서 정의적 동치를 판정하는 것이 불가능함을 증명했다. 이는 시스템이 일부 동등한 항을 인식하지 못할 수 있음을 의미한다.
• 상대적 일관성 증명 부재: 2026년 10월 기준, Lean의 추상 타입 이론이 집합론에 대해 논리적으로 일관됨을 입증한 완전하고 공개된 증명은 없다. 집합론적 의미론을 사용하는 검증된 Lean 커널인 Con-Leche 프로젝트가 관련 일관성 보장을 제공하지만, Lean의 네이티브 타입 이론을 완전히 커버하지는 못한다.
• 미증명 추측: Unique typing, Pi-injectivity, modified Church-Rosser property 등 기본 속성은 여전히 미증명 추측으로 남아 있다.

AI 생성 검증에 대한 신뢰

저자들은 Ken Thompson의 “Reflections on Trusting Trust”를 인용해 AI 생성 검증 도구에 대한 맹신을 경계한다. AI가 버그 스캔이나 커널 생성에 사용될 경우, 인간 감사로는 놓칠 수 있는 숨겨진 백도어나 obscure한 건전성 결함이 존재할 위험이 있다는 것이다. AI에 기초 연구를 위임하면서 엄격한 인간 감독을 생략하는 것은 형식화된 수학의 무결성에 대한 중대한 위험으로 지목된다.