AI가 수학 연구의 본질을 바꾸는 방식

AI는 이제 소프트웨어 코딩뿐 아니라 수학적 연구의 방식도 바꾸고 있다. 연구자들은 고수준의 proof sketch만 던져도, AI가 이를 엄밀한 정리와 증명으로 정리해 주는 흐름을 체감하고 있다.

저자들은 지난해 여름 3주 동안 agentic AI 도구를 써서, 원래라면 몇 달 걸렸을 50페이지 분량의 논문을 작성했다. 이 논문은 graph theory와 machine learning 개념을 바탕으로 한 최적화 문제를 다뤘고, AI는 "directed acyclic network" 같은 추상적 설명을 받아들이고 이를 정식 수학 언어로 옮겼다.

핵심은 AI가 단순히 문장을 다듬는 수준이 아니라, 불완전한 직관을 정의, 정리, 증명으로 변환한다는 점이다. 이 과정에서 저자들은 AI가 증명 중 작은 보조 정리를 스스로 찾아내 논리를 단순화한 경험도 언급하며, AI가 때로는 연구 아이디어 자체를 보태는 수준으로 진화하고 있다고 본다.

다만 신뢰할 수 있는 조력자는 아직 아니다. 저자들은 AI가 생성한 증명이 약 75% 정도만 정확하다고 보고, 오류를 잡아 반복 수정할 수 있어야 생산적인 협업이 가능하다고 설명한다. 잘못된 답을 그대로 따라가면 금방 막다른 길로 빠지며, 겉보기에 매끈하지만 내용이 빈약한 AI research slop로 흐르기 쉽다.

문제는 연구 생산성만이 아니다. AI가 초급 연구자들이 과거에 겪어야 했던 시행착오를 대신해 버리면, 젊은 연구자들이 intuition과 good taste를 어떻게 배울지가 어려워진다. 저자들은 계산기 시대에 덧셈을 직접 배우던 방식처럼, 최소한 한 트랙에서는 "옛 방식"으로 연구를 익히게 하는 교육이 필요할 수 있다고 본다.

peer review 역시 충격을 받는다. AI는 논문을 더 빨리, 더 매끈하게 대량 생산하게 만들고, 이는 이미 과부하 상태인 학술 출판 시스템에 더 많은 부담을 얹는다. 특히 리뷰어의 역할이 단순한 정합성 검사가 아니라, 공동체의 희소한 attention을 어디에 쏟을지 정하는 일이라는 점에서, AI 시대에는 그 기능을 다시 설계해야 한다고 주장한다.

대안으로는 formal verification 같은 자동 검증 도구를 더 적극적으로 활용해, 수학 증명의 오류 검출을 일종의 unit testing처럼 처리하는 방향을 제시한다. 인간 리뷰어는 기계가 잘하는 정합성 확인보다, 결과가 왜 중요한지와 무엇을 새롭게 이해하게 하는지를 판단하는 데 집중해야 한다는 것이다.

결국 저자들은 AI가 연구의 속도, 교육, 심사 체계를 동시에 바꿀 sea change를 가져오고 있다고 본다. 남는 과제는 AI를 막는 것이 아니라, AI가 인간의 창의성과 통찰을 증폭하면서도 과학의 엄밀함과 연구의 즐거움을 보존하도록 제도를 재설계하는 일이다.