AI가 수학을 할 때: 모델이 추측을 반증하고 올림피아드에서 금메달을 획득하면서 수학자들은 어떻게 되나요?

박사 수준의 결과를 생성하는 DeepMind의 Aletheia부터 기하학 추측을 반박하는 OpenAI에 이르기까지 AI는 수학을 재편하고 연구자가 실제로 무엇을 위한 것인지 묻도록 현장에 강요하고 있습니다.

지난 세기 대부분 동안 수학의 실천은 눈에 띄게 거의 변하지 않았습니다. 수학자들은 패턴을 발견하고, 추측을 쓰고, 증거를 만드는 데 수개월 또는 수년을 소비하고, 다른 수학자들은 이를 검증합니다. 이제 IEEE Spectrum의 Benjamin Skuse의 심층 보고서에 따르면 인공 지능은 느리고 숙고적인 프로세스를 우회하기 시작했으며 현장이 수학자가 된다는 것이 실제로 무엇을 의미하는지 직면하도록 강요하고 있습니다.

2026년 6월 25일에 출판된 이 작품은 한때 비평가들이 확률론적 앵무새라고 일축했던 것에서 대규모 언어 모델이 얼마나 빨리 진정한 수학적 추론 엔진으로 진화했는지, 그리고 그 변화가 항상 이 작업을 수행해 온 인간에게 무엇을 의미하는지 추적합니다. 이 이야기에 대한 자세한 내용은 AI 뉴스를 참조하세요.

수학 분야에서 AI의 급속한 성장세

계산은 수십 년 동안 수학을 가속화해 왔습니다. 전환점은 대략 50년 전이었습니다. 4색 정리는 컴퓨터를 사용하여 지도에 4색 이하의 색상을 사용하여 인접한 지역이 동일한 색상을 공유할 수 없는지 묻는 4색 정리를 증명한 것입니다. 대답은 '그렇다'였지만, 인간이 현실적으로 직접 확인할 수 없는 1,936건의 사례를 확인하는 데 의존했기 때문에 그 증거는 논란의 여지가 있었습니다.

그 컴퓨터 시대에도 인간 수학자들은 중심에 남아 추측을 제안하고 전략을 고안하고 결과를 검증했습니다. AI는 이제 이러한 합의에 직접적으로 도전하고 있습니다. 지난 여름 Google DeepMind와 OpenAI의 시스템은 세계에서 가장 수학 재능이 뛰어난 고등학생과 동등한 수준에 도달하여 참가자들이 악명 높은 6가지 어려운 문제를 풀어야 하는 연례 대회인 국제 수학 올림피아드(IMO)에서 금메달을 획득했습니다.

이정표는 계속 가속화되었습니다. 2026년 초, Google DeepMind의 실험 시스템 Aletheia는 출판 가능한 박사 수준 연구 결과를 자율적으로 생성했습니다. 산술 기하학에서 구조 상수를 계산하는 작업 자체는 수학적으로 모호하지만 이전에 해결되지 않은 문제를 해결하는 데 필요한 복잡한 추론에 그 중요성이 있습니다. 최근에는 OpenAI의 새로운 범용 AI 시스템이 조합 기하학의 중요한 추측을 반증했습니다. 그 결과 최고의 수학자들은 이 분야의 이정표로 환영받았으며 주요 저널에 출판할 가치가 있었습니다.

증명 보조자와 형식화 병목 현상

두 번째 변화는 대규모 언어 모델과 교정 보조자를 결합하는 것에서 비롯되었습니다. Isabelle, Lean 및 Rocq와 같은 시스템은 수학적 증명을 단계별로 확인하여 논리적 정확성을 검증하는 전문 프로그래밍 언어입니다. 10년 넘게 병목 현상은 공식화, 즉 정리와 증명을 기계가 읽을 수 있는 코드로 직접 변환하는 힘든 과정이었습니다.

LLM은 비공식 증명을 증명 보조원이 확인할 수 있는 공식 코드로 자동화하여 병목 현상을 제거하기 시작했습니다. 지난 2월, AI 회사인 Math, Inc.는 Gauss라는 추론 에이전트를 사용하여 2022년 EPFL의 Maryna Viazovska에게 필즈 메달을 획득한 작업을 공식화했습니다. Gauss는 먼저 인간 수학자들이 며칠 만에 8차원 구형 채우기 문제에 대한 Viazovska 솔루션의 공식화를 완료하도록 도왔고, 그런 다음 단 2주 만에 더 복잡한 24차원 사례를 자동으로 공식화했습니다.

이러한 성과는 AI가 오랫동안 인간 고유의 것으로 간주되었던 작업을 이미 처리하고 있으며 수학자의 일상 업무 중 상당 부분이 곧 자동화를 위한 공정한 게임이 될 수 있음을 시사합니다.

수학자들은 '신탁의 사제'가 될 것인지 논쟁을 벌인다

2025년 9월 제12회 하이델베르그 수상자 포럼에서 보고한 Skuse는 연사들이 인간의 개입 없이 초인적인 AI 시스템이 추측을 형성하고, 솔루션 공간을 검색하고, 정리를 증명하고, 증명을 확인하고, 결과를 일반화하는 미래를 설명하면서 청중의 눈에 띄는 불안감을 설명합니다.

런던 수학 과학 연구소의 허 양희(Yang-Hui He)는 인간 수학자들이 "신탁의 성직자"가 될 수 있다고 기억에 남는 경고를 했습니다. 구글 개발자 그룹(Google Developer Groups)의 수학자 제시카 랜달(Jessica Randall)은 젊은 연구자들 사이에서 집단적 실존적 공포가 고조되는 것을 느꼈다고 말했습니다. 그녀는 IEEE Spectrum에 "우리는 AI가 우리를 대체할 잠재력이 있다는 것을 확실히 깨닫기 시작했습니다."라고 말했습니다.

모든 사람이 놀라는 것은 아닙니다. 일부 저명한 수학자들은 누가, 무엇을 만들어냈는지에 상관없이 남아 있는 여섯 가지 밀레니엄 상 문제와 같은 가장 큰 공개 질문에 대한 답을 원합니다. Carnegie Mellon University의 Jeremy Avigad는 "많은 수학자들이 실용적이고 이해를 원합니다."라고 말했습니다. "그들은 문제 해결을 위해 영혼을 팔 것입니다."

미래를 위한 세 가지 경쟁 비전

IEEE 스펙트럼 보고서는 수학과 AI가 어떻게 공존할 수 있는지에 대한 세 가지 광범위한 비전을 식별합니다.

첫 번째는 인간의 이해를 우선시하고 AI를 계산기와 같은 도구로 취급하는 인간 중심적 관점입니다. 필즈상 수상자인 프린스턴 수학자 Akshay Venkatesh는 수학이 본질적으로 합의에 도달하는 방법이라고 주장합니다. 그는 "때때로 우리가 숫자를 사용할 때 본질적으로 숫자적인 현상을 설명하는 것이 아니라 숫자가 의미하는 바를 우리 모두가 정확히 동의할 수 있다고 생각한다"고 말했다.

두 번째는 환원할 수 없는 인간의 투쟁 경험을 강조합니다. 오타와 대학의 마이아 프레이저(Maia Fraser)는 완고한 추측에 대한 AI 증명은 사람들이 이해할 수 있는 경우에만 유용하다고 주장합니다. “이 진술이 AI에 의해 입증될 수 있다는 것은 이미 유용한 정보입니다.”라고 그녀는 인정했습니다. "그러나 우아하고 아름다운 인간의 증거를 생각해내는 것은 여전히 미해결 문제입니다."

세 번째이자 아마도 가장 야심 찬 사람은 UCLA의 Terence Tao입니다. 그는 10세에 처음으로 수학 올림피아드에 참가했으며 현재 살아있는 수학자 중 가장 많은 훈장을 받은 사람 중 한 명입니다. Tao는 AI를 자신이 "큰 수학"이라고 부르는 것, 즉 인간과 기계 사이의 대규모 분산형 협업의 미래를 위한 촉매제로 보고 있습니다. 인간과 기계는 복잡한 문제를 조각으로 나누어 인간이 창의적인 작업을 담당하고 AI가 기술적인 힘든 작업을 처리합니다.