25명의 필즈상 수상자로 구성된 그룹(모든 초기 서명자는 수학 최고 영예의 우승자임)은 수학 벤치마크에서 인공 지능을 선보이려는 경쟁이 수학 과학과 이를 유지하는 커뮤니티 모두에 해를 끼치고 있음을 경고하는 공식 선언문을 발표했습니다. "수학에서 AI의 심각한 불일치"라는 제목의 성명서는 금요일에 발표되었으며, 최초 서명자 중에는 그의 세대에서 가장 영향력 있는 수학자 중 한 명인 테렌스 타오(Terence Tao)가 있습니다.
이 선언문은 mathandai.org에 게시되었으며 사이트의 공개 서명자 목록에 따르면 하루 만에 전 세계 대학 및 연구 기관에서 1,300명 이상의 추가 지지자가 모였습니다. 타오는 자신의 개인 블로그에 "초기 서명자 25명, 모두 필즈상 수상자 명단에 포함된 것을 자랑스럽게 생각한다"고 자신의 블로그 게시물에 참여했음을 확인했습니다. 최신 AI 개발을 추적하는 모든 사람에게 이번 개입은 AI 연구소가 모델의 기능을 측정하고 홍보하는 방법에 대한 엘리트 수학 내에서 가장 날카로운 비판 중 하나입니다. 이 내용은 금요일 Hacker News의 토론을 장악했으며 수백 개의 댓글이 달렸습니다.
선언문의 내용
서명자들은 AI 시스템이 눈에 띄게 능력을 갖추게 되었다는 사실에 이의를 제기하지 않습니다. 선언문에는 "지난 몇 달 동안 LLM의 수학적 능력이 극적으로 향상되어 수학의 여러 분야에서 중요한 문제를 해결할 수 있을 정도로 향상되었습니다."라고 명시되어 있습니다. 이의는 다음에 일어날 일에 대한 것입니다. 저자는 이러한 솔루션을 경쟁 벤치마크로 사용하는 AI 회사가 "수학 과학과 수학 커뮤니티에 해롭다"고 주장합니다.
핵심 주장은 뚜렷하다: "AI 회사의 목표와 수학계의 목표는 심각하게 어긋난다."
선언문은 유명한 문제를 해결하는 것이 전통적으로 새로운 통찰력의 신호, 즉 대화, 토론, 단순화 및 궁극적인 교과서 작성이라는 긴 공동 과정의 시작으로 작용했다고 주장합니다. 저자는 "문제 해결은 개념적 이해와 통찰력이라는 기본 목표를 달성하기 위한 도구이자 프록시일 뿐입니다."라고 썼습니다. "AI 세계에서 이것을 잊어버리면 도구가 주요 목표에 어긋날 수 있습니다."
가장 많이 인용된 문구는 다음과 같은 우려를 담고 있습니다. "'참/거짓' 진술이 점점 더 빨라지는 대량 생산은 새로운 아이디어에 생명을 불어넣는 대신 비옥한 토양을 파괴할 수 있습니다."
저작자 표시, 표절 및 성급한 발표
서명자들은 실질적인 불만도 제기했다. 선언문에는 "이러한 솔루션은 성급하게 발표되는 경우가 많아 적절한 글을 작성할 시간이 없고 새로운 방법과 아이디어를 분리하며 관련 이전 작업을 인용하는 경우가 많습니다."라고 선언문에 명시되어 있습니다. "모든 창의적인 직업과 마찬가지로 이는 심각한 귀속 및 표절 문제를 야기합니다."
저자는 2차 효과에 대해 경고합니다. “자신의 개발과 수학적 표준으로의 통합을 관리해야 하는 의지 있는 수학자”가 없으면 AI가 구상한 아이디어는 결코 완전히 개발되지 않을 것이며 “수학자 사이의 중요한 인간 전달 체인이 손실될 것입니다.”
비상한 긴급 상황 표시
그 과정 자체가 이례적이었습니다. 타오는 자신의 블로그를 통해 이 성명이 '지난 주' 서명자들 사이의 논의에서 나온 것임을 인정하고 더 많은 협의 과정을 진행하지 않은 점에 대해 사과했다. 그는 "우리는 상황이 긴급해서 조만간 성명을 발표해야 한다고 결정했다"고 썼다.
이 선언은 이전 라이덴 선언의 모델을 따르며 주최자는 명시적으로 추가 서명을 요청합니다. 타오는 또한 독자들에게 The Economist의 최근 보도 내용을 지적했습니다. 초기 25명의 서명자는 모두 필즈 메달리스트였습니다. 이는 수학계에서 가장 뛰어난 연구자들이 한목소리로 말하는 의도적인 신호였습니다. 더 광범위한 지지 목록에는 이미 MIT, ETH Zurich, Max Planck Institute, Northwestern, NYU 및 기타 수십 개의 기관의 수학자들이 포함되어 있습니다.
수학 너머의 경고
이 진술은 수학에 뿌리를 두고 있지만 저자는 이를 훨씬 더 광범위한 문제에 대한 템플릿으로 구성합니다. 선언문에는 “우리는 AI 사용의 결과와 초기 목적 사이의 불일치로 인해 지적 작업에 대한 일반적인 위협을 목격하고 있습니다.”라고 적혀 있습니다.
이 주장은 수학과를 훨씬 넘어서는 반향을 불러일으킬 것입니다. 저자들은 많은 직업에서 전통적으로 수년간의 훈련이 최종 답을 도출하는 것뿐만 아니라 새로운 질문을 공식화하는 이해력과 능력을 키우는 데 도움이 되었다고 지적합니다. AI 시스템이 이러한 작업의 결과를 직접 생성할 수 있게 되면서 "이러한 목표는 더 이상 일치하지 않습니다." 선언문은 수학자들이 직면한 문제를 "다른 과학 및 창조 직업이 직면하고 있는 문제와 유사하며 모든 인류가 직면할 수 있는 문제를 나타냅니다"라고 설명합니다.
AI를 거부하는 것이 아니다
특히 이번 성명은 AI 개발 중단을 촉구하는 것이 아니다. 저자들은 "AI는 진정한 수학적 연구와 이해를 향상하고 가속화할 수 있는 잠재력을 제공합니다"라고 썼으며 "직업으로서의 수학은 적응해야 할 것"이라고 인정했습니다.
개입은 격렬한 순간에 시작됩니다. AI 시스템이 유명한 공개 문제를 해결했거나 큰 진전을 이루었다는 주장은 반복적으로 헤드라인을 장식했으며, 올해 초 Navier-Stokes 문제와 관련된 OpenAI 주장에 대한 별도의 분쟁은 그러한 발표가 얼마나 논쟁의 여지가 있는지를 보여주었습니다. Fields Medallists의 선언은 사실상 그 역학에 대한 수학계의 가장 고위급 대응입니다. 즉, AI 연구소가 수백 년 된 공개 문제를 리더보드 항목으로 취급하는 것을 중단하라는 요청입니다.
AI 기업이 발표 전에 수학자에게 문의하거나, 이전 작업을 인정하거나, 벤치마크를 재고하는 방식으로 대응할지 여부는 아직 알 수 없습니다. 이미 분명한 것은 이러한 문제를 가장 잘 아는 사람들이 더 이상 옆에서 지켜보고 있지 않다는 것입니다.
