Група з 25 медалістів Філдса — кожен із перших підписантів є лауреатом найвищої нагороди з математики — опублікувала офіційну декларацію, в якій попереджає, що змагання за демонстрацію штучного інтелекту на математичних тестах завдає шкоди як науці математики, так і спільноті, яка її підтримує. Заява під назвою «Серйозне розбіжність штучного інтелекту в математиці» була опублікована в п’ятницю, і серед перших її підписантів був Теренс Тао, один із найвпливовіших математиків свого покоління.
Декларація опублікована на mathandai.org, і протягом дня вона зібрала понад 1300 додаткових прихильників з університетів і дослідницьких інститутів по всьому світу, згідно зі списком публічних підписантів сайту. Тао підтвердив свою участь у дописі у своєму особистому блозі, написавши, що він «пишається тим, що був серед 25 перших підписантів — усі вони отримали медалі Філдса». Для тих, хто стежить за [останніми розробками штучного інтелекту] (https://aibuzzwire.news), це втручання знаменує собою одну з найбільш гострих критиків з боку елітної математики щодо того, як лабораторії штучного інтелекту вимірюють — і оприлюднюють — можливості своїх моделей. Це домінувало в дискусії на Hacker News у п’ятницю, викликавши сотні коментарів.
Що говорить декларація
Підписанти не заперечують, що системи ШІ стали надзвичайно потужними. «Протягом останніх кількох місяців математичні здібності LLM різко покращилися, аж до того, що вони можуть вирішувати великі невирішені проблеми в багатьох галузях математики», — йдеться в декларації. Заперечення полягає в тому, що відбувається далі: компанії штучного інтелекту використовують ці рішення як конкурентоспроможні тести, що, на думку авторів, «шкодить науці математики та математичній спільноті».
Основне твердження суворе: «Цілі компаній, що займаються штучним інтелектом, і цілі математичного співтовариства сильно розходяться».
У декларації стверджується, що розв’язання відомих проблем традиційно служило ознакою нового розуміння — початком тривалого спільного процесу розмов, обговорень, спрощення та, зрештою, написання підручників — а не самоціллю. «Вирішення проблем є лише інструментом і проксі для досягнення основної мети концептуального розуміння та розуміння», — пишуть автори. «Якщо забути про це у світі штучного інтелекту, інструмент може стати проти головної мети».
Рядок, який найчастіше цитується, виражає занепокоєння: «масове виробництво все швидшими й швидшими темпами тверджень «правда/хибність» може знищити родючий ґрунт замість того, щоб вдихнути життя в нові ідеї».
Позначення авторства, плагіат і поспішні оголошення
Підписанти також висувають практичну скаргу. «Часто ці рішення оголошуються поспішно, не залишаючи часу для належного опису, виділення нових методів та ідей і цитування відповідної попередньої роботи інших», — йдеться в декларації. «Як і в усіх творчих професіях, це викликає серйозні питання щодо атрибуції та плагіату».
Автори попереджають про ефект другого порядку: без «бажаючих математиків, які повинні піклуватися про їх розвиток та інтеграцію в математичний канон», ідеї, задумані штучним інтелектом, ніколи не будуть повністю розроблені, і «вирішальний ланцюг передачі між математиками буде втрачено».
Незвичайна демонстрація терміновості
Сам процес був незвичайним. Тао визнав у своєму блозі, що заява виникла в результаті дискусій між підписантами «протягом останнього тижня», і вибачився за те, що не запустив консультаційний процес. «Ми вирішили, що терміновість ситуації така, що нам потрібно опублікувати заяву швидше, ніж пізніше», — написав він.
Декларація наслідує модель попередньої Лейденської декларації, і організатори прямо запрошують до подальших підписів. Тао також звернув увагу читачів на нещодавнє висвітлення заяви The Economist. Перші 25 підписантів були лауреатами медалі Філдса, це був навмисний сигнал — найтитулованіші дослідники математики, які говорили в один голос. Більш широкий список підтримки вже включає математиків з Массачусетського технологічного інституту, ETH Zurich, Інституту Макса Планка, Північно-Західного університету Нью-Йорка та десятків інших установ.
Попередження за межами математики
Хоча це твердження ґрунтується на математиці, автори розглядають його як шаблон для набагато ширшої проблеми. «Ми є свідками загальної загрози для інтелектуальної праці, з розбіжністю між результатом використання ШІ та його початковою метою», — йдеться в заяві.
Цей аргумент матиме резонанс далеко за межами математичних факультетів. У багатьох професіях, зазначають автори, роки навчання традиційно служать не тільки для отримання остаточних відповідей, але й для розвитку розуміння та здатності формулювати нові питання. Коли системи ШІ стають здатними виробляти результати такої роботи безпосередньо, «ці цілі перестають збігатися». Декларація описує проблеми, з якими стикаються математики, як «подібні до проблем, з якими стикаються інші наукові та творчі професії, і вказує на проблеми, з якими може зіткнутися все людство».
Не відмова від ШІ
Примітно, що ця заява не є закликом зупинити розробку ШІ. «ШІ пропонує потенціал покращення та прискорення справжнього вивчення та розуміння математики», — пишуть автори, визнаючи, що «математика як професія потребує адаптації».
Втручання приземляється в заряджений момент. Твердження про те, що системи штучного інтелекту розв’язали або досягли значного прогресу в відомих відкритих проблемах, неодноразово потрапляли в заголовки газет, і на початку цього року окрема суперечка щодо претензії OpenAI, пов’язаної з проблемою Нав’є–Стокса, показала, наскільки суперечливими можуть стати такі оголошення. Декларація лауреатів медалі Філдса є фактично найвищою відповіддю математичної спільноти на цю динаміку: прохання до лабораторій штучного інтелекту припинити розглядати багатовікові відкриті проблеми як записи в таблиці лідерів.
Чи відреагують компанії штучного інтелекту — проконсультуючись з математиками перед оголошеннями, зарахувавши попередню роботу чи переосмисливши контрольні показники — ще невідомо. Уже зрозуміло, що люди, які найкраще знають ці проблеми, вже не спостерігають збоку.
