Группа из 25 медалистов Филдса — каждый из которых первым подписался на высшую награду в области математики — опубликовала официальную декларацию, предупреждающую, что гонка за демонстрацию искусственного интеллекта на математических тестах наносит ущерб как математической науке, так и сообществу, которое ее поддерживает. Заявление под названием «Серьезное несоответствие ИИ в математике» было опубликовано в пятницу, и среди первых его подписантов оказался Теренс Тао, один из самых влиятельных математиков своего поколения.
Декларация опубликована на сайте mathandai.org, и в течение дня она собрала более 1300 дополнительных сторонников из университетов и исследовательских институтов по всему миру, согласно публичному списку подписавшихся на сайте. Тао подтвердил свое участие в сообщении в своем личном блоге, написав, что он «горд быть в списке из 25 первых подписавшихся - все медалисты Филдса». Для тех, кто отслеживает [последние разработки в области ИИ] (https://aibuzzwire.news), это вмешательство представляет собой одну из самых резких критических замечаний со стороны элитных математиков по поводу того, как лаборатории ИИ измеряют и публикуют возможности своих моделей. Это доминировало в дискуссии на Hacker News в пятницу, собрав сотни комментариев.
Что говорит Декларация
Подписавшие стороны не оспаривают тот факт, что системы искусственного интеллекта стали чрезвычайно функциональными. «За последние несколько месяцев математические возможности LLM значительно улучшились до такой степени, что они могут решать серьезные нерешенные проблемы во многих областях математики», — говорится в декларации. Возражение заключается в том, что произойдет дальше: компании, занимающиеся искусственным интеллектом, используют эти решения в качестве конкурентоспособных эталонов, что, по мнению авторов, «наносит ущерб математической науке и математическому сообществу».
Основное утверждение сурово: «Цели компаний, занимающихся искусственным интеллектом, и цели математического сообщества сильно не совпадают».
В декларации утверждается, что решение известных проблем традиционно служило признаком нового понимания — началом длительного общего процесса переговоров, дискуссий, упрощений и, в конечном итоге, написания учебников — а не самоцелью. «Решение проблем — это всего лишь инструмент и средство достижения основной цели концептуального понимания и понимания», — пишут авторы. «Забыв об этом в мире ИИ, можно повернуть инструмент против основной цели».
Самая цитируемая фраза отражает беспокойство: «Массовое производство все более и более ускоряющихся утверждений типа «правда/ложь» может разрушить плодородную почву вместо того, чтобы вдохнуть жизнь в новые идеи».
Атрибуция, плагиат и поспешные объявления
Подписавшиеся стороны также выдвинули жалобы практического характера. «Часто эти решения объявляются в спешке, не оставляя времени для надлежащего описания, выделения новых методов и идей и цитирования соответствующих предыдущих работ других», — говорится в декларации. «Как и во всех творческих профессиях, здесь возникают серьезные вопросы об атрибуции и плагиате».
Авторы предупреждают об эффекте второго порядка: без «добровольных математиков, которые должны позаботиться об их развитии и интеграции в математический канон», идеи, задуманные ИИ, никогда не станут полностью развитыми, и «важнейшая человеческая цепочка передачи между математиками будет потеряна».
Необычная демонстрация срочности
Сам процесс был необычным. Тао признал в своем блоге, что заявление возникло в результате дискуссий между подписавшими его сторонами «на прошлой неделе», и извинился за то, что не провел более консультативный процесс. «Мы решили, что срочность ситуации настолько велика, что нам необходимо опубликовать заявление как можно скорее», — написал он.
Декларация соответствует модели предыдущей Лейденской декларации, и организаторы открыто приглашают к подписанию новых подписей. Тао также указал читателям на недавнее освещение этого заявления в The Economist. Все первые 25 подписавших были медалистами Филдса, что было преднамеренным сигналом: самые титулованные исследователи в области математики говорили в один голос. В более широкий список поддержки уже входят математики из MIT, ETH Zurich, Института Макса Планка, Northwestern, Нью-Йоркского университета и десятков других учреждений.
Предупреждение за пределами математики
Хотя это утверждение основано на математике, авторы рассматривают его как шаблон для гораздо более широкой проблемы. «Мы наблюдаем общую угрозу интеллектуальной деятельности, связанную с несоответствием между результатом использования ИИ и его первоначальной целью», — говорится в декларации.
Этот аргумент найдет отклик далеко за пределами математических факультетов. Авторы отмечают, что во многих профессиях годы обучения традиционно служили не только для получения окончательных ответов, но и для развития понимания и способности формулировать новые вопросы. Поскольку системы искусственного интеллекта становятся способными напрямую производить результаты такой работы, «эти цели перестают совпадать». В декларации проблемы, с которыми сталкиваются математики, описываются как «похожие на проблемы, с которыми сталкиваются другие научные и творческие профессии, и указывают на проблемы, с которыми может столкнуться все человечество».
Не отказ от ИИ
Примечательно, что это заявление не является призывом остановить развитие ИИ. «ИИ предлагает потенциал для улучшения и ускорения подлинного математического изучения и понимания», — пишут авторы, признавая при этом, что «математике как профессии придется адаптироваться».
Вмешательство происходит в напряженный момент. Утверждения о том, что системы ИИ решили или добились значительного прогресса в решении известных открытых проблем, неоднократно попадали в заголовки газет, а в начале этого года отдельный спор по поводу заявления OpenAI, связанного с проблемой Навье-Стокса, показал, насколько спорными могут стать такие заявления. Заявление Филдсовских медалистов, по сути, является самой высокопоставленной реакцией математического сообщества на эту динамику: требованием к лабораториям искусственного интеллекта прекратить рассматривать многовековые открытые проблемы как записи в таблице лидеров.
Еще неизвестно, отреагируют ли компании, занимающиеся искусственным интеллектом, — консультируясь с математиками перед объявлениями, отдавая должное предыдущим работам или переосмысливая контрольные показатели. Уже сейчас ясно, что люди, которые лучше всех знают эти проблемы, больше не наблюдают за ними со стороны.
