Математик Фрэнк Калегари опубликовал резкую оценку того, что искусственный интеллект сделал с его областью, утверждая во влиятельном блоге Теренса Тао, что публикация OpenAI более 700 исследовательских работ 6 октября стала «водоразделом в истории математики». Пост под заголовком «Математика изменилась. Давайте действовать соответственно» появился в субботу и быстро достиг первой страницы Hacker News, где собрал сотни комментариев. Основная идея эссе представляет собой вызов как для математиков, так и для компаний, занимающихся искусственным интеллектом. Постоянное освещение этого конфликта можно найти в наших новостях исследования искусственного интеллекта.
«Теперь ИИ, несомненно, способен внести новаторский вклад во многие области математики», — пишет Калегари. «Так почему же некоторые математики так недовольны?» Его ответ не такой, как можно было бы ожидать от одного из самых выдающихся скептиков в области исследований, создаваемых ИИ.
Грубый вердикт по самим документам
Критика Калегари релиза OpenAI язвительна по вопросам ремесла и общественных норм. Документы, пишет он, «ужасно написаны и нарушают ожидания нашего сообщества относительно авторства. Некоторые из них даже ошибочны». Жалоба не в том, что ИИ не может заниматься математикой (он признает, что может), а в том, что он занимается математикой, не соблюдая стандарты, которые делают математическую литературу полезной.
Его средство чрезвычайно практично. Математики «имеют гораздо больше контроля над тем, как мы нанимаем математиков, публикуем статьи и обучаем студентов, чем над поведением компаний с оборотом в триллион долларов», утверждает он, и именно туда должна быть направлена энергия этой области.
«Утверждается, что все доказано»
Самый поразительный отрывок в эссе — личный. Калегари отмечает, что ни одна из основных открытых проблем, о которых он публично упоминал на протяжении всей своей карьеры — в беседах, лекциях, статьях или заявках на гранты — «не осталась незатронутой этим заявлением. Было заявлено, что все доказано».
«Я ожидал увидеть в списке некоторых из них», — пишет он. — Но не все. Не все сразу. Не с такой беспечностью. Для работающего математика опыт наблюдения за тем, как каждая проблема, которую вы затронули, попадает в цикл корпоративной прессы, дезориентирует так, как не дезориентируют абстрактные аргументы о рисках ИИ.
Таблица Менделеева — это не химия
Калегари решительно отвергает идею о том, что претензии на знаменитые достопримечательности поля означают, что с полем покончено. Он отмечает, что статьи OpenAI «почти не повлияли» на общие проблемы функториальности и взаимности в программе Ленглендса — одной из самых глубоких структур в современной теории чисел.
Но даже если бы выпуск решил все проблемы программы Ленглендса, пишет он, представлять, что это «решило бы теорию чисел», было бы «так же наивно, как утверждать, что построение таблицы Менделеева решило химию». Это аргумент, который математики должны донести до общественности, полагает он: центральные проблемы — это всего лишь наиболее видимые вершины, а горный хребет простирается далеко за их пределы.
Предупреждение из истории теории групп
Историческим якорем эссе является классификация конечных простых групп — сага, которую Калегари знает изнутри. В 1972 году Дэниел Горенштейн объявил о программе классификации. Примерно через десять лет лихорадочной деятельности классификация была объявлена завершенной в 1983 году — как оказалось, преждевременно, поскольку исследование квазитоновых групп не было завершено до тех пор, пока Ашбахер и Смит не завершили его примерно два десятилетия спустя.
Классификация имела «во многих отношениях огромный успех», пишет Калегари, «но она была также и провалом» — объявление о том, что знаменитая проблема решена, охладило интерес к этому предмету, и математики переключили свое внимание на что-то другое. Тем не менее, остались важные вопросы, в том числе то, что он называет фаворитом Джона Конвея: почему существует группа Monster? По мнению Калегари, в некоторых областях дампы OpenAI могут восприниматься точно так же, как классификация воспринималась теоретиками групп.
Чего Калегари хочет от математиков
Эссе завершается программой, а не плачем. В этой области необходимы такие усилия, как пересмотренная трактовка классификации Горенштейна-Лайонса-Соломона — терпеливая, многотомная работа, направленная на то, чтобы сделать заявленный результат действительно надежным. И ей необходимо воздерживаться от объявления предмета «завершенным», потому что с появлением новых инструментов математика «созрела для дальнейших исследований».
Он утверждает, что старые пути, пропущенные тем, что Калегари называет «галактическим обходом» доказательств с помощью ИИ, все еще существуют, и математикам следует их искать — и, что особенно важно, «мы должны вознаграждать такое поведение, когда дело доходит до предложения людям работы». В эссе есть сноска Тао, в которой отмечается, что пост изначально был написан в другом формате и преобразован с использованием ИИ. Небольшая ирония, которая подчеркивает, насколько глубоко инструменты проникли в повседневную работу в этой области.
Часть гораздо большей расплаты
Эссе появилось в год обострения трений между математиками и лабораториями искусственного интеллекта. AI Buzz Wire ранее сообщал о математиках, требующих доказательств того, что модели OpenAI не были обучены в ходе частных дискуссий, о 25 медалистах Филдса, включая Теренса Тао, заявляющих о «серьезном несоответствии» между ИИ и математикой, об опасениях Института перспективных исследований по поводу 377 математических результатов, полученных с помощью ИИ, а также о собственных предупреждениях Тао о том, что ИИ невозобновляемо добывает мировой запас хороших открытых задач.
Что делает новое эссе примечательным, так это изменение позиции. Доминирующей нотой в предыдущих ответах была тревога; Калегари - это адаптация. Технология, по его словам, не исчезнет, чрезвычайные претензии не исчезнут, и единственная переменная, которую контролирует поле, — это его собственная реакция — как оно публикует, как обучает и кого нанимает.
---
Будьте впереди ИИПолучайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
