Теренс Тао, математик Калифорнийского университета в Лос-Анджелесе и медалист Филдса, которого часто называют одним из лучших ныне живущих математиков, выступил с предупреждением о том, что искусственный интеллект делает с математическими исследованиями: запас хороших открытых задач «добывается невозобновляемым способом», а выявление стоящих проблем, а не их решение, становится самым дефицитным ресурсом в этой области. В понедельник в четырехчастной теме на Mathstodon Тао изложил, почему, по его мнению, эра искусственного интеллекта может подтолкнуть математиков к секретности, обращая вспять столетия открытого научного обмена. Чтобы узнать больше об исследованиях, следите за последними освещениями об исследованиях ИИ на нашей домашней странице.

Океан проблем, нехватка питьевой воды

Аргументация Тао начинается с парадокса. Множество возможных математических задач бесконечно, поэтому дефицит звучит абсурдно. Но дело не в количестве, а в качестве. Тао отметил, что любой может создавать бесконечные открытые задачи, например, вычисление 10^10^10-й цифры числа Пи. Подавляющее большинство бесполезны: они «не проявляют особой склонности раскрывать какие-либо дальнейшие идеи или связи с другими вопросами».

«Страна или регион могут страдать от критической нехватки питьевой воды, находясь в то же время в окружении огромного океана», — написал он.

Решение о том, какие проблемы заслуживают внимания, утверждал он, является «длительным, целенаправленным и субъективным процессом», основанным на историческом опыте и том, что на самом деле привело к более ранним работам по аналогичным проблемам. Центральное место в этом суждении занимает то, что Дао называет «ландшафтом трудностей» — знание того, на какие вопросы современные методы могут ответить легко, какие требуют реальных усилий, а какие невозможны, потому что интересные проблемы, как правило, живут на границах.

ИИ выравнивает ландшафт трудностей

Этот ландшафт — именно то, что стирает ИИ. Инструменты искусственного интеллекта «сгладили картину трудностей во многих областях предмета», писал Тао, «тем самым уничтожив способность находить новые многообещающие проблемы в этой области». Хуже того, не существует стабильной границы, на которой заканчивается компетентность ИИ: технологии меняются слишком быстро, и — в резком выпаде — Тао обвинил в неясности границы отчасти «отказ компаний, занимающихся ИИ, раскрывать свои отрицательные результаты или раскрывать процесс получения своих решений».

Результатом, по словам Тао, является расовая динамика, свидетелем которой он стал непосредственно: «даже слухи о том, что кто-то работает над проблемой, могут спровоцировать огромное количество усилий с помощью искусственного интеллекта, чтобы сгладить ее до того, как первоначальный исследовательский проект успеет полностью раскрыть свой потенциал».

Проблема стимулирования открытой науки

Именно здесь предупреждение становится структурным. Если объявление о направлении исследований приглашает рой ИИ его разоблачить, математики могут просто перестать что-либо объявлять. «Теперь стимулы могут указывать на то, что мы больше не будем делиться какими-либо перспективными направлениями исследований с более широким сообществом», — написал Тао — результат, который, как он отметил, изменит многовековую традицию, в которой математика развивалась посредством открытого обмена проблемами в журналах, семинарах и серверах препринтов.

Неизбирательное использование ИИ, утверждал он, приносит краткосрочные победы за долгосрочную цену: оно решает «наличные проблемы, но за счет поддержания экосистемы для следующей волны прогресса или понимания уже достигнутого прогресса».

Предложение Дао: обозначить проблемы, которые стоит тщательно решить

Тао не предлагает запретить ИИ в математике — он признает, что это, вероятно, неосуществимо. Вместо этого он предлагает сообществам обозначить классы проблем, для которых важен сам процесс решения, чтобы необработанный ответ без анализа используемых методов и без того, что он раскрывает о близлежащих проблемах, рассматривался как «имеющий незначительную или даже отрицательную ценность».

Его аналогия — современные продовольственные банки, которые больше не принимают произвольные пожертвования только потому, что они технически съедобны, а вместо этого поддерживают четкие стандарты того, какие взносы действительно полезны.

В ответ на комментарий Тао добавил связанное с этим наблюдение: традиционные автоматизированные средства доказательства теорем «не очень хороши в доказательстве теорем», вместо этого в этой области доминирует то, что он назвал «автоматическими средствами проверки теорем» — разница с LLM заключается «в основном в их эффективности».

Насыщенная неделя ИИ и математики

Нить приземляется в напряженный момент. Это произошло через несколько дней после того, как OpenAI объявила, что внутренняя модель предоставила проверенное Lean доказательство того, что жидкости Навье-Стокса могут взрываться за конечное время — заявленная веха на пути к задаче Премии тысячелетия, которая, по словам математиков Нью-Йоркского университета, чья работа легла в основу этой работы, развернулась без должного признания. Этот спор освещался в журнале Science и на AI Buzz Wire. Тао весь год внимательно вел летопись этого перехода, опубликовав широко читаемое эссе по математике в эпоху искусственного интеллекта.

Его новый пост обостряет этот аргумент с новой точки зрения: риск заключается не в том, что ИИ решает все, а в том, что он поглощает, незаработанный и непроанализированный, конечный каталог проблем, которые стоит решить, оставляя следующее поколение математиков с океаном бесполезных вещей.

---

Будьте впереди ИИ

Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.

Подробнее новости AI →