OpenAI объявила в понедельник о создании новой независимой консультативной группы по математике и искусственному интеллекту, расположенной в Институте перспективных исследований (IAS) в Принстоне, штат Нью-Джерси, и сообщила, что та же самая внутренняя модель, лежащая в основе ее оспариваемого результата Навье-Стокса, по ее собственным подсчетам, решила более 100 дополнительных открытых задач в большинстве областей математики.

Целью группы является предоставление математикам официального канала для участия в математических исследованиях компании в тот момент, когда исследовательское сообщество открыто разочаровано тем, как публикуются эти результаты. «Эта группа послужит мостом для математического сообщества и широкой общественности, давая математикам возможность высказать свое мнение о том, как мы двигаемся вперед», — говорится в заявлении OpenAI, цитируемом TechCrunch. Подробнее об этой истории — в нашем больше статей об ИИ.

Ответ на ответную реакцию Навье-Стокса

Создание консультативной группы последовало за внезапной публикацией заявленного решения проблемы Премии тысячелетия Навье-Стокса, результат, который ошеломил математиков как своими амбициями, так и темпами его публикации. На практике новая группа OpenAI будет в основном выполнять консультативную роль: оценивать значимость новых результатов и координировать их публикацию, чтобы предполагаемые прорывы появлялись на основе контекста и экспертной проверки, а не в виде неожиданных объявлений.

Проверка не утихла. В понедельник журнал Scientific American опубликовал статью с вопросом: «Решил ли OpenAI неправильную задачу Навье-Стокса?» — отражение того, насколько неопределённо это утверждение до сих пор окружает даже среди научных журналистов, внимательно следящих за ним.

Многие выдающиеся математики не согласились с бешеной скоростью недавних заявлений в более широком смысле. Ранее в этом месяце 25 математиков, удостоенных медали Филдса, подписали открытое письмо, в котором утверждалось, что лаборатории искусственного интеллекта угрожают интеллектуальной работе математиков, поскольку они соревнуются друг с другом в решении известных задач. Беспокойство не в том, что проблемы будут решены, а в том, что многовековая культура тщательных и проверенных публикаций продвигается вперед лабораториями, гоняющимися за заголовками.

Консультативная сила — с жесткими ограничениями

Структура группы пытается сбалансировать независимость с явным намерением OpenAI сохранить контроль над своей исследовательской программой. Членам не будут платить. Они могут давать нежелательные советы, публично высказывать свои взгляды и контролировать свое членство — положения, которые дают организации определенную независимость от компании, которая ее создала.

Но у группы нет сил что-либо замедлить. Как говорится в сообщении OpenAI, «группа не будет нести ответственность за рекомендации нам по поводу того, как ускорить наш внутренний прогресс в математике».

Институт перспективных исследований подчеркнул ту же точку зрения в своем заявлении. «Хотя мы будем давать советы, у нас нет полномочий принимать решения ни в одной компании, занимающейся искусственным интеллектом, и ответственность за решения, принимаемые любой компанией, будет лежать на этой компании», — говорится в заявлении института.

Такое разделение труда — советы без полномочий — является компромиссом, который сделал партнерство возможным. IAS получает место за столом математики; OpenAI держит руль.

Девять участников, мало общего с критиками

Девять выдающихся математиков были названы первыми членами группы. Примечательно, что только один из них — Камилло Де Леллис из IAS — также подписал письмо медалистов Филдса ранее в этом месяце, что является признаком того, что OpenAI не просто привлекла в комнату своих самых громких критиков.

Имеет ли это значение, зависит от того, что группа делает со своей платформой. Ее члены могут публично не соглашаться с компанией, и дизайн их к этому призывает. Консультативный орган, который никогда не выражает несогласия, быстро решит вопрос о его ценности.

Почему это важно

Это заявление является последней горячей точкой в дебатах о том, как лаборатории искусственного интеллекта должны обрабатывать научные заявления, сгенерированные машинами. Модель, претендующая на решение проблемы Премии тысячелетия, является экстраординарным утверждением, и основная претензия математического сообщества носит процедурный характер: результаты такого масштаба заслуживают проверки и взвешенного выпуска, а не объявлений в прессе.

Проверка является настоящим узким местом. Доказательство, на создание которого уходят модельные дни, может занять у экспертов-людей месяцы на проверку, а в математике нет инфраструктуры рецензирования, предназначенной для такой асимметрии. Именно для решения этой проблемы и предназначен мандат группы – оценка значимости и координация освобождения – по крайней мере, в принципе.

Шаг OpenAI признает эту критику, но не дает возможности уступить контроль. Группа может обеспечить легитимность, координировать способы представления результатов и предоставить посторонним публичную платформу, но компания сохраняет за собой полный контроль над тем, что преследуют ее модели и насколько быстро. Заявление о более чем 100 решенных проблемах теперь закреплено за организацией, которая может определять то, как о ней объявляют, а не то, будет ли она сделана.

Отнесутся ли математики к консультативной группе как к значимой проверке или как к фиговому листку, будет зависеть от того, что произойдет дальше: появится ли следующее важное утверждение с одобрения группы и, что более важно, с доказательствами, которые сообщество действительно сможет проверить.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →