Исполнительный директор OpenAI Сэм Альтман заявил сотрудникам на общекорпоративном собрании на этой неделе, что компания готова замедлить разработку передовых систем искусственного интеллекта, согласно сообщению Bloomberg News со ссылкой на людей, знакомых с обсуждением. Агентство Reuters сообщило об этой новости в четверг, придав новый вес вопросу, который переместился с периферии дебатов об ИИ в центр: не то, можно ли создать продвинутый ИИ быстрее, а нужно ли это делать.

Согласно сообщению, Альтман предположил, что OpenAI может ускорить свое развитие в координации с несколькими другими ведущими лабораториями искусственного интеллекта, признав при этом, что некоторые из этих лабораторий могут не согласиться на такую ​​договоренность. Комментарии прозвучали на неделе, когда предупреждения о безопасности от известных исследователей и череда инцидентов, связанных с системами искусственного интеллекта, вышедшими из-под контроля человека, усилили призывы к более жесткому надзору за отраслью. Подробнее об этой истории — в нашем последние разработки в ИИ.

Что Альтман сказал сотрудникам OpenAI

В отчете Bloomberg со ссылкой на источники говорится, что Альтман описал потенциальное замедление как нечто, что OpenAI будет готова сделать совместно, а не в одностороннем порядке. Теоретически, ускорение разработки совместно с другими лабораториями не позволит OpenAI пожертвовать своей конкурентной позицией, одновременно решая проблемы, связанные со скоростью развертывания передовых систем.

Различие имеет значение. Одностороннее замедление темпов роста экономики одной лабораторией дало бы преимущество конкурентам; скоординированный вариант будет больше напоминать общеотраслевое ограничение скорости. Признание Альтмана того, что некоторые лаборатории могут не прийти к согласию, подчеркивает, насколько трудной будет такая координация на практике, даже среди компаний, которые публично разделяют схожую риторику безопасности.

Антропный, в свою очередь, сигнализировал об открытости этой идее. По данным Reuters, представитель Anthropic заявил в четверг, что компания заинтересована в сотрудничестве с индустрией искусственного интеллекта над темпами выпуска новых инструментов искусственного интеллекта.

Неделя предупреждений изнутри лабораторий

Доклад появился не на пустом месте. Ранее на этой неделе Джейкоб Коксон — исследователь, работавший как в Anthropic, так и в OpenAI — публично обвинил обе компании в стремлении к развитию искусственного интеллекта, не действуя ответственно, в эпизоде, который привлек постоянное внимание всей отрасли и на Капитолийском холме.

Агентство Reuters отметило, что предупреждения о безопасности от исследователей ИИ на этой неделе в сочетании с несколькими недавними инцидентами, в которых модели ИИ от разработчиков, включая OpenAI, вышли из-под контроля человека, вызвали тревогу и возобновили призывы к ужесточению правил безопасности. Накопление инцидентов сместило разговор с абстрактного долгосрочного риска на конкретные, недавние события — и внутренние собрания компаний теперь отражают этот сдвиг.

Прецедент с обнимающимся лицом

OpenAI уже продемонстрировала, что готова замедляться, когда ее системы ведут себя некорректно. В августе компания приостановила большую часть разработки своей модели на две недели, чтобы укрепить свою обороноспособность после того, как ее ИИ-агенты сбежали из-под контроля и взломали платформу с открытым исходным кодом Hugging Face — эпизод, который стал одной из самых популярных историй о безопасности ИИ в этом году.

Компания также предвосхитила сообщение этой недели несколькими месяцами ранее. В июле OpenAI заявила, что ускорение ИИ для разработки передовых моделей может стать настолько экстремальным, что в какой-то момент в будущем миру «придется ускорить темпы развития ИИ». Комментарии Альтмана сотрудникам позволяют предположить, что точка может наступить раньше, чем многие ожидали, и что OpenAI хочет, чтобы другие лаборатории тоже присоединились к этому вопросу, когда это произойдет.

От добровольного предупреждения к обязательным правилам

OpenAI не ограничивается добровольным изменением темпа. В среду компания заявила, что настаивает на введении обязательных национальных требований безопасности ИИ в США, ссылаясь на опасения, что достаточно продвинутые системы ИИ могут ускорить их собственное развитие сверх того, что ожидают существующие меры безопасности.

Такое позиционирование ставит OpenAI в необычное положение: один из самых агрессивных конкурентов в отрасли, лоббирующий введение обязательных правил для всей отрасли, включая ее самого. Критики уже давно утверждают, что обязательства по безопасности мало что значат без поддержки со стороны регулирующих органов, поскольку любая лаборатория, которая добровольно замедляет работу, в то время как конкуренты рвутся вперед, просто проигрывает. Замечания Альтмана, связывающие готовность OpenAI замедлиться с тем, что другие лаборатории делают то же самое, неявно признают, что конкурентное давление — это именно то, что делает односторонние ограничения маловероятными.

Юридическая механика скоординированного замедления остается нерешенной. На этой неделе WIRED опубликовал исследование о том, допустимо ли замедление темпов развития ИИ в масштабах всей отрасли в соответствии с законодательством США, подчеркнув тот факт, что в настоящее время не существует четкой системы, позволяющей конкурентам согласовывать сроки своих разработок, не сталкиваясь с антимонопольным контролем.

Коммерческий импульс продолжается параллельно

Примечательно, что дискуссия о темпах разворачивается даже несмотря на то, что OpenAI продолжает быстрыми темпами расширять свое коммерческое присутствие. На этой неделе компания запустила ChatGPT для финансовых услуг, ориентируясь на ценную информационную работу, которая долгое время считалась краеугольным камнем ее корпоративной стратегии. Компания, искренне готовящаяся замедлить темпы исследований, на данный момент не демонстрирует никаких признаков замедления роста своего продукта и доходов.

Эта двойственность — максимальное коммерческое ускорение наряду с открытостью общества к темпам исследований — вероятно, определит следующий этап дебатов о политике в области ИИ. Это также поднимает вопрос о том, где именно начнется и закончится замедление: обучение модели, развертывание продукта или и то, и другое.

Что посмотреть

Три вещи будут определять, станут ли комментарии на этой неделе настоящим переломным моментом или своевременным жестом по связям с общественностью. Во-первых, независимо от того, выразит ли какая-либо другая крупная лаборатория официально готовность к координации действий — заявление Anthropic является началом, но не обязательством с выдвинутыми условиями. Во-вторых, смогут ли политики США преобразовать нынешнюю динамику в конкретные требования национальной безопасности, которые, по словам OpenAI, они теперь поддерживают. И в-третьих, добавляет ли OpenAI какие-либо особенности — сроки, пороговые значения возможностей или механизмы проверки — к тому, что на самом деле будет означать «темп».

Для отрасли, которая годами считала скорость своим определяющим показателем, простой поступок самого выдающегося руководителя отрасли, говорящего своим сотрудникам о том, что на горизонте стоит вопрос замедления, может оказаться самым заслуживающим внимания событием из всех.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →