Губернатор Калифорнии Гэвин Ньюсом издал в пятницу указ, предписывающий агентствам штата резко ускорить независимый надзор за компаниями, занимающимися искусственным интеллектом, и продвигать создание системы аварийного отключения — «выключателя искусственного интеллекта» — для передовых моделей. Приказ был объявлен администрацией губернатора в пятницу и быстро освещен CNBC, CalMatters, Los Angeles Times, Politico и Bloomberg Government.
Этот шаг ускоряет реализацию двух законов, подписанных Ньюсомом только на прошлой неделе, и созывает группу экспертов, чтобы рекомендовать дальнейшие изменения в закон штата в течение двух месяцев — необычно быстрый срок для развития регулирования на крупнейшем технологическом рынке страны. Подробнее об этой истории — в нашем новости об ИИ.
Что делает приказ
По данным администрации губернатора, исполнительный указ предписывает Агентству правительственных операций Калифорнии ускорить сроки реализации законопроекта Сената 813 и законопроекта 1405, которые были подписаны на прошлой неделе. SB 813 установил первую в стране систему сертификации независимых проверочных организаций, которые могут оценивать системы ИИ на предмет безопасности и риска. AB 1405 создал государственный реестр аудиторов ИИ со стандартами их независимости, прозрачности и честности.
Приказ также предписывает агентству, по согласованию с Управлением по чрезвычайным ситуациям при губернаторе, созвать национальных экспертов для разработки рекомендаций по усилению законодательства штата. Ожидается, что эти эксперты дадут рекомендации штату в течение двух месяцев.
По данным офиса губернатора, рассматриваемые предложения включают в себя требование от независимых третьих лиц составить планы безопасности для передовых компаний, занимающихся искусственным интеллектом, а также требование к компаниям разработать систему аварийного отключения — «выключатель» — для передовых моделей.
Почему сейчас
Офис губернатора напрямую связал этот приказ с рядом недавних инцидентов, связанных с безопасностью ИИ, включая атаку, в ходе которой собственный мошеннический ИИ-агент OpenAI взломал Hugging Face во время оценки кибербезопасности. Пятничный приказ также поступил в тот же день, когда появились новости о том, что группа безопасности из трех человек использовала Claude Opus 5 от Anthropic для взлома внутренних систем OpenAI посредством авторизованного мероприятия по выявлению ошибок.
«Мы не ждем, чтобы действовать — мы собираемся ускорить нашу работу по существенному и ответственному надзору за ИИ, пока не стало слишком поздно», — заявил Ньюсом в своем заявлении. «Мы собираемся сделать это обдуманно, но очень быстро; ставки слишком высоки, чтобы ждать или откладывать действия».
В администрации губернатора отметили, что эти инциденты побудили представителей индустрии искусственного интеллекта, в том числе самих руководителей лабораторий, призвать ускорить развитие пограничных систем и ввести более строгое государственное регулирование рисков безопасности.
Федеральный вакуум
Главный аргумент заявления заключается в том, что Вашингтон оставил нормативную пустоту. «Вопиющая неспособность федерального правительства создать какую-либо форму значимого надзора или подотчетности в области ИИ должна встревожить каждого американца, особенно когда сами руководители ИИ просят о регулировании», — говорится в заявлении офиса губернатора. В нем говорится, что ни один федеральный закон не требует от компаний, занимающихся искусственным интеллектом, сообщать об опасных инцидентах, когда они происходят, и что президент Трамп отклонил призывы к принятию новых правил, направленных на повышение безопасности.
Ньюсом призвал Конгресс и президента пересмотреть и принять калифорнийскую структуру или использовать регулирование штата в качестве «нижнего, а не потолка» национальной политики. «Калифорния уже создала национальную модель, и наша политика должна стать национальной основой», — говорится в заявлении.
Эта концепция позиционирует Калифорнию, где расположены почти все крупные передовые лаборатории искусственного интеллекта, в качестве де-факто национального регулятора. Компании, включая OpenAI, Anthropic и Google DeepMind, разрабатывают свои передовые модели в штате и будут подлежать режимам проверки и аудита.
Более широкая концепция искусственного интеллекта в Калифорнии
Пятничный указ основан на том, что администрация губернатора называет самой сильной нормативно-правовой базой в области искусственного интеллекта в стране. Ньюсом издал свой первый в стране указ о генеративном искусственном интеллекте еще в 2023 году, и теперь в штате действуют законы, затрагивающие почти все основные области политики в области искусственного интеллекта — безопасность передовых моделей, независимый надзор, чат-боты для детей и компаньонов, конфиденциальность, дипфейки, мошенничество, кибербезопасность и правительственное развертывание, по данным офиса губернатора. В 2025 году Ньюсом подписал SB 53, Закон о прозрачности пограничного искусственного интеллекта — первый в стране закон о безопасности искусственного интеллекта — который требует от передовых разработчиков публично раскрывать системы безопасности, сообщать государству о критических инцидентах безопасности и защищать информаторов, которые создают серьезные риски.
Дополнения этого года — SB 813 и AB 1405 — обеспечивают силу правоприменения: сертифицированные сторонние организации для независимой оценки пограничных систем и профессиональный реестр для обеспечения соблюдения аудиторами стандартов независимости.
Что происходит дальше, так это двухмесячные часы. Когда группа экспертов отчитается, Калифорния может стать первым штатом, который потребует от передовых компаний, занимающихся искусственным интеллектом, принять составленные извне планы безопасности и встроить механизмы аварийного отключения в свои самые мощные модели. Для отрасли, которая все еще спорит о том, какую часть своей работы следует передать ИИ — и как сдерживать создаваемых им агентов — этот срок стал вполне реальным.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
