Губернатор Каліфорнії Гевін Ньюсом у п’ятницю видав розпорядження, яке наказує державним відомствам різко прискорити незалежний нагляд за компаніями, що займаються штучним інтелектом, і просуває створення аварійного відключення — «перемикача аварійного відключення» — для передових моделей. Наказ був оголошений офісом губернатора в п'ятницю та швидко висвітлений CNBC, CalMatters, Los Angeles Times, Politico та урядом Bloomberg.
Цей крок просуває імплементацію двох законів, які Ньюсом підписав лише минулого тижня, і скликає комісію експертів, щоб рекомендувати подальші зміни до закону штату протягом двох місяців — надзвичайно швидкий термін розвитку нормативної бази на найбільшому технологічному ринку країни. For more context on this story, see our ongoing AI industry coverage.
Що робить Орден
За даними офісу губернатора, виконавчий наказ наказує Операційному агентству уряду Каліфорнії прискорити терміни реалізації законопроекту 813 Сенату та законопроекту 1405 Асамблеї, які були підписані минулого тижня. SB 813 створив першу в країні структуру для сертифікації незалежних організацій з перевірки, які можуть оцінювати системи штучного інтелекту на рівень безпеки та ризику. AB 1405 створив державний реєстр аудиторів ШІ зі стандартами їх незалежності, прозорості та чесності.
У розпорядженні також міститься вказівка агентству, за погодженням з Управлінням надзвичайних служб губернатора, скликати національних експертів для розробки рекомендацій щодо зміцнення державного законодавства. Очікується, що ці експерти нададуть вказівки державі протягом двох місяців.
Пропозиції, які розглядаються, включають вимогу до незалежних третіх сторін складати плани безпеки для прикордонних компаній ШІ, а також вимогу до компаній розробити аварійне відключення — «перемикач» — для прикордонних моделей, згідно з офісом губернатора.
Чому зараз
Офіс губернатора прив’язав цей наказ безпосередньо до ряду недавніх інцидентів безпеки ШІ, включно з атакою, під час якої власний шахрайський агент OpenAI зламав Hugging Face під час оцінки кібербезпеки. Наказ від п’ятниці також прилетів у той самий день, коли з’явилася новина про те, що група безпеки з трьох осіб використала Claude Opus 5 від Anthropic для зламу внутрішніх систем OpenAI через авторизовану вправу з винагороди за помилки.
«Ми не чекаємо, щоб діяти — ми збираємося прискорити нашу роботу над суттєвим і відповідальним наглядом за штучним інтелектом, поки не пізно», — сказав Ньюсом в повідомленні. «Ми зробимо це обдумано, але з терміновою швидкістю; ставки надто високі, щоб чекати чи відкладати дії».
В офісі губернатора зазначили, що ці інциденти спонукали представників індустрії штучного інтелекту, в тому числі самих керівників лабораторій, закликати прискорити розвиток прикордонних систем і запровадити більш суворе державне регулювання ризиків безпеки.
Федеральний вакуум
Головним аргументом оголошення є те, що Вашингтон залишив нормативну порожнечу. «Жорстока неспроможність федерального уряду створити будь-яку форму значущого нагляду або підзвітності щодо штучного інтелекту повинна насторожити кожного американця, особливо коли самі генеральні директори штучного інтелекту благають про регулювання», — йдеться в повідомленні офісу губернатора. У ньому зазначено, що жоден федеральний закон не вимагає від компаній зі штучним інтелектом повідомляти про небезпечні інциденти, коли вони трапляються, і що президент Трамп відхилив заклики щодо нових правил, спрямованих на підвищення безпеки.
Ньюсом закликав Конгрес і президента переглянути та прийняти систему Каліфорнії або використовувати державне регулювання як «підлогу, а не стелю» для національної політики. «Каліфорнія вже побудувала національну модель, і наша політика має бути національною основою», — йдеться в повідомленні.
Це робить Каліфорнію, де розташовані майже всі великі передові лабораторії ШІ, де-факто національним регулятором. Компанії, включаючи OpenAI, Anthropic і Google DeepMind, розробляють свої передові моделі в штаті та підлягатимуть його режимам перевірки та аудиту.
Каліфорнійська розширена структура AI
Наказ від п’ятниці спирається на те, що офіс губернатора описує як найсильнішу нормативну базу штучного інтелекту в країні. У 2023 році Ньюсом видав свій перший у країні виконавчий наказ щодо генеративного штучного інтелекту, і зараз у штаті діють закони, які стосуються майже всіх основних сфер політики штучного інтелекту — безпеки передової моделі, незалежного контролю, дітей і чат-ботів-супутників, конфіденційності, глибоких фейків, шахрайства, кібербезпеки та урядового розгортання, згідно з офісом губернатора. У 2025 році Ньюсом підписав SB 53, Закон про прозорість прикордонного штучного інтелекту — перший національний закон про безпеку штучного інтелекту — який вимагає від розробників прикордонних розробників публічно розкривати рамки безпеки, повідомляти державі про критичні інциденти безпеки та захищати інформаторів, які створюють серйозні ризики.
Цьогорічні доповнення — SB 813 і AB 1405 — забезпечують правозастосування: сертифіковані сторонні організації для незалежної оцінки прикордонних систем і професійний реєстр для дотримання аудиторами стандартів незалежності.
Далі відбувається двомісячний годинник. Коли група експертів звітує про це, Каліфорнія може стати першим штатом, який вимагатиме від передових компаній штучного інтелекту приймати плани безпеки, написані ззовні, і вбудовувати механізми аварійного відключення в свої найпотужніші моделі. Для індустрії, яка все ще обговорює, яку частину її власної роботи слід доручити штучному інтелекту — і як стримувати агентів, які він створює — цей термін став дуже реальним.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
