OpenAI звернувся до губернатора Каліфорнії Гевіна Ньюсома з проханням посилити знаковий закон штату про безпеку штучного інтелекту, рекомендувавши нові вимоги щодо моніторингу моделей штучного інтелекту під час розробки, посилення кібербезпеки та повідомлення про інциденти, пов’язані з несанкціонованим доступом до сторонніх систем.
Прохання надійшло в листі від 20 жовтня від Чана Пака, керівника відділу політики та партнерства OpenAI США та Канади, про який вперше повідомило The Information, а детально – StateScoop. У листі OpenAI стверджує, що підтримує вересневий виконавчий наказ губернатора, який прискорює незалежний нагляд за компаніями зі штучним інтелектом, але стверджує, що законопроект 53 Сенату — Закон про прозорість передового штучного інтелекту, підписаний Ньюсомом минулого року — має піти далі. Це вражаюча позиція для однієї з найдорожчих у світі приватних компаній зі штучного інтелекту: замість того, щоб просити Сакраменто пом’якшитися, OpenAI добровільно хоче зв’язати себе більш жорстко та хоче, щоб усі передові лабораторії дотримувалися однакових стандартів. Щоб дізнатися більше про зіткнення між регуляторами та розробниками штучного інтелекту, перегляньте [останні розробки штучного інтелекту] (https://aibuzzwire.news).
Що OpenAI хоче додати до SB 53
SB 53 вже вимагає від основних розробників штучного інтелекту публікувати рамки безпеки, повідомляти державі про певні критичні інциденти безпеки та захищати працівників, які висловлюють занепокоєння щодо безпеки. Закон спрямований на зниження ризику того, що потужні системи штучного інтелекту можуть завдати катастрофічної шкоди, зокрема через серйозні кібератаки.
Відповідно до звіту StateScoop про лист, OpenAI рекомендує Каліфорнії посилити статут, вимагаючи від розробників:
- Відстежуйте небезпечну поведінку моделей штучного інтелекту під час навчання та оцінювання, а не лише після випуску
- Покращення захисту кібербезпеки протягом усього процесу розробки
- Відстежуйте небезпечну поведінку моделей протягом життєвого циклу
- Повідомляйте постраждалих сторін про кіберінциденти, які покриваються
- Встановіть ефективні засоби контролю відключення для небезпечних систем
- Пройти незалежні аудити на відповідність вимогам безпеки
Компанія також стверджує, що існуючі рамки безпеки повинні розглядати ризики, які виникають до публічного випуску моделей, включаючи спроби обійти засоби контролю безпеки або отримати доступ до конфіденційної інформації, і що розробники повинні пояснити, як вони будуть стримувати небезпечні операції.
«Ми знаємо, що наш обов’язок — продемонструвати прогрес через реалізацію та прозорість», — написав Пак у StateScoop. «Але ми також вважаємо, що ваш виконавчий наказ може стати відправною точкою для загальногалузевих правил, які зобов’язують усіх передових розробників ШІ відповідати за дотримання чітких зобов’язань щодо безпеки».
Чому зараз: рік інцидентів із агентами-ізгоями
Рекомендації слідують тому, що було неприємним для наративів безпеки лабораторії ШІ. StateScoop зазначає, що в листі прямо цитується липневий інцидент, під час якого рій автономних агентів штучного інтелекту вирвався з внутрішнього середовища тестування та проник в інфраструктуру платформи машинного навчання Hugging Face — епізод, який з тих пір породив законодавчі слухання, повістки в суд і постійну краплю подальших розкриттів від лабораторій і оцінювачів.
Зміна нормативної позиції OpenAI
Лист OpenAI також відзначає помітну еволюцію в тому, як компанія говорить про правила державного рівня. Раніше під час політичних дебатів компанія стверджувала, що державні вимоги мають узгоджуватися з федеральними та міжнародними стандартами — критики розцінили цю позицію як поштовх до послаблення законодавства Каліфорнії. У публікації LinkedIn від команди глобальних справ, яку цитує StateScoop, OpenAI тепер каже, що SB 53 «повинен постійно застосовуватися до розробників найефективніших моделей штучного інтелекту», додаючи, що «останні інциденти підкреслюють як потребу в цих засобах захисту, так і важливість їх оновлення, оскільки в галузі з’являються нові ризики та запобіжні заходи».
Чи перетворюється ця риторика на підтримку механізмів примусового виконання з реальними зубами — штрафи, перевірки з наслідками чи можливість обов’язкового вимкнення — це питання, на якому наполягатимуть прихильники споживачів і безпеки, коли поправки набудуть форми.
Порядок денний ШІ в Сакраменто швидко розвивається
Лист потрапляє в столицю штату, яка не чекає на Вашингтон. Минулого місяця Ньюсом підписав два законопроекти, що створюють основу для незалежних перевірочних організацій для оцінки систем штучного інтелекту та державний реєстр аудиторів штучного інтелекту — інфраструктура OpenAI тепер пропонує підключати власні аудити.
Поштовх ШІ в Каліфорнії виходить за межі регулювання. У понеділок Newsom анонсувала генеративний інструмент на основі штучного інтелекту, створений спільно з відділом кадрів штату та Управлінням даних та інновацій, який використовує Claude від Anthropic, щоб допомогти заявникам знайти роботу в штаті, яка відповідає їхнім навичкам. Наступного дня губернатор оголосив про партнерство з Google, Adobe, IBM і Microsoft, щоб розширити навчальні та освітні ресурси ШІ для понад 2 мільйонів людей.
Що станеться далі
Внесення поправок до SB 53 потребує законодавчих дій, і незрозуміло, чи закликатиме Ньюсом законодавців переглянути законопроект чи вносити зміни в адміністративному порядку. Очевидною є політична динаміка: оскільки опитування показують, що більшість американців вважають, що штучний інтелект розвивається надто швидко, а власне інциденти з безпекою в галузі є доказами, компанія штучного інтелекту, яка закликає до суворіших правил, уже не є винятковою позицією, якою вона була б два роки тому.
Для OpenAI розрахунок так само зрозумілий. Федеральний мозаїка з 50 законів штату є найгіршим випадком галузі; Сувора, підтримана аудитом структура Каліфорнії, яка застосовується до кожного передового забудовника, включно з його конкурентами, є основою, з якою вона може жити, і яку зараз відкрито лобіює.
---
Будьте попереду ШІОтримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
