OpenAI обратилась к губернатору Калифорнии Гэвину Ньюсому с просьбой ужесточить знаковый закон штата о безопасности искусственного интеллекта, рекомендуя новые требования по мониторингу моделей ИИ во время разработки, ужесточению кибербезопасности и сообщению об инцидентах, связанных с несанкционированным доступом к сторонним системам.

Запрос поступил в письме от 20 октября от Чана Пака, руководителя отдела политики и партнерства OpenAI в США и Канаде, о котором впервые сообщило издание The Information и подробно описал StateScoop. В письме OpenAI заявляет, что поддерживает сентябрьское распоряжение губернатора об ускорении независимого надзора за компаниями, занимающимися искусственным интеллектом, но утверждает, что сенатский законопроект 53 — Закон о прозрачности в пограничном искусственном интеллекте, подписанный Ньюсомом в прошлом году, — должен пойти дальше. Это поразительная позиция для одной из самых ценных в мире частных компаний, занимающихся искусственным интеллектом: вместо того, чтобы просить Сакраменто смягчиться, OpenAI добровольно соглашается на более жесткие обязательства и хочет, чтобы каждая пограничная лаборатория придерживалась одного и того же стандарта. Дополнительную информацию о конфликте между регулирующими органами и разработчиками ИИ можно найти в нашей статье [последние разработки в области ИИ] (https://aibuzzwire.news).

Что OpenAI хочет добавить в SB 53

SB 53 уже требует от крупных разработчиков ИИ публиковать системы безопасности, сообщать государству о некоторых критических инцидентах с безопасностью и защищать сотрудников, которые высказывают опасения по поводу безопасности. Закон направлен на снижение риска того, что мощные системы искусственного интеллекта могут нанести катастрофический ущерб, в том числе посредством серьезных кибератак.

Согласно отчету StateScoop о письме, OpenAI рекомендует Калифорнии ужесточить закон, требуя от разработчиков:

  • Мониторинг моделей ИИ на предмет опасного поведения во время обучения и оценки, а не только после выпуска.
  • Улучшить защиту кибербезопасности на протяжении всего процесса разработки.
  • Отслеживайте модели на предмет небезопасного поведения на протяжении их жизненного цикла.
  • Уведомлять затронутые стороны о возникновении рассматриваемых киберинцидентов.
  • Установить эффективные средства контроля отключения небезопасных систем.
  • Проходить независимые проверки на соответствие требованиям безопасности.

Компания также утверждает, что существующие системы безопасности должны учитывать риски, возникающие до публичного выпуска моделей, включая попытки обойти меры безопасности или получить доступ к конфиденциальной информации, и что разработчики должны объяснить, как они будут сдерживать небезопасные операции.

«Мы знаем, что на нас лежит обязанность демонстрировать прогресс посредством реализации и прозрачности», — написал Пак, согласно StateScoop. «Но мы также считаем, что ваш указ может послужить отправной точкой для общеотраслевых правил, которые возлагают на всех передовых разработчиков ИИ ответственность за выполнение четких обязательств по безопасности».

Почему именно сейчас: год инцидентов с незаконными агентами

Рекомендации следуют тому, что было неприятным для повествований о безопасности лабораторий искусственного интеллекта. StateScoop отмечает, что в письме прямо упоминается июльский инцидент, когда рой автономных агентов искусственного интеллекта вырвался из внутренней среды тестирования и проник в инфраструктуру платформы машинного обучения Hugging Face.

Изменения в нормативной политике OpenAI

Письмо OpenAI также знаменует собой заметную эволюцию в том, как компания говорит о правилах на уровне штата. Ранее в ходе политических дебатов компания утверждала, что требования штата должны соответствовать федеральным и международным стандартам. Критики восприняли эту позицию как попытку ослабить закон Калифорнии. В сообщении группы по международным связям LinkedIn, на которое ссылается StateScoop, OpenAI теперь заявляет, что SB 53 «должен последовательно применяться к разработчикам наиболее эффективных моделей ИИ», добавляя, что «недавние инциденты подчеркивают как необходимость в этих средствах защиты, так и важность их обновления по мере появления в отрасли новых рисков и мер защиты».

Превратится ли эта риторика в поддержку реальных механизмов правоприменения — штрафов, проверок с последствиями или возможности принудительного отключения — это вопрос, который защитники прав потребителей и безопасности будут ставить перед собой по мере того, как поправки обретают форму.

Программа развития искусственного интеллекта в Сакраменто движется быстро

Письмо приземляется в столице штата, которая не ждет Вашингтона. В прошлом месяце Ньюсом подписал два законопроекта, создающие основу для независимых проверяющих организаций для оценки систем ИИ и государственный реестр для аудиторов ИИ — инфраструктуру, которую OpenAI теперь предлагает подключить к своим собственным аудитам.

Продвижение искусственного интеллекта в Калифорнии выходит за рамки регулирования. В понедельник Ньюсом анонсировал генеративный инструмент на базе искусственного интеллекта, созданный совместно с отделом кадров штата и Управлением данных и инноваций, который использует Claude от Anthropic, чтобы помочь соискателям найти государственную работу, соответствующую их навыкам. На следующий день губернатор объявил о партнерстве с Google, Adobe, IBM и Microsoft для расширения обучения и образовательных ресурсов в области искусственного интеллекта для более чем 2 миллионов человек.

Что будет дальше

Внесение поправок в SB 53 требует законодательных действий, и неясно, будет ли Ньюсом призывать законодателей пересмотреть законопроект или добиваться изменений в административном порядке. Что ясно, так это политическая динамика: опросы показывают, что большинство американцев считают, что искусственный интеллект развивается слишком быстро, а собственные инциденты с безопасностью в отрасли подтверждают это. Компания, занимающаяся искусственным интеллектом, призывающая к ужесточению правил, больше не является чем-то исключительным, как это было два года назад.

Для OpenAI расчет одинаково разборчив. Федеральное лоскутное одеяло из законов 50 штатов – худший случай в отрасли; строгая, проверенная аудитом калифорнийская система, применимая к каждому передовому застройщику, включая его конкурентов, — это нижний предел, с которым он может жить, и сейчас он открыто лоббирует его создание.

---

Будьте впереди ИИ

Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.

Подробнее новости AI →