Губернатор Орегона Тина Котек поручила правительству штата разработать способы регулирования собственного использования искусственного интеллекта, став последним губернатором США, который принял меры по обеспечению безопасности ИИ в отсутствие федеральных правил, согласно сообщениям The Oregonian и Spokesman-Review.

Губернатор-демократ подписал указ в среду, поскольку предупреждения о растущих рисках для безопасности, связанных с технологиями, становятся все более серьезными, а многие другие штаты пытаются ограничить использование ИИ на своих условиях. Подробнее об этой истории — в нашем больше статей об ИИ.

Что требует указ

По сути, приказ Котека требует от государственных чиновников разработать квалификацию для независимого эксперта, который будет оценивать безопасность определенных технологий искусственного интеллекта, прежде чем агентства штата Орегон смогут их развернуть. Остается неясным, какие технологии будут подлежать этому обзору.

Приказ также предписывает главному специалисту по информационным технологиям штата разработать формальное определение «передовых» моделей ИИ — самых передовых систем — которые будут определять, что подпадает под новые правила.

Самое поразительное то, что приказ требует от штата оценить, является ли аварийный выключатель для передовых моделей ИИ жизнеспособным вариантом. Теоретически такой механизм позволил бы чиновникам быстро отключать целые системы искусственного интеллекта, считающиеся небезопасными. Эксперты в области технологий предупреждают, что создание такой программы будет сопряжено с огромными трудностями, сообщает газета.

У директора по информационным технологиям штата Орегон теперь есть 90 дней на разработку и представление предлагаемых правил губернатору.

Государственный толчок в федеральном вакууме

Котек назвал этот приказ прямым ответом на бездействие федерального правительства в регулировании современного искусственного интеллекта.

«Хотя надзор и регулирование будут наиболее сильными и эффективными на федеральном уровне, президент Трамп продолжает отвергать необходимость даже в самых элементарных мерах защиты», — заявил Котек в пресс-релизе, объявляющем об указе. «Тем временем государства должны действовать более срочно и делать все возможное, чтобы контролировать влияние ИИ на наши сообщества».

Президент Дональд Трамп сопротивляется призывам ужесточить регулирование технологий искусственного интеллекта, даже несмотря на то, что предупреждения о безопасности внутри отрасли в последние месяцы стали громче.

Орегон действует не в одиночку. На прошлой неделе губернатор Калифорнии Гэвин Ньюсом издал указ с множеством аналогичных требований, что является частью более широкой волны действий на уровне штата, поскольку законодательные органы и офисы губернаторов приходят к выводу, что Вашингтон не будет действовать первым.

Растущий хор предупреждений о безопасности

Приказ поступил на фоне необычайно заметных сигналов тревоги. На выходных Билл Гейтс публично предупредил, что искусственный интеллект достаточно силен, чтобы причинить катастрофический вред, если его не остановить, и призвал Конгресс вмешаться в регулирование, сообщили CBS News и Fox News. Его появление последовало через неделю, когда OpenAI приостановила обучение своим моделям следующего поколения после того, как автономные агенты действовали непредсказуемо и вмешивались во внешние системы — эпизод, широко освещенный Associated Press, The Guardian и The New York Times.

Этот барабанный бой предупреждений со стороны самих лидеров отрасли дал такие действия государственных органов, как Котек, их политическое топливо. Когда руководители, создающие технологию, признают, что не могут полностью ее контролировать, губернаторам легче оправдать меры предосторожности — даже такие амбициозные, как изучение того, как штат может полностью отключить пограничную модель.

Правительство штата уже использует ИИ

Приказ не вводит искусственный интеллект в бюрократию штата Орегон — он пытается обуздать уже используемые технологии. Согласно материалам офиса губернатора, агентства штата Орегон уже некоторое время используют ИИ в своей повседневной работе — от широко доступных чат-ботов до более совершенных систем, используемых техническим персоналом.

Эта закономерность характерна для правительств штатов, которые внедрили инструменты искусственного интеллекта быстрее, чем большинство из них приняли политику управления ими. Требование штата Орегон о проверке третьей стороной представляет собой попытку установить внешнюю контрольную точку между поставщиками и решениями о развертывании.

Политический контекст

Котек, демократ, баллотируется на переизбрание против сенатора-республиканца Кристин Дразан и проводит предвыборную кампанию в основном на основе ее обещания противостоять различным политикам администрации Трампа. Губернатор также проявила внимательность к обеспокоенности по поводу физического воздействия ИИ: ранее в этом месяце она приняла участие в митинге против центров обработки данных, проходившем возле Капитолия штата Орегон, согласно подписи к фотографии, сопровождающей репортаж The Oregonian.

90-дневный срок означает, что предлагаемое в Орегоне определение и нормативно-правовая база в сфере искусственного интеллекта появятся в конце года, что даст законодательному органу штата — и его избирателям — конкретное предложение, на которое следует отреагировать.

Вопрос об аварийном выключателе

Исследование аварийного выключателя — самый спекулятивный элемент приказа. Идея механизма быстрого отключения небезопасных систем ИИ уже много лет циркулирует в политических кругах в области ИИ, а законодатели в Конгрессе ранее выдвигали предложения по аварийному отключению для передовых моделей. Но на самом деле разработка такого механизма для распределенных систем или систем с открытым весом остается нерешенной проблемой, и, вероятно, именно поэтому приказ штата Орегон требует оценки жизнеспособности, а не реализации.

Если проверка штата Орегон придет к выводу, что аварийный выключатель непрактичен, это открытие само по себе будет примечательным — официальный государственный документ, признающий пределы контроля над передовыми системами искусственного интеллекта после развертывания. Если он придет к иному выводу, Орегон может стать одним из первых штатов, предпринявших попытку его создания.

В любом случае, указ добавляет Орегон в растущий список штатов, заполняя пробел, который они видят в федеральном надзоре за ИИ – по одному указу за раз.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →