Белый дом изучает планы по созданию независимого регулятора, который будет следить за безопасностью искусственного интеллекта. Этот шаг может изменить способ надзора федерального правительства за передовыми моделями ИИ от таких компаний, как OpenAI и Anthropic. Это предложение, о котором впервые сообщило агентство Bloomberg News, последовало за растущими жалобами из Кремниевой долины на недавние и порой непредсказуемые ограничения правительства на новые системы ИИ.
ФИНРА для ИИ
По словам источников, знакомых с ситуацией и беседовавших с Bloomberg, в настоящее время план находится на рассмотрении руководителя аппарата Белого дома Сьюзи Уайлс. Он создаст независимый регулирующий орган, специализирующийся на искусственном интеллекте и подотчетный Комиссии по ценным бумагам и биржам, в структуре, созданной по образцу Управления по регулированию финансовой индустрии (FINRA).
FINRA — это саморегулируемая организация, которая контролирует брокерские фирмы и биржевые рынки в США. Перевод этой модели на ИИ будет означать создание организации, наделенной полномочиями устанавливать стандарты, проводить проверки и обеспечивать соблюдение требований компаниями, разрабатывающими передовые модели. Цель, по словам источников Bloomberg, состоит в том, чтобы привнести последовательность и предсказуемость в процесс надзора, который разочаровал как технологические компании, так и фирмы с Уолл-стрит.
Это предложение поступило в момент чрезвычайной напряженности между федеральным правительством и индустрией искусственного интеллекта. В прошлом месяце правительство ввело экспортный контроль против Anthropic, что вынудило компанию временно отключить модели Fable 5 и Mythos 5. Кроме того, OpenAI была вынуждена внести серьезные изменения в свою новейшую модель Sol перед ее выпуском по запросу правительства. Обе компании опротестовали эти решения, утверждая, что они были чрезмерными, учитывая вопросы безопасности.
Зачем нужен структурированный надзор
Интерес Белого дома к специальному регулятору ИИ отражает растущее признание того, что нынешний ситуативный подход к надзору является неустойчивым. В рамках существующей структуры правительство использовало сочетание указов, экспортного контроля и добровольных соглашений, чтобы влиять на то, как и когда компании, занимающиеся искусственным интеллектом, выпускают свои самые мощные модели. Но это лоскутное одеяло вызвало критику с разных сторон.
Технологические компании утверждают, что непоследовательный надзор затрудняет планирование дорожных карт продуктов, поскольку правила могут измениться внезапно и без четких процедурных стандартов. Тем временем фирмы с Уолл-стрит призывают правительство принять более решительные меры в отношении рисков кибербезопасности, связанных с искусственным интеллектом, предупреждая, что неконтролируемые возможности модели могут привести к изощренным атакам на финансовую инфраструктуру.
Источники Bloomberg сообщили, что это предложение призвано решить обе проблемы, обеспечивая большую уверенность разработчикам ИИ и одновременно создавая формальный механизм для оценки и снижения рисков. Создав структуру, подобную FINRA, администрация надеется перейти от реактивного вмешательства к упреждающему режиму регулирования с четко определенными процессами и подотчетностью.
Отголоски призыва Хассабиса к стандартам
Обсуждения в Белом доме начались всего через несколько дней после того, как генеральный директор Google DeepMind Демис Хассабис публично призвал возглавляемый США орган по стандартизации провести независимое тестирование передовых моделей искусственного интеллекта на предмет угроз национальной безопасности перед их выпуском. В комментариях, опубликованных Financial Times, Хассабис предупредил, что общий искусственный интеллект, способный соответствовать человеческому мозгу в широком спектре задач, вероятно, появится всего через несколько лет, оставив обществу драгоценное окно для установления контроля.
Хассабис конкретно предложил смоделировать организацию на основе FINRA, той же самой структуры, которая сейчас рассматривается в Белом доме. Он предположил, что система, инициированная США, может стать основой для международных стандартов, поскольку правительства сталкиваются с рисками, связанными с все более совершенными системами искусственного интеллекта.
Совпадение предложения Хассабиса с внутренними обсуждениями в Белом доме предполагает растущий консенсус вокруг модели FINRA, даже несмотря на то, что детали масштаба, полномочий и правоприменения еще предстоит обсудить.
Существующий контроль пререлизной версии
Правительство уже предприняло шаги по надзору за предварительным релизом. Изданный в июне указ предусматривал добровольный доступ к закрытым пограничным моделям на срок до 30 дней до их выпуска, что позволило федеральным чиновникам оценить передовые кибервозможности. Google DeepMind, Microsoft и xAI согласились предоставить модели для федерального тестирования национальной безопасности в рамках этой структуры.
Однако эти меры остаются добровольными и ограниченными по объему. Специальный регулирующий орган будет иметь гораздо более широкие полномочия по обеспечению прозрачности, обязательному тестированию безопасности и обеспечению соблюдения требований, что фундаментально изменит отношения между компаниями, занимающимися искусственным интеллектом, и федеральным правительством.
Что будет дальше
Это предложение все еще находится на ранней стадии, и нет никакой гарантии, что оно будет реализовано в его нынешней форме. Создание нового регулирующего органа требует действий Конгресса, а политическая динамика вокруг регулирования ИИ остается нестабильной. Законодатели провели многочисленные слушания по безопасности ИИ, но еще не приняли всеобъемлющий закон.
Тем не менее, тот факт, что Белый дом активно рассматривает возможность создания регулятора в стиле FINRA, сигнализирует об изменении амбиций. Вместо того, чтобы полагаться на исполнительные указы и индивидуальное вмешательство, администрация, похоже, изучает более постоянную институциональную структуру для надзора за ИИ, которая могла бы пережить любую администрацию в отдельности и обеспечить последовательность, которую требуют лидеры отрасли.
Для компаний, занимающихся искусственным интеллектом, перспектива создания специального регулятора — палка о двух концах. Это могло бы обеспечить предсказуемость, о которой они просили, но также могло бы привести к возникновению новых сложностей в области соблюдения требований, требований к отчетности и задержек с выводом продуктов на рынок. То, насколько сбалансированы эти компромиссы, будет формировать конкурентную среду в индустрии искусственного интеллекта на долгие годы вперед.
Будьте впереди ИИ
Чтобы постоянно освещать вопросы регулирования ИИ, государственной политики и механизмов надзора, формирующих отрасль, подписывайтесь на AI Buzz Wire, чтобы сообщать о важных решениях.
Подробнее о политике в области ИИ →
