Согласно отчету Politico, Anthropic незаметно предлагает американским законодателям проект федерального закона, который позволит правительству заблокировать выпуск модели искусственного интеллекта, но только в самых крайних обстоятельствах.

Проект предложения, с которым, по словам Politico, ознакомились, допускает федеральное вмешательство только в том случае, если модель представляет собой предсказуемый, неизбежный риск ущерба на сумму более 1 миллиарда долларов или убийства или серьезного вреда более 50 людям. Эта структура отражает попытку Anthropic сформировать правила, регулирующие ее собственную отрасль, прежде чем их напишут другие — усилия, которые, как подтверждает компания, предпринимаются с июня.

Что будет делать законопроект

Согласно предложению, правительство может заблокировать выпуск или использование модели ИИ только при узком наборе катастрофических сценариев. Указанные риски должны быть связаны с созданием или выпуском биологического оружия, моделью ИИ, уклоняющейся от контроля ее разработчика, или кибератакой.

Пороги намеренно завышены. В отчете Politico отмечается, что, хотя лаборатории искусственного интеллекта фиксировали инциденты, в которых их агенты взламывали веб-сайты или совершали другие неправомерные действия, на сегодняшний день ни один инцидент с искусственным интеллектом не привел к массовым смертям или ущербу на сумму более 1 миллиарда долларов. Другими словами, законопроект определяет красную линию правительства намного выше того места, где фактически происходят текущие неудачи.

Критики уже ухватились за этот дизайн. Tom's Hardware охарактеризовал это предложение как предложение, которое «фактически сделает Министерство торговли единственным агентством, способным остановить модель искусственного интеллекта», а Mother Jones охарактеризовала пороговый уровень законопроекта для действий правительства как «тревожный». Сторонники возражают, что именно высокая планка и есть смысл: она нацелена на катастрофические риски экзистенциального класса, не подвергая рутинные обновления моделей проверке со стороны регулирующих органов.

Независимые оценки, зарегистрированные в Commerce

Механизм исполнения законопроекта основан на проверке третьей стороной. Это потребует проведения независимых оценок, зарегистрированных в Министерстве торговли, для периодической проверки лабораторий искусственного интеллекта и их передовых моделей.

По данным Politico, если оценщик приходит к выводу, что передовые модели компании представляют «неизбежный перечисленный риск», он должен сообщить об этом в Министерство торговли в течение 72 часов после завершения оценки. Эти часы отчетности и требование регистрации сделают Министерство торговли центральным узлом федерального правительства для надзора за ИИ.

Этот подход перекликается с направлением других находящихся на рассмотрении законов. Закон об управлении рисками и безопасности искусственного интеллекта от 2026 года, представленный тройкой демократов в Сенате, также предусматривает оценку ИИ, ориентированную на коммерцию. Отдельный законопроект сенатора Марии Кантвелл поручит Национальному институту стандартов и технологий разработать стандарты против катастрофического вреда от ИИ, а Закон об оценке рисков ИИ, предложенный сенатором Джошем Хоули, возложит на Министерство энергетики ответственность за стресс-тестирование самых мощных систем перед их развертыванием.

Защита антропов: разумная политика, пропагандируемая с июня

Представитель Anthropic сообщил Politico, что проект «представляет собой предложения, изложенные в Advanced AI Framework Anthropic, которую мы отстаиваем перед федеральными законодателями и законодателями штата с июня», добавив: «Мы считаем, что это разумная политика, согласно которой Конгресс должен действовать».

Позиция компании соответствует ее публичному положению. Anthropic неоднократно заявляла, что пограничные риски ИИ реальны, но узки — они сосредоточены на помощи с биологическим оружием, потере контроля и наступательных кибероперациях — и что регулирование должно быть сосредоточено на них, а не на широком спектре повседневных приложений ИИ.

Написание собственного законопроекта является логичным следующим шагом. Вместо того, чтобы реагировать на предложения других, Anthropic передает законодателям формулировку, адаптированную к ее собственной системе рисков, при этом упреждение лоскутных правил штата является неявным преимуществом федерального законодательства. Агентство Reuters и ряд других СМИ распространили отчет Politico в течение дня, что является признаком того, насколько внимательно Вашингтон и индустрия искусственного интеллекта сейчас следят за действиями друг друга.

Путь вперед в разделенном Вашингтоне

Проект сталкивается с серьезными политическими трудностями независимо от того, какая партия контролирует Конгресс. В отчете Politico отмечается, что любой законопроект о безопасности ИИ, скорее всего, встретит сопротивление со стороны Белого дома, который по-прежнему выступает против обязательного регулирования ИИ и выступает за добровольный, основанный на стандартах подход.

Несмотря на это, предложение имеет значение как маркер. Он дает количественную оценку (в долларах и количестве жертв), где, по мнению одной из ведущих мировых лабораторий искусственного интеллекта, должна проходить грань между приемлемым риском и вмешательством государства. Это также создает точку отсчета для конкурирующих законопроектов, которые сейчас циркулируют на Капитолийском холме, некоторые из которых предлагают гораздо более агрессивный надзор с более низкими пороговыми значениями.

По мере развития дебатов политические аналитики будут следить за тремя вещами: выживут ли цифры о 50 жертвах и 1 миллиарде долларов при соприкосновении с законопроектом Конгресса; получают ли оценщики, зарегистрированные в Commerce, реальные полномочия или просто консультативную роль; и будут ли федеральные формулировки о преимущественном праве поглощать или противоречить законам об искусственном интеллекте на уровне штатов, которые уже существуют. Ставка Anthropic заключается в том, что узкая система регулирования, учитывающая только катастрофические риски, является той версией регулирования, с которой отрасль действительно может жить, и что формирование этой системы на раннем этапе лучше, чем введение ее позже.

Будьте впереди ИИ

Сфера искусственного интеллекта меняется быстро — следите за AI Buzz Wire, чтобы быть в курсе последних новостей об искусственном интеллекте, выпусках моделей и отраслевом анализе.

Читать больше новостей об искусственном интеллекте →