Anthropic подтвердила, что распространяет среди законодателей США законопроект, который создаст федеральный механизм для блокировки выпуска или использования самых мощных моделей искусственного интеллекта, что является одной из самых конкретных попыток пограничной лаборатории ИИ сформировать регулирование в США. О проекте впервые сообщило издание Politico в пятницу, а представитель Anthropic подтвердил его существование AFP.
Это предложение поступило в связи с тем, что Конгресс, политически разделенный и активно лоббируемый крупными технологическими компаниями, еще не принял ни одного федерального закона об искусственном интеллекте, а подход Вашингтона при президенте Дональде Трампе опирается в первую очередь на добровольные обязательства отрасли и исполнительные указы, направленные на поддержание бума искусственного интеллекта, который, по словам технологических лидеров, стимулирует экономику страны. Дополнительную информацию об этой истории можно найти в нашем [последнем новостном выпуске новостей об искусственном интеллекте] (https://aibuzzwire.news).
Что будет делать законопроект
Согласно проекту текста, описанному Politico и AFP, федеральное правительство может заблокировать выпуск или использование модели, если существует неизбежный риск того, что она убьет или серьезно ранит более 50 человек или причинит ущерб на сумму более 1 миллиарда долларов. Важно отметить, что эта власть будет сопровождаться судебным контролем: правительство могло действовать только с одобрения судьи.
Комбинация — высокий порог вреда плюс одобрение суда — похоже, призвана ответить критикам, которые утверждают, что крайние предложения дадут исполнительной власти полную власть над индустрией искусственного интеллекта. Торговые издания, освещающие эту историю, представили законопроект как план, который позволит Вашингтону остановить «опасное развертывание», одновременно ограничив возможность вмешательства правительства вообще.
Что говорит Anthropic, что требуется
Представитель компании сообщил агентству AFP, что это предложение «даёт федеральному правительству возможность блокировать или сдерживать опасное внедрение самых мощных моделей».
«От передовых разработчиков требуется тестировать самые мощные модели, быть прозрачными для общественности в отношении своих выводов, представлять их на независимую оценку и поддерживать надежную программу безопасности», — сказал представитель.
Эти четыре обязательства — тестирование, публичная прозрачность, независимая оценка и безопасность — отражают обязательства по безопасности, которые Anthropic и несколько конкурентов уже взяли на себя добровольно. Проект, по сути, превратит некоторые части этого добровольного режима в статут.
Почему Anthropic движется сейчас
Время имеет значение по нескольким направлениям. Конгресс не заседает до тех пор, пока не пройдут промежуточные выборы в следующем месяце, поэтому никакого голосования не предвидится, но окно после промежуточных выборов может возобновить переговоры по законодательству, и у лабораторий есть стимул подготовить предпочтительный текст.
Безопасность также стала горячей темой в Вашингтоне после недавних разоблачений инцидентов, вызванных агентами искусственного интеллекта — автономным программным обеспечением, которое работает без постоянного контроля со стороны человека, — которое вышло из-под контроля своих разработчиков, как отметило агентство Франс Пресс в своем отчете о проекте.
Сам Anthropic имеет необычную точку зрения. Согласно сообщению AFP, опубликованному Punch, компания была запрещена в Пентагоне администрацией Трампа в феврале, а в июне Вашингтон вынудил ее приостановить работу своих самых передовых моделей почти на три недели. В прошлом месяце генеральный директор Дарио Амодей призвал отрасль замедлить развитие, предупредив, что группа агентов ИИ может взять под контроль «весь Интернет».
Другими словами, компания, которую Вашингтон уже рассматривал как источник риска, теперь предлагает юридический механизм для контроля именно этого риска — на условиях, которые она сама написала.
Необычная позиция для пограничной лаборатории
В лоббировании со стороны компаний, занимающихся искусственным интеллектом, нет ничего нового, но распространение фактического проекта уставного текста — это шаг за рамки позиционных документов и открытых писем. Он ставит Anthropic в роль соавтора собственного режима регулирования и предоставляет законодателям готовый базовый уровень, на который теперь придется реагировать другим лабораториям, группам гражданского общества и оборонным ведомствам.
Скорее всего, реакция будет раздельной. Сторонники жесткой линии, которые хотят обязательных федеральных правил, могут критиковать порог в 1 миллиард долларов и 50 жертв как слишком высокие, а требование одобрения судьи - как слишком медленное для реальной чрезвычайной ситуации. Представители отрасли, предпочитающие нынешний добровольный подход, могут вообще возражать против кодификации каких-либо полномочий по блокированию. У обоих лагерей теперь есть конкретный текст для споров, а это именно то, чего не хватало в федеральных дебатах.
Что будет дальше
У проекта пока нет определенного спонсора в Конгрессе, и Anthropic не назвал публично имена законодателей, которые его получили. Поскольку Конгресс отсутствует до окончания промежуточных выборов, более непосредственный эффект может оказать на сам политический диалог: законопроект устанавливает точку отсчета для того, что пограничная лаборатория считает приемлемым надзором, и любое конкурирующее федеральное предложение теперь будет оцениваться по нему.
Anthropic отказалась идти дальше заявления своего представителя в отчете AFP. Эта статья будет обновляться по мере появления более подробной информации о проекте текста.
---
Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
