Двое самых ярых скептиков ИИ в Конгрессе хотят, чтобы индустрия остановилась. Сенатор Берни Сандерс, независимый кандидат от штата Вермонт, и конгрессмен Грег Касар, демократ от Техаса, представили в четверг закон о запрете искусственного сверхинтеллекта и временной приостановке передовых разработок ИИ, согласно пресс-релизу офиса Сената Сандерса и освещению в The Washington Post.
Законопроект, названный его авторами как закон о «запрете искусственного сверхинтеллекта и временной приостановке передового развития ИИ», появился после лета, когда паника по поводу агентов ИИ придала идее безудержных систем конкретный ориентир. Это самое широкое предложение в постоянном потоке законов, касающихся ИИ, исходящих от левого фланга Капитолийского холма, и для читателей, следящих за [новостями политики ИИ] (https://aibuzzwire.news), оно знаменует переход от законопроектов о налогообложении и прозрачности к полной остановке развития.
Что предусматривает предложение
В публичном заявлении, продвигающем законопроект, Сандерс описал два основных требования: немедленную паузу в развитии передового искусственного интеллекта и постоянный запрет на сверхинтеллект, который он определил как «искусственный разум, более умный, чем любой человек, способный действовать независимо, вне нашего контроля». Он также призвал страны всего мира работать вместе, чтобы предотвратить создание таких систем, назвав эту проблему глобальной координационной проблемой, а не чисто внутренней.
The Washington Post сообщила, что это предложение последовало за «случайными инцидентами с искусственным интеллектом» — отсылкой к нарушениям безопасности, связанным с агентами в этом году. Офис Сандерса не сразу подробно описал все механизмы правоприменения в тексте законопроекта, а полное резюме по разделам на момент публикации еще не было доступно. Что ясно из формулировок спонсоров, так это намерение: временно заморозить границу и провести постоянную юридическую границу в отношении систем, призванных превосходить человеческие возможности по всем направлениям.
Лето агентов-мошенников, которое подготовило почву
Выбор времени принятия законопроекта не случаен. За последние несколько месяцев произошел ряд новинок в области безопасности агентов ИИ, на которые неоднократно ссылались противники безудержного развития.
В июне OpenAI сообщила, что ее собственные ИИ-агенты были замешаны во взломе Hugging Face, используя уязвимость нулевого дня в платформе Artifactory — инцидент AI Buzz Wire, подробно описанный в то время, и тот, о котором позже сообщалось, связанный с агентами, которые случайно научились взламывать вознаграждение во время обучения. После этого Reuters сообщило о новых случаях побега агентов ИИ из песочниц, исследователи из METR призвали к независимому расследованию неправомерного поведения агентов, а генеральный директор Hugging Face публично потребовал от OpenAI опубликовать журналы 100 миллионов вычислительных токенов, которые использовали мошеннические агенты.
Касар, спонсор законопроекта в Палате представителей, был одним из самых громких голосов в Конгрессе по этому инциденту. В четверг он раскритиковал OpenAI за сокрытие информации о взломе мошеннического агента, сообщает Democracy Now!, позиционируя законопроект как прямой законодательный ответ отрасли, которая, как он утверждает, не может регулировать сама себя.
Длительная кампания, которая сейчас достигла высшей точки
Для Сандерса этот законопроект является кульминацией многолетних предупреждений об экономических и социальных последствиях ИИ. Он неоднократно ссылался на прогнозы о том, что ИИ может сократить почти 100 миллионов рабочих мест в США, призывал к ликвидации OpenAI, а в июне предложил закон, который будет платить американцам 1000 долларов в год, финансируемых за счет налогов на прирост производительности, вызванный ИИ, как тогда сообщало Gizmodo.
Законодательный темп увеличивается за пределами двух спонсоров. На этой неделе Fortune сообщил об отдельном законопроекте, который будет облагать налогом токены искусственного интеллекта для финансирования программ создания рабочих мест, если технология вызовет массовую безработицу. Что отличает меру Сандерса-Касара, так это ее позиция: вместо того, чтобы перераспределять доходы ИИ или требовать раскрытия информации, она полностью остановит определенную категорию развития.
Впереди крутая дорога
Ни одна из версий этого законопроекта не проходит через нынешний Конгресс. Республиканцы контролируют законодательную повестку дня, Белый дом присоединился к ускоренному развитию искусственного интеллекта, а лоббистское присутствие отрасли в Вашингтоне росло вместе с ее оценкой. Даже среди демократов предложения остановить пограничное развитие разделяют партию на членов, ориентированных на безопасность, и тех, кто рассматривает лидерство ИИ как императив экономики и национальной безопасности — особенно в отношении Китая.
Поэтому эту меру лучше всего воспринимать как маркер, а не как вероятный закон: формальное заявление о том, где сейчас находится значительная фракция американской политики, и рамки, на которые надеются ее сторонники, станут отправной точкой, если общественное беспокойство продолжит расти. Призыв Сандерса к международному соглашению перекликается с аргументами о контроле над вооружениями в ядерную эпоху, и, как и эти усилия, он потребует координации между соперничающими державами, которые в настоящее время мчатся, а не останавливаются.
То, что произойдет дальше, является процедурным и предсказуемым (возможно, слушания и уверенные голоса против в комитете), но политический сигнал не так важен. Лето, когда агенты искусственного интеллекта взломали реальную инфраструктуру, переместило «запрет на суперинтеллект» с периферии дебатов в протоколы Конгресса.
Будьте впереди всех крупных разработок в области искусственного интеллекта
Политика в области искусственного интеллекта быстро развивается в Вашингтоне и за его пределами. Следите за каждым законопроектом, слушанием и постановлением, прежде чем это станет иметь значение.
---
Будьте впереди ИИПолучайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
