Член палаты представителей Ро Ханна, демократ из Кремниевой долины, представит закон, который запретит модели искусственного интеллекта, способные рекурсивно улучшаться, до тех пор, пока федеральное правительство не создаст систему регулирования, способную контролировать их. Это самое радикальное предложение по безопасности искусственного интеллекта, которое еще не поступило в Конгресс.

Законопроект, получивший название «Закон о человеческом контроле над искусственным интеллектом», был представлен исключительно CNBC в кратком виде перед его представлением. Это происходит на фоне растущих проблем безопасности, которые уже побудили руководителей OpenAI и Anthropic призвать к замедлению разработки передовых моделей. Подробнее об этой истории — в нашем больше статей об ИИ.

«На самом деле существует риск исчезновения цивилизации», — заявил Ханна в понедельник в интервью CNBC. «Существует риск потери контроля, а также риск неправильного использования, и нам нужно относиться к обоим серьезно».

Что запретит законопроект

По своей сути Закон о человеческом контроле над ИИ запрещает модели ИИ, которые рекурсивно самоусовершенствуются или автономно изменяют свои собственные основные цели, механизмы сдерживания или средства контроля за отключением — если только не существуют федеральные меры защиты и новое правительственное агентство не одобряет эту деятельность.

С практической точки зрения, это нацелено на возможности, которых больше всего боятся исследователи безопасности: системы, которые могут перепроектировать себя в самостоятельном цикле, оставляя людям все меньше контроля на каждом этапе. Запрет будет действовать до тех пор, пока регулирующие органы не будут готовы оценить риски.

Новое Федеральное агентство по передовому искусственному интеллекту

Законопроект создаст специальное федеральное агентство, занимающееся наиболее мощными моделями искусственного интеллекта — разработанными OpenAI, Anthropic, Google DeepMind и xAI — поскольку эти компании оказываются под пристальным вниманием.

Согласно резюме, предоставленному CNBC, агентство будет отвечать за:

  • Написание правил безопасности для передовых систем искусственного интеллекта.
  • Использование системы лицензирования для утверждения обучения и развертывания моделей.
  • Проведение аудитов передовых моделей искусственного интеллекта.
  • Установление стандартов безопасности для непрерывного тестирования и эффективного человеческого контроля.

Независимые аудиторы будут внедрены в каждую пограничную лабораторию и будут подчиняться непосредственно агентству — структурная проверка, призванная гарантировать, что лаборатории не смогут просто отмечать свои домашние задания. Агентство также установит стандарты, охватывающие среды тестирования в песочнице, воздушные зазоры, изолирующие системы тестирования от Интернета, аварийные выключатели и средства контроля, которые не позволяют моделям покидать лабораторные настройки и перемещаться по открытому Интернету.

Примечательно, что закон расширит федеральный контроль над передовыми чипами, которые используют пограничные лаборатории, включая механизмы мониторинга или контроля над тем, как эти процессоры используются.

Уголовные наказания и обязательное страхование

Законопроект идет дальше, чем любое предыдущее предложение о штрафах. Он криминализирует то, что он определяет как «преступления против человечности» за использование моделей искусственного интеллекта, которые приводят к уничтожению гражданского населения.

Сотрудники компаний, занимающихся искусственным интеллектом, будут подвергаться уголовному наказанию за отключение средств защиты, аварийных выключателей, систем регистрации или сдерживания, а также за сознательное развертывание несанкционированной системы. Компании, занимающиеся искусственным интеллектом, также должны будут застраховать обширную ответственность перед выпуском своих моделей, перекладывая финансовый риск неудачи на отрасль, а не на общественность.

На геополитическом фронте законопроект призывает администрацию добиваться выполнения обязательных соглашений и целевого экспортного контроля, призванных удержать Китай и других противников от разработки опасных систем искусственного интеллекта.

Создано сообществом безопасности, а не лабораториями

Ханна прямо заявил, чей вклад повлиял на формирование законопроекта. Вместо того, чтобы вести переговоры с руководителями компаний, которые он будет регулировать, он сказал, что закон был создан по образцу переговоров с организациями по безопасности ИИ, включая независимые некоммерческие организации Model Evaluation and Threat Research, Исследовательский институт машинного интеллекта и Palisade Research.

«Я хочу, чтобы это стало моделью, которая даст возможность высказаться сообществу безопасности ИИ», — сказал Ханна CNBC. «Я считаю, что их несправедливо назвали научной фантастикой и не восприняли достаточно серьезно. Они должны вести эти дебаты, сообщество безопасности ИИ, а не руководители пограничных лабораторий».

Ханна назвал эту меру наиболее всеобъемлющим законодательством о безопасности ИИ, предложенным на сегодняшний день.

Длинные шансы в разделенном Конгрессе

Закон о контроле человека над ИИ присоединяется к многочисленным предложениям по безопасности ИИ на Капитолийском холме. Среди них — двухпартийный закон FRONTIER, принятый представителями Джеем Обернолти, республиканцем из Калифорнии, и Лори Трэханом, демократом из Массачусетса, который разместит независимых аудиторов в пограничных лабораториях и даст правительству право закрывать модели, которые, как считается, представляют катастрофический риск. Отдельное предложение Сандерса-Касара о запрете искусственного сверхинтеллекта получило общественную поддержку со стороны десяти демократов Палаты представителей, включая самого Ханну.

Однако политическая реальность отрезвляет. Ожидается, что ни один законопроект Палаты представителей не будет проголосован до тех пор, пока не пройдут промежуточные выборы, а Сенат, как ожидается, покинет Вашингтон и не вернется до тех пор, пока избиратели не пойдут на избирательные участки.

Этот график означает, что Закон о человеческом контроле над ИИ будет функционировать, по крайней мере на данный момент, как маркер: подробный план того, что сообщество безопасности ИИ могло бы построить, если бы оно держало в руках перо, – представленный как раз в тот момент, когда люди, создающие передовой ИИ, официально предупреждают, что технология выходит за рамки его контроля.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →