Конгресмен Ро Ханна, демократ із Кремнієвої долини, представить закон, який забороняє моделі штучного інтелекту, здатні рекурсивно самовдосконалюватися, доки федеральний уряд не створить регуляторну систему, здатну наглядати за ними. Це наймасштабніша пропозиція безпеки штучного інтелекту, яка ще не потрапила в Конгрес.

Законопроект, який отримав назву Закон про контроль людини над штучним інтелектом, був ексклюзивно наданий CNBC у стислій формі перед його представленням. Він з’явився на тлі ескалації проблем безпеки, які вже спонукали генеральних директорів OpenAI і Anthropic закликати до уповільнення розробки передової моделі. For more context on this story, see our ongoing AI trends.

«Насправді існує ризик вимирання цивілізацій», — сказав Ханна в понеділок в інтерв’ю CNBC. «Існує ризик втрати контролю, а також ризик неправильного використання, і ми повинні серйозно поставитися до обох».

Що забороняє законопроект

По суті, Закон про контроль людини над штучним інтелектом забороняє моделі штучного інтелекту, які рекурсивно самовдосконалюються або автономно змінюють свої основні цілі, механізми стримування або засоби керування відключенням — якщо не існує федеральних огорож і нове урядове агентство не схвалює цю діяльність.

З практичної точки зору, це націлено на можливості, яких найбільше бояться дослідники безпеки: системи, які можуть перепроектувати себе в рамках самостійного циклу, залишаючи людям все менший контроль на кожному кроці. Заборона залишатиметься в силі, доки регулюючі органи не зможуть оцінити ризики.

Нове федеральне агентство з прикордонного штучного інтелекту

Законопроект передбачає створення спеціального федерального агентства, зосередженого на найпотужніших моделях штучного інтелекту — тих, що розроблені OpenAI, Anthropic, Google DeepMind і xAI — оскільки ці компанії перебувають під посиленим контролем.

Відповідно до резюме, наданого CNBC, агентство буде відповідати за:

  • Написання правил безпеки для прикордонних систем ШІ
  • Експлуатація системи ліцензування для затвердження моделі навчання та розгортання
  • Проведення аудиту прикордонних моделей ШІ
  • Встановлення стандартів безпеки для постійного тестування та ефективного контролю з боку людини

Незалежні аудитори працюватимуть у кожній прикордонній лабораторії та звітуватимуть безпосередньо перед агентством — це структурна перевірка, спрямована на те, щоб лабораторії не могли просто відмічати свої власні домашні завдання. Агентство також встановить стандарти, що охоплюють середовища тестування в пісочниці, повітряні проміжки, які ізолюють системи тестування від Інтернету, вимикачі та елементи керування, які не дозволяють моделям виходити з налаштувань лабораторії та бродити у відкритому Інтернеті.

Зокрема, законодавство поширить федеральний нагляд на передові чіпи, які використовують передові лабораторії, включаючи механізми моніторингу або контролю за тим, як розгортаються ці процесори.

Кримінальні покарання та обов'язкове страхування

Законопроект йде далі, ніж будь-які попередні пропозиції щодо штрафів. Він криміналізує те, що він визначає як «злочини проти людства» за розгортання моделей ШІ, які призводять до знищення цивільного населення.

Співробітники компаній зі штучним інтелектом будуть притягнуті до кримінальної відповідальності за відключення захисних засобів, перемикачів блокування, систем реєстрації або стримування — або за свідоме розгортання неавторизованої системи. Компанії штучного інтелекту також будуть зобов’язані застрахувати відповідальність перед випуском своїх моделей, перекладаючи фінансовий ризик невдачі на галузь, а не на громадськість.

На геополітичному фронті законопроект закликає адміністрацію домагатися виконання угод і цілеспрямованого експортного контролю, спрямованих на те, щоб стримати Китай та інших супротивників від розробки небезпечних систем ШІ.

Створено спільнотою безпеки, а не лабораторіями

Кханна чітко сказав, чий внесок сформував законопроект. Замість того, щоб вести переговори з керівниками компаній, які це регулюватиме, він сказав, що законодавство було змодельовано на розмовах з організаціями безпеки ШІ, включаючи незалежні некомерційні організації Model Evaluation and Threat Research, Інститут дослідження машинного інтелекту та Palisade Research.

«Я хочу, щоб це була модель, яка дозволить висловити думку спільноті безпеки ШІ», — сказав Кханна CNBC. «Я вважаю, що їх несправедливо відкинули як наукову фантастику та сприйняли недостатньо серйозно. Вони повинні вести цю дискусію, спільноту безпеки ШІ, а не керівників прикордонних лабораторій».

Ханна описав цей захід як найповніше запропоноване на сьогодні законодавство щодо безпеки штучного інтелекту.

Великі шанси в розділеному конгресі

Закон про контроль людини над штучним інтелектом приєднується до переповненого поля пропозицій безпеки штучного інтелекту на Капітолійському пагорбі. Серед них двопартійний FRONTIER Act від представників Джея Обернолте, республіканця від Каліфорнії, і Лорі Трахан, демократа від Массачусетсу, який передбачав розміщення незалежних аудиторів у прикордонних лабораторіях і дав уряду повноваження закривати моделі, які вважаються такими, що становлять катастрофічний ризик. Окрема пропозиція Сандерса-Казара щодо заборони штучного суперінтелекту отримала підтримку десяти демократів Палати представників, включаючи самого Ханну.

Однак політична реальність витверезить. Очікується, що жодні законопроекти Палати представників не будуть прийняті до проміжних виборів, і очікується, що Сенат залишить Вашингтон і не повернеться до тих пір, поки виборці не підуть на виборчі дільниці.

Цей графік означає, що Закон про контроль людини над штучним інтелектом функціонуватиме, принаймні на даний момент, як маркер: детальний проект того, що створила б спільнота безпеки штучного інтелекту, якби вона тримала перо — представлений саме в той момент, коли люди, які створюють передовий штучний інтелект, офіційно попереджають, що технологія виходить за рамки контролю.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →