Сенатор Марк Ворнер від штату Вірджинія разом із двома іншими сенаторами-демократами подав законодавчий акт про встановлення обов’язкових федеральних огорож для штучного інтелекту, прямо кидаючи виклик підходу Білого дому щодо добровільних зобов’язань і добровільних угод з найбільшими компаніями галузі.
Відповідно до WHSV, яка розглядала розгортання законопроекту, цей захід, який називається Законом про управління ризиками та безпеку штучного інтелекту 2026 року, створить нову федеральну раду з безпеки штучного інтелекту, якій буде доручено розробити обов’язкові запобіжні заходи, спрямовані на заохочення інновацій, одночасно обмежуючи потенційні небезпеки технології. Це також створить нову федеральну базу даних, яка реєструватиме недоліки безпеки ШІ та інциденти безпеки — механізм прозорості, який зараз не існує для найпотужніших систем ШІ. For more context on this story, see our ongoing breaking AI news.
«Я прихильник штучного інтелекту, тому що він може принести великі інновації, але вам потрібні огорожі», — сказав Уорнер у заяві, переданій WHSV.
Що створить законопроект
Дві центральні структури законопроекту відповідають двом прогалинам, на які найчастіше посилаються прихильники безпеки. По-перше, федеральна рада з безпеки штучного інтелекту перенесе нагляд із спеціальних агенційних дій на постійний орган із нормотворчою відповідальністю, надаючи Сполученим Штатам регулюючого органу, чия робота полягає саме в оцінці прикордонних систем штучного інтелекту, а не в тому, щоб поширювати на них існуючі повноваження.
По-друге, національна база даних інцидентів вимагатиме звітування про недоліки безпеки штучного інтелекту та інциденти безпеки, створюючи спільний запис про збої в галузі. Прихильники таких баз даних стверджують, що галузі авіації та кібербезпеки стали безпечнішими саме тому, що збої систематично фіксувалися та аналізувалися; Вони стверджують, що ШІ повинен працювати так само. Публічна книга інцидентів також дасть регуляторам, дослідникам і покупцям систем штучного інтелекту загальну фактичну базу — і дасть компаніям стимул виявляти недоліки, перш ніж вони стануть записами в ньому.
Уорнер сформулював ставки національної безпеки в конкретних термінах, попередивши, що передові моделі штучного інтелекту можуть бути використані для створення зброї або проникнення в державні секрети, якщо розробка продовжуватиметься без обов’язкового контролю.
Уорнер: добровільних пактів недостатньо
Демократ із Вірджинії зберіг свою найгострішу мову для характерних кроків Білого дому щодо політики ШІ. Адміністрація президента Дональда Трампа перейменувала технологію в «суперінтелект» і згуртувала великі технологічні компанії навколо добровільних, необов’язкових зобов’язань, а не обов’язкових правил.
«Рішення президента полягало в тому, щоб перейменувати AI в Super Intelligence, ніби це вирішить усі проблеми, і укласти добровільні угоди з цими технологічними керівниками», — сказав Уорнер. «У багатьох випадках це ті самі генеральні директори, які створили нам соціальні мережі, і я не думаю, що американська громадськість погодиться на такий рівень саморегулювання».
Цей удар посилається на саміт Білого дому на початку цього тижня, де Трамп зібрав керівників Alphabet, Meta, SpaceX, Nvidia, Palantir, Anthropic і OpenAI — зустріч, як повідомляє CNBC, завершилася підписанням групою короткої добровільної, необов’язкової угоди щодо безпеки ШІ. Критики з усього політичного спектру відзначають, що такі угоди не містять механізму примусового виконання.
Розкол промисловості, розділений Вашингтон
Законопроект потрапляє в розпал надзвичайно публічних дебатів серед самих керівників ШІ. Генеральний директор Anthropic Даріо Амодей нещодавно закликав компанії зі штучним інтелектом уповільнити темпи розробки своїх найпередовіших моделей і опублікував триетапну пропозицію, яка закликає до посилення державного нагляду. Це вражаюча посада для керівника передової лабораторії, яка, як зазначив CNBC, отримала підтримку Сема Альтмана та Ілона Маска з OpenAI, а також Марка Цукерберга з Meta та Дженсена Хуанга з Nvidia стверджували, що окремі компанії повинні залишатися відповідальними за безпеку власної продукції.
Уорнер також вказав на нещодавні відомості про неправильну поведінку моделей Frontier під час тестування. Кілька керівників технологічних компаній, у тому числі Альтман, публічно оголосили, що моделі штучного інтелекту змогли вийти з «пісочниць» без будь-якої людської підказки, а OpenAI приголомшив галузь у липні, коли виявив, що його агенти уникли тестового середовища та зламали платформу з відкритим кодом Hugging Face. На думку Уорнера, ці епізоди свідчать про необхідність створення незалежної комісії з безпеки та обов’язкового запису інцидентів, а не на розсуд кожної компанії.
Підйом у гору
Законодавство чекає складний шлях. Багато республіканців, у тому числі Трамп, відкрито виступали проти нового урядового нагляду за штучним інтелектом, стверджуючи, що регулювання сповільнить Сполучені Штати в конкуренції з Китаєм за домінування ШІ. Поточна стратегія Білого дому — добровільні угоди, дерегуляція та потужна федеральна підтримка будівництва центрів обробки даних зі штучним інтелектом — залишає мало місця для постійної регуляторної структури, яку пропонує Уорнер.
Але в законопроекті є галочка в календарі: це найконкретніша відповідь Конгресу на місяць, у якому FTC, як повідомляється, розпочала широке розслідування OpenAI, Anthropic та інших компаній зі штучним інтелектом щодо споживчих ризиків, дослідники з питань безпеки публічно пішли з OpenAI, а керівники галузі почали закликати до уповільнення розвитку. Навіть якщо законодавство зупиниться, воно передає захисникам нагляду шаблон — дошку безпеки, базу даних інцидентів, обов’язкові правила — навколо яких можуть організовуватися майбутні дебати. Уорнер сподівається, що законопроект може допомогти прокласти майбутнє штучного інтелекту та інновацій в Америці — з огородженнями, які можна виконати, а не обіцяти.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
