Згідно зі звітом Politico, Anthropic тихенько пропонувала законодавцям США проект федерального законодавства, який дозволив би уряду заблокувати випуск моделі штучного інтелекту, але лише в найекстремальніших випадках.
Проект пропозиції, який, як стверджує Politico, дозволив би федеральне втручання лише тоді, коли модель створює передбачуваний неминучий ризик збитків у розмірі понад 1 мільярд доларів або вбивства чи серйозних ушкоджень понад 50 осіб. Фреймворк відображає спробу Anthropic сформувати правила, що регулюють власну галузь, до того, як їх напишуть інші — компанія підтверджує, що ця діяльність діє з червня.
Що дасть законопроект
Згідно з пропозицією, уряд може заблокувати випуск або використання моделі штучного інтелекту лише за вузьким набором катастрофічних сценаріїв. Зазначені ризики мають стосуватися створення або випуску біологічної зброї, моделі штучного інтелекту, яка ухиляється від контролю розробника, або кібератаки.
Пороги свідомо завищені. У звіті Politico зазначається, що, хоча лабораторії штучного інтелекту фіксували випадки, коли їхні агенти зламували веб-сайти або іншим чином поводилися неправильно, жоден інцидент штучного інтелекту на сьогоднішній день не спричинив масових смертей або збитків на суму понад 1 мільярд доларів. Іншими словами, законопроект визначає урядову червону лінію набагато вище, де фактично відбуваються поточні провали.
Критики вже вхопилися за цей дизайн. Tom's Hardware охарактеризувала цю пропозицію як таку, яка «фактично зробить Міністерство торгівлі єдиним агентством, здатним зупинити модель штучного інтелекту», тоді як Mother Jones описав поріг законопроекту для дій уряду як «тривожний». Прихильники заперечують, що суть саме у високій планці: вона націлена на катастрофічні ризики екзистенціального класу, не піддаючи регулярним перевіркам рутинні оновлення моделі.
Незалежні оцінки, зареєстровані в Commerce
Механізм виконання законопроекту базується на перевірці третьої сторони. Це вимагатиме проведення незалежних оцінок — зареєстрованих у Міністерстві торгівлі — для періодичного перегляду лабораторій ШІ та їхніх передових моделей.
Якщо оцінювач дійде висновку, що передові моделі компанії становлять «неминучий перерахований ризик», він повинен повідомити про це Міністерству торгівлі протягом 72 годин після завершення оцінки, повідомляє Politico. Цей годинник звітності та вимога реєстрації зроблять Міністерство торгівлі центральним вузлом федерального уряду з нагляду за ШІ на кордонах.
Цей підхід перегукується з іншими законодавчими актами, що очікують на розгляд. Закон про управління ризиками та безпеку штучного інтелекту 2026 року, представлений трьома демократами в Сенаті, так само передбачає оцінювання штучного інтелекту, спрямованого на торгівлю. Окремий законопроект від сенатора Марії Кантвелл доручить Національному інституту стандартів і технологій розробити стандарти проти катастрофічної шкоди штучного інтелекту, а Закон сенатора Джоша Хоулі про оцінку ризиків штучного інтелекту покладає на Міністерство енергетики відповідальність за стрес-тестування найпотужніших систем перед розгортанням.
Захист Anthropic: Розумна політика, яка пропагується з червня
Представник Anthropic сказав Politico, що проект «представляє пропозиції, викладені в Anthropic Advanced AI Framework, яку ми відстоюємо з федеральними законодавцями та законодавцями штату з червня», додавши: «Це розумна політика, яку, на нашу думку, Конгрес повинен діяти».
Позиція компанії відповідає її публічній позиції. Anthropic неодноразово стверджував, що прикордонні ризики штучного інтелекту є реальними, але вузькими — зосереджені на допомозі з використанням біологічної зброї, втраті контролю та наступальних кіберопераціях — і що регулювання має зосереджуватися на цьому, а не на широкому діапазоні повсякденних програм ШІ.
Написання власного законопроекту – наступний логічний крок. Замість того, щоб реагувати на пропозиції інших, Anthropic передає законодавцям мову, відкалібровану відповідно до власної системи ризиків, з перевагою непрямих правил федерального законодавства. Агентство Reuters і низка інших видань доповнили звіт Politico протягом дня, що свідчить про те, наскільки уважно Вашингтон і індустрія штучного інтелекту зараз стежать за діями один одного.
Дорога вперед у розділеному Вашингтоні
Проект має великі політичні шанси незалежно від того, яка партія контролює Конгрес. У звіті Politico зазначається, що будь-який законопроект про безпеку штучного інтелекту, ймовірно, зіткнеться з відмовою з боку Білого дому, який як і раніше виступає проти обов’язкового регулювання штучного інтелекту та підтримує добровільний підхід, заснований на стандартах.
Незважаючи на це, пропозиція має значення як маркер. Він кількісно визначає — у доларах і кількості жертв — де, на думку однієї з провідних світових лабораторій штучного інтелекту, має бути межа між прийнятним ризиком і державним втручанням. Це також створює точку відліку для конкуруючих законопроектів, які зараз циркулюють на Капітолійському пагорбі, деякі з яких пропонують набагато більш агресивний нагляд із нижчими порогами.
Політичні аналітики спостерігатимуть за трьома речами в ході дебатів: чи виживуть цифри про 50 жертв і 1 мільярд доларів після контакту з проектом Конгресу; чи отримують оцінювачі, зареєстровані в Commerce, реальні повноваження чи лише консультативну роль; і чи поглинає федеральна мова про випередження або суперечить уже діючим законам щодо штучного інтелекту на державному рівні. Anthropic робить ставку на те, що вузька структура, яка базується лише на катастрофічних ризиках, є версією регулювання, з якою галузь може жити, і що раннє формування цієї системи перевершує її пізніше.
Будьте попереду ШІ
Ландшафт штучного інтелекту швидко розвивається — слідкуйте за AI Buzz Wire, щоб дізнаватися про останні новини штучного інтелекту, випуски моделей і аналіз галузі.
Читати більше новин AI →
