Компанія Anthropic підтвердила, що розповсюджує законопроект серед законодавців США, який створить федеральний механізм для блокування випуску або використання найпотужніших моделей штучного інтелекту, що є однією з найконкретніших спроб передової лабораторії штучного інтелекту сформувати регулювання в США. Про чернетку вперше повідомило Politico в п’ятницю, а представник Anthropic підтвердив її існування AFP.
Ця пропозиція надійшла в той час, коли Конгрес — політично роз’єднаний і сильно лобійований Big Tech — ще не ухвалив жодного федерального закону про штучний інтелект, а підхід Вашингтона за президента Дональда Трампа спирався насамперед на добровільні зобов’язання галузі та виконавчі накази, спрямовані на підтримку буму штучного інтелекту, який, на думку технічних лідерів, рухає економіку країни. Щоб дізнатися більше про цю історію, перегляньте [найважливіші новини про AI] (https://aibuzzwire.news).
Що дасть законопроект
Відповідно до проекту тексту, описаного Politico та AFP, федеральний уряд може заблокувати випуск або використання моделі, якщо існує неминучий ризик того, що вона вбить або серйозно поранить понад 50 людей або спричинить збитки на суму понад 1 мільярд доларів. Важливо те, що ця повноваження супроводжуватиметься судовим контролем: уряд міг діяти лише за схваленням судді.
Комбінація — високий поріг шкоди плюс схвалення суду — здається, розроблена для того, щоб відповісти критикам, які стверджують, що екстремальні пропозиції передадуть виконавчій владі широку владу над індустрією ШІ. Торговельні видання, що висвітлюють цю історію, сформулювали законопроект як план, який дозволить Вашингтону припинити «небезпечне розгортання», водночас обмежуючи, коли уряд взагалі може втручатися.
What Anthropic Says It Requires
Представник компанії сказав AFP, що ця пропозиція «дає федеральному уряду можливість блокувати або стримувати небезпечне розгортання найпотужніших моделей».
«Це вимагає від передових розробників тестувати найпотужніші моделі, бути прозорими для громадськості щодо своїх висновків, подавати їх на незалежну оцінку та підтримувати надійну програму безпеки», — сказав речник.
Ці чотири зобов’язання — тестування, публічна прозорість, незалежна оцінка та безпека — віддзеркалюють зобов’язання щодо безпеки, які Anthropic і кілька конкурентів вже прийняли добровільно. Проект, по суті, перетворить частини цього добровільного режиму на статут.
Чому Anthropic переїжджає зараз
Час має значення з кількох сторін. Конгрес не засідає до проміжних виборів наступного місяця, тому голосування неминуче, але вікно після проміжних виборів може відновити законодавчі переговори, і лабораторії мають стимул підготувати бажаний текст.
Безпека також стала гарячою темою у Вашингтоні після нещодавнього викриття інцидентів, спричинених агентами штучного інтелекту — автономним програмним забезпеченням, яке працює без постійного людського нагляду — яке вийшло з-під контролю їхніх розробників, як зазначає AFP у своєму звіті про проект.
Антропік сам по собі має незвичайну точку зору. Згідно з повідомленням AFP, переданим Punch, у лютому адміністрація Трампа заборонила компанії працювати в Пентагоні, а в червні Вашингтон змусив її призупинити випуск своїх найсучасніших моделей майже на три тижні. Минулого місяця генеральний директор Даріо Амодей закликав індустрію уповільнити розвиток, попередивши, що група агентів ШІ може взяти під контроль «весь Інтернет».
Іншими словами, компанія, яку Вашингтон уже розглядав як джерело ризику, тепер пропонує юридичний механізм для контролю саме за цим ризиком — на умовах, які вона сама написала.
Незвичайна позиція для Frontier Lab
Лобіювання компаній зі штучним інтелектом не є чимось новим, але розповсюдження фактичного проекту закону є кроком далі, ніж позиції та відкриті листи. Він ставить Anthropic у роль співавтора власного режиму регулювання, і він передає законодавцям готову базову лінію, на яку тепер повинні будуть реагувати інші лабораторії, групи громадянського суспільства та оборонні агентства.
Реакція, швидше за все, буде роздільною. Прихильники жорсткої лінії, які хочуть обов’язкових федеральних правил, можуть критикувати 1 мільярд доларів США та 50 потерпілих як зависокі, а вимогу схвалення суддею – як занадто повільну для справжньої надзвичайної ситуації. Представники галузі, які віддають перевагу нинішньому добровільному підходу, можуть взагалі заперечувати проти кодифікації будь-яких повноважень блокування. Обидва табори тепер мають конкретний текст для суперечок, а саме цього не вистачало під час федеральних дебатів.
Що станеться далі
Конгрес ще не визначив автора проекту, і Anthropic публічно не назвав законодавців, які його отримали. У зв’язку з тим, що Конгрес відсутня до закінчення проміжних термінів, більш безпосередній вплив може бути на саму дискусію про політику: законопроект встановлює точку відліку для того, що прикордонна лабораторія вважає прийнятним недоглядом, і будь-яка конкуруюча федеральна пропозиція тепер буде порівнюватися з нею.
Anthropic відмовився вийти за рамки заяви свого речника в звіті AFP. Ця історія буде оновлена, коли з’явиться більше деталей проекту тексту.
---
Отримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
