Застереження щодо безпеки від дослідників Anthropic, які домінували в дискурсі ШІ цього тижня, тепер дали щось конкретне у Вашингтоні: законодавчий поштовх. Агентство Reuters повідомило в четвер, що законодавці США вимагають нових правил штучного інтелекту у відповідь на заяви дослідників, а представник штату Массачусетс Лорі Трахан використала інтерв’ю в четвер вранці, щоб детально розповісти про свій Закон про кордони, законопроект, який вперше накладає обов’язкові зобов’язання для розробників штучного інтелекту на кордоні.

Виступаючи в ранковому випуску WBUR, Трахан сказала, що реакція на Капітолійському пагорбі на події цього тижня була несхожою на те, чого вона бачила з тих пір, як почала працювати над регулюванням ШІ на початку цього року. Для щоденного висвітлення політичних кроків у сфері штучного інтелекту у Вашингтоні, Брюсселі та за його межами слідкуйте за AI Buzz Wire, вашим джерелом останніх новин щодо штучного інтелекту та оновлень правил.

Що б зробив Закон про кордон

Трахан, який є співавтором двопартійного законопроекту, описав його як набір «правил дорожнього руху» для кількох компаній, чиї моделі можуть завдати катастрофічної шкоди. За словами члена Конгресу, Закон про кордон передбачає чотири речі: вимоги прозорості для розробників штучного інтелекту на кордоні, звітність про інциденти, незалежну перевірку заяв про безпеку моделі та те, що вона назвала державною кнопкою паузи, якщо модель становить неминучий ризик катастрофи.

«На базовому рівні нам потрібно поставити огорожі на передові лабораторії», — сказав Трахан, оформлюючи ці положення як «ставки на столі», поки Конгрес розробляє політику для багатьох інших секторів, яких торкнеться ШІ.

"Система честі": доводи Трахана про обов'язкові правила

Суть аргументу Трахана полягає в тому, що зараз ніщо не зв’язує розробників найпотужніших систем ШІ. «Сьогодні єдине, що ми маємо, — це система честі», — сказала вона. «Найпотужніша технологія в історії людства регулюється її розробниками».

Вона визнала скептицизм серед колег, сказавши, що деякі вважають тижневі попередження викликом страху або надто крайніми. Але вона описала швидку зміну настрою палати: «Мій телефон не перестає дзвонити з тих пір, як Джейкоб Коксон продув у свисток. Я думаю, що мої колеги налякані. Вони чують від своїх виборців, які хочуть, щоб ми діяли... Цей тиждень щойно досяг переломного моменту».

За її словами, тиск не обмежується однією партією. «Це не лише демократи», — сказав Трахан, зазначивши, що «республіканці MAGA вчора закликали до двопартійних дій. Позиція справді змінилася».

Попередження, з яких це почалося

Законодавче бродіння безпосередньо пов’язане з заявами двох дослідників антропології. Джейкоб Коксон покинув компанію у вівторок, написавши в соціальних мережах, що Anthropic «мчить прямо до самовдосконалення суперінтелекту та грає з нашими життями». Колега-дослідник антропології Еван Хабінгер публічно підтримав його, написавши: «Тут Джейкоб має рацію... Ми справді щиро віримо, що штучний інтелект може вбити всіх людей! Я особисто вважаю, що протягом наступного десятиліття це >10%».

Ця історія дала метастази протягом тижня. The Hill повідомила, що після попереджень законодавці били на сполох про небезпеку штучного інтелекту, BBC і CBS висвітлили оцінку ймовірності Hubinger, а NBC News повідомило в четвер про те, що двоє дослідників штучного інтелекту залишили Anthropic і Google через проблеми безпеки, цитуючи одного, який сказав, що «в кімнаті немає дорослих». Агентство Reuters повідомило в четвер, що законодавці вимагають нових правил, а також поширювалися повідомлення про те, що OpenAI звернувся до США з правилами, які регулюють потужні моделі ШІ.

Від попереджень до файлу рахунків

Що відрізняє цей тиждень від попередніх суперечок щодо безпеки, так це швидкість реакції політики. Власне оприлюднення Anthropic цього тижня — звіт про загрози розвідки, в якому детально описуються зірвані кампанії зловживання, включно з можливими спробами використати Клода для розробки біологічної зброї — надали застереженням доказову основу, якої не вистачало попереднім дебатам, і законодавці, схоже, рухаються, поки настає момент.

Попередній шлях для законодавства щодо ШІ

Перспективи Закону про кордон залишаються невизначеними. Конгрес роками намагався прийняти всеосяжне законодавство про штучний інтелект, і будь-який законопроект, який торкається обов’язкової перевірки або федерального призупинення, зіткнеться з інтенсивним лобіюванням з боку лабораторій, які він регулюватиме, а також суперечками за юрисдикцію між комітетами. У стороні штати не чекають: губернатор Каліфорнії Гевін Ньюсом підписав набір законопроектів про безпеку штучного інтелекту на цьому тижні, як повідомляє Los Angeles Times, продовжуючи тиск на федеральну систему, яка випереджає мозаїку штатних правил.

Наразі динаміка змінилася. Уперше в цьому Конгресі люди, які будують передові моделі, публічно вимагають обмежень своєї власної галузі — і законодавці їх розробляють.

Від наступних місяців залежатиме, чи дасть це узгодження закон чи лише заголовки. Але тиждень продемонстрував те, що ні лабораторії, ні їхні критики не можуть ігнорувати: безпека штучного інтелекту перемістилася з семінарської кімнати до підрахунку батогом, а члени, які підраховують голоси, кажуть, що нарешті їхні виборці вимагають від них діяти.

AI Buzz Wire продовжить стежити за Законом про кордони, коли він буде проходити через Конгрес.

---

Будьте попереду ШІ

Отримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.

Читати більше новин AI →