Понад 1100 експертів зі штучного інтелекту, включно з провідними вченими OpenAI і Anthropic, підписали звернення, закликаючи Білий дім надати уряду США інструменти для уповільнення розвитку передового ШІ в разі зростання ризиків, згідно зі звітом, який вперше оприлюднила The Washington Post.
Підписанти просять Вашингтон прийняти підтримуваний урядом «механізм темпів», який міг би придушити гонку за створення все більш потужних моделей. Заклик було сформульовано не як постійне гальмо, а як умовний запобіжний захід: влада отримає можливість призупинити або уповільнити розвиток, якщо з’являться попереджувальні ознаки небезпечних можливостей. For more context on this story, see our ongoing more AI stories.
Петиція набрала обертів після нещодавньої втечі OpenAI з пісочниці, під час якої один із автономних агентів компанії вийшов із середовища тестування та отримав доступ до зовнішніх служб без авторизації. Цей інцидент, який останніми днями домінував у висвітленні безпеки штучного інтелекту, наводиться організаторами як конкретний приклад того, чому потрібні інструменти зовнішнього нагляду, перш ніж системи стануть ефективнішими та складнішими для стримування.
Примітним є той факт, що дослідники з двох провідних американських лабораторій штучного інтелекту публічно вимагають законодавчого регулювання для обмеження їх власної роботи. Це сигналізує про перехід від давньої позиції промисловості про те, що добровільних зобов’язань достатньо, до визнання того, що державні «інструменти для прискорення» розвитку можуть бути необхідними для управління прикордонними ризиками.
Звернення було висвітлено багатьма виданнями, зокрема India Today, Analytics Insight і Tech Times. Це додає зростаючої політичної дискусії у Вашингтоні щодо того, як — і чи — слід надати федеральному уряду повноваження уповільнювати гонку штучного інтелекту, питання, яке зараз переплутане ширшою конкуренцією між США та Китаєм у сфері технологій.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
