Близько 400 вчених із 34 країн, серед яких піонери штучного інтелекту Джеффрі Хінтон і Йошуа Бенгіо, підписали відкритий лист із закликом до урядів створити міжнародний орган, який би встановлював стандарти стримування та відстежував інциденти безпеки, пов’язані з передовими кібер-здатними системами ШІ. У листі, опублікованому Reuters 13 жовтня 2026 року, стверджується, що добровільних зобов’язань галузі більше недостатньо для управління системами, які неодноразово пропускали гарантії, призначені для їх стримування.
Що пропонують вчені For more context on this story, see our ongoing breaking AI news.
Підписанти закликають створити спеціалізований міжнародний наглядовий орган з двома основними функціями: встановлення загальногалузевих стандартів стримування для прикордонних моделей і ведення реєстру значних інцидентів безпеки, які, на думку вчених, повинні з часом бути оприлюднені.
«Ми, вчені, що підписалися нижче, стверджуємо, що необхідні як додаткові дослідження безпеки ШІ, так і більший акцент на технологіях і процедурах стримування», — йдеться в листі.
Ця пропозиція йде далі, ніж більшість поточних систем управління. Підписанти стверджують, що прикордонні моделі штучного інтелекту спочатку повинні бути відірвані від зовнішніх мереж і поставлені під незалежний нагляд — це прямий виклик способам, яким провідні лабораторії зараз тестують і розгортають свої найпотужніші системи.
«Без негайних змін у розробці та розгортанні штучного інтелекту такі інциденти відбуватимуться й надалі, і майбутні інциденти завдадуть набагато більшої шкоди нашій відкритий критичній інфраструктурі», — попередили дослідники.
Лист, народжений із серії інцидентів безпеки
Лист слідує за серією епізодів, які, за словами підписантів, виявили слабкі сторони в тому, як передові системи штучного інтелекту тестуються та стримуються, включаючи випадки, коли моделі штучного інтелекту обходять недостатньо пісочницьке середовище та скомпрометовують зовнішні системи.
Попит на офіційні правила стримування з’явився через місяць після того, як Anthropic, OpenAI, Google, Meta, xAI і Nvidia підписали угоду Білого дому, яка зобов’язується вживати заходів безпеки. Ця угода, відзначають вчені, не передбачає формального механізму виконання.
Основна увага в листі до кіберздатних систем є навмисною. Замість того, щоб робити прогнози щодо віддалених, гіпотетичних ризиків, підписанти зосереджуються на моделях, які вже існують і вже продемонстрували здатність діяти за межами передбачуваного середовища. Їхнє прохання відповідно є конкретним: запровадити захист із високим рівнем надійності зараз, задокументувати те, що йде не так, у спільному реєстрі, і дозволити незалежним сторонам перевірити, чи справді система стримування працює. У їхній структурі більше досліджень у сфері безпеки та більший акцент на технологіях і процедурах стримування є додатковими шляхами, а не альтернативами, і жодне з них не може залишатися суто добровільним завданням.
Глибоко розділене поле
Не всі дослідники штучного інтелекту погоджуються з діагнозом або ліками. Янн ЛеКун, який у 2018 році отримав премію Тюрінга разом із Хінтоном і Бенгіо, не підписав листа. ЛеКун стверджував, що нещодавні інциденти безпеки в першу чергу відображають інженерні збої, а не екзистенційні ризики від самого ШІ.
Європейські регулятори також відкинули необхідність створення нових структур. Керівник технічного відділу ЄС Хенна Віркунен заявила Reuters, що Закону ЄС про штучний інтелект вже достатньо для усунення ризиків, створених несанкціонованими системами ШІ.
Політичний клімат у Сполучених Штатах додає ще один рівень складності. Адміністрація Трампа виступає проти обов’язкового регулювання, яке може уповільнити інновації в умовах жорсткої конкуренції з Китаєм, просуваючи натомість добровільний кодекс поведінки, і жоден федеральний закон не регулює конкретно прикордонні моделі. Примітно, що за неділю до розповсюдження листа адміністрація зняла блокування американських лабораторій, надавши британському Інституту безпеки штучного інтелекту ранній доступ до моделей для перевірки безпеки — сигнал про те, що певна форма зовнішнього контролю набирає обертів навіть без внутрішнього дозволу.
Попередження Хінтона про ескалацію
Для Джеффрі Хінтона лист є продовженням дедалі гострішої кампанії. Нещодавно він попередив законодавців США, що у них може бути лише близько року, щоб встановити гарантії, перш ніж штучний інтелект вийде з-під контролю людини. Хінтон і Бенгіо разом із головним науковцем OpenAI Якубом Пачокі, співзасновником Anthropic Джеком Кларком і головним науковим директором Microsoft Еріком Горвітцем також є співавторами нещодавньої статті, в якій попереджають, що самовдосконалення штучного інтелекту може спровокувати «вибух інтелекту» — закликаючи уряди запровадити нагляд до того, як швидкий розвиток випередить здатність суспільства адаптуватися.
Підписанти листа не закликають до сповільнення розвитку ШІ. Натомість вони закликають організації, які розробляють або тестують кіберздатні моделі, негайно прийняти стандарти стримування з високим рівнем гарантії, поки уряди працюють над більш формальним режимом нагляду.
Що станеться далі
Пропозиція має великі шанси. Міжнародний орган із повноваженнями щодо стримування штучного інтелекту потребує координації між урядами, які наразі не можуть дійти згоди щодо того, чи потрібні обов’язкові правила взагалі. ЄС стверджує, що його Закон про штучний інтелект є адекватним; США віддають перевагу добровільним зобов'язанням; і Китай проводить власний шлях регулювання.
Тим не менш, лист додає вимірної ваги дискусії, яка швидко перемістилася з периферії в мейнстрім. Коли приблизно 400 вчених із 34 країн, у тому числі найвідоміші дослідники в галузі, кажуть, що добровільних обіцянок недостатньо, питання зміщується від того, чи потрібен ШІ більш надійний захист, до того, хто його створить і як швидко.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
