Генеральний директор Google DeepMind Деміс Хассабіс запропонував створити незалежний орган зі стандартизації під керівництвом США за моделлю Управління регулювання фінансової індустрії (FINRA) для оцінки та регулювання передових моделей штучного інтелекту перед оприлюдненням, попереджаючи, що у людства є «дорогоцінне вікно» для забезпечення безпечної розробки штучного інтелекту.

У рамковому документі під назвою «Рамки передового штучного інтелекту та настання нової ери», опублікованому X у вівторок вранці, Хассабіс виклав детальну пропозицію щодо того, як Сполучені Штати можуть створити надійну регуляторну інфраструктуру для найпотужніших систем ШІ. План передбачає створення нової організації, яка б випробовувала передові моделі та розробляла найкращі практики для їхнього впровадження — фінансувалась індустрією ШІ, але діяла незалежно від будь-якої окремої компанії.

Щоб отримати останні найновіші новини AI і поглиблений аналіз політики, AI Buzz Wire відстежує події, що формують галузь.

Як буде працювати запропонований орган стандартів

Згідно з пропозицією Хассабіса, лабораторії штучного інтелекту добровільно нададуть свої граничні моделі органу зі стандартизації для перевірки за 30 днів до публічного випуску. Ця оцінка перед розгортанням оцінюватиме моделі щодо безпеки, безпеки та потенційних ризиків неправильного використання. Після того, як протокол оцінки буде доведено ефективним і надійним, структура передбачає формалізацію процесу, щоб передові моделі мали пройти його перед розгортанням на ринку США.

Пропозиція безпосередньо усуває прогалину, виявлену під час нещодавніх урядових перевірок прикордонних систем ШІ. На початку цього року уряд США провів спеціальні перевірки безпеки моделі Mythos від Anthropic і моделі Sol від OpenAI перед їх відповідними релізами. Ці огляди викликали серйозну критику через брак технічної глибини та непрозорість прийняття рішень про те, коли модель вважається достатньо безпечною для публічного розгортання.

Відповідно до системи Hassabis, ці рішення прийматиме спеціальна організація, укомплектована технічними експертами, за підтримки уряду США, але ізольована від політичного тиску. Лабораторії також повинні будуть співпрацювати з органом стандартів, щоб усунути критичні вразливості, виявлені після випуску.

«Дорогоцінне вікно» перед AGI

В інтерв’ю Axios, CNBC і The Economist, які супроводжували випуск фреймворку, Хассабіс підкреслив, що нинішній момент являє собою обмежену можливість створити механізми управління до того, як з’явиться штучний загальний інтелект. Він описав цей період як «дорогоцінне вікно», маючи на увазі, що вікно не залишатиметься відкритим нескінченно довго.

Hassabis давно є прихильником проактивного управління ШІ. Його концепція з’являється на тлі загострення дебатів щодо того, чи повинні Сполучені Штати створити офіційний регулятор ШІ, і якщо так, то яку форму він має мати. Модель FINRA примітна тим, що саморегулівна організація фінансової індустрії фінансується фірмами-членами, але працює під наглядом уряду, що дає їй як галузевий досвід, так і публічну підзвітність.

Опір з боку адміністрації Трампа

Пропозиція стикається зі значними політичними перешкодами. Адміністрація Трампа виявила глибокий скептицизм щодо створення нових регуляторних органів для штучного інтелекту. Радник Білого дому зі штучного інтелекту та генеральний партнер a16z Шрірам Крішнан, який з тих пір залишив свою посаду, публічно відкинув ідею регулятора штучного інтелекту в рамках виконавчої влади, прямо заявивши, що «не буде FDA для ШІ».

Така позиція призвела до розбіжності між представниками адміністрації та деякими найвидатнішими лідерами галузі. Хоча такі компанії, як Anthropic і OpenAI, широко підтримують тестування безпеки перед розгортанням, механізм і повноваження для такого тестування залишаються суперечливими. Пропозиція Hassabis намагається втягнути нитку в цю голку, позиціонуючи орган стандартизації як фінансований галуззю та добровільний спочатку, з формалізацією лише після того, як процес доведе свою цінність.

Спираючись на наявні зусилля

Фреймворк не починається з нуля. Він ґрунтується на добровільних зобов’язаннях, які вже взяли на себе кілька прикордонних компаній штучного інтелекту щодо перевірки безпеки та ред-теамингу. Він також спирається на міжнародні зусилля, зокрема Інститут безпеки штучного інтелекту Великобританії та Хіросімський процес штучного інтелекту Великої сімки, які створили попередні рамки для оцінки передових моделей.

Проте пропозиція Хассабіса йде далі, закликаючи до створення постійної, забезпеченої ресурсами організації з мандатом тестувати кожну прикордонну модель перед випуском — рівень контролю, який не забезпечує жоден поточний орган. Аналогія FINRA передбачає масштабну професійну операцію за участю сотень технічних експертів, а не маленьку консультативну групу.

Пропозиція також стосується моніторингу після розгортання, вимагаючи від лабораторій працювати з органом стандартизації щодо вразливостей, виявлених після того, як модель стане загальнодоступною. Це свідчить про зростаюче визнання того, що ризики для безпеки не закінчуються після запуску, як продемонстрували випадки втечі з в’язниці та випадки неправильного використання, які з’явилися після кількох резонансних випусків моделей.

Відповідь галузі та наступні кроки

Структура привернула значну увагу в спільноті політиків ШІ. Прихильники стверджують, що надійний режим тестування перед розгортанням може зміцнити довіру громадськості до прикордонних моделей і зменшити ризик катастрофічного неправильного використання. Критики, включно з деякими прихильниками вільного ринку, попереджають, що вимога обов’язкового тестування може закріпити провідних компаній, створюючи регуляторні бар’єри для менших компаній і розробників з відкритим кодом.

У пропозиції Хассабіса не вказано, які моделі можна вважати «прикордонними» — це порогове питання, яке визначатиме масштаб будь-якого майбутнього режиму регулювання. Це також залишає відкритим питання про те, як орган зі стандартизації оброблятиме секретні додатки або додатки подвійного призначення, особливо з огляду на нещодавні занепокоєння щодо використання моделей ШІ для злому секретних систем США.

Час пропозиції обдумано. У зв’язку з тим, що протягом наступних кількох років AGI стає все більш правдоподібним, Hassabis наполягає на тому, що інфраструктуру управління потрібно будувати зараз, а не після появи небезпечної можливості. Чи піде Вашингтон на його заклик, ще невідомо.

Будьте попереду ШІ

Для повного висвітлення політики, регулювання та галузевих розробок відвідайте AI Buzz Wire.

Читати більше новин AI →