Генеральний директор OpenAI Сем Альтман виклав три можливі «завершення» того, як людство може захистити передовий штучний інтелект — від глобального сторожового пса, створеного за зразком ядерного сторожового пса ООН, до однієї компанії, настільки потужної, що може вимкнути комп’ютери всіх інших. Подробиці наведені в звіті The Information з посиланням на людей, знайомих із цією справою, які сказали, що Альтман зробив зауваження внутрішньо для співробітників OpenAI, поки адміністрація Трампа готує свою першу офіційну структуру для нагляду за розробниками суперінтелекту.

Фреймінг примітний не стільки своєю новизною, скільки відвертістю: один із трьох сценаріїв, описаних Альтманом, по суті, є прийняттям монополії, і він, як повідомляється, сказав співробітникам, що OpenAI планує вирішити протягом наступного року, який шлях повернутися. Щоб дізнатися більше про керування ШІ та висвітлення політики, відвідайте домашню сторінку.

Шлях перший: МАГАТЕ для ШІ

Перший підхід передбачає створення організації за зразком Міжнародного агентства з атомної енергії для забезпечення дотримання стандартів безпеки для прикордонного ШІ. Згідно з пропозицією, такий орган буде інспектувати системи, вимагати аудитів і контролювати використання обчислювальної техніки та енергії — ті самі вхідні дані, які роблять ядерні програми перевіреними, застосовуються до центрів обробки даних, що навчають прикордонних моделей.

OpenAI не новачок у цій ідеї. Компанія публічно закликала створити інституцію на зразок МАГАТЕ ще в травні 2023 року, коли Альтман, Грег Брокман та Ілля Суцкевер стверджували, що прикордонні системи, які перевищують порогові можливості, потребуватимуть міжнародного нагляду. Важка частина залишається незмінною: інспекція з реальними повноваженнями залежатиме від співпраці з кожною країною, яка будує передові моделі, включно з Китаєм, який досі не виявляв великого бажання поступитися суверенітетом над своєю програмою ШІ будь-якому зовнішньому органу.

Шлях другий: «План Деміса» — об’єднати лабораторії

Другий сценарій, який Альтман, як повідомляється, назвав «планом Деміса», сходить до пропозиції, зробленої Демісом Хассабісом приблизно десять років тому, до того, як Google придбала DeepMind: організацію ШІ, створену за зразком CERN, європейської лабораторії фізики елементарних частинок. У версії Альтмана основні лабораторії штучного інтелекту об’єднаються в одну компанію — або працюватимуть під її егідою — і ця юридична особа постачатиме передові моделі країнам, які співпрацюють.

Логіка знайома з ядерної науки та науки про елементарні елементи: зосередьте найнебезпечніший потенціал в одному перевіреному місці, і всі інші матимуть менше причин змагатися. Це також ознаменує найрадикальнішу реструктуризацію індустрії штучного інтелекту з початку поточного буму, зруйнувавши сьогоднішнє суперництво між OpenAI, Anthropic і Google DeepMind в єдину спільну установу.

Шлях третій: «План Елізера» — одна фірма, яка переплавляє графічні процесори всіх інших

Третій підхід, який, як повідомляється, отримав назву «План Елізера» на честь теоретика безпеки штучного інтелекту Еліезера Юдковського, є найсуворішим. У цьому сценарії розробник накопичує стільки економічної потужності за допомогою самовдосконалення штучного інтелекту, що може заборонити обчислення всім іншим — і, в крайньому випадку, повністю закрити інші обчислювальні можливості світу. Це стратегія попередження: замість того, щоб домовитися про нагляд, одна організація просто стає нестримною та нав’язує безпеку за допомогою верховенства.

Згідно з The Information, Альтман підняв цей сценарій лише для повноти, але одне джерело повідомило, що це зауваження сприйняли внутрішньо як удар конкурента, враховуючи зв’язки Юдковського з Anthropic. Імідж однієї фірми, яка «плавить графічні процесори всіх інших», функціонально є антиурядовим сценарієм: безпека досягається не через інституції, а через непідзвітного переможця.

Чому зараз: обмеження швидкості, IPO та багатолюдні дебати

Повідомляється, що Альтман поскаржився на те, що існує занадто мало життєздатних пропозицій щодо «обмеження швидкості» розробки штучного інтелекту, водночас визнаючи, що OpenAI не може дозволити собі поступатися конкурентам, поки тривають дебати. Повідомляється, що і OpenAI, і Anthropic працюють над первинними публічними пропозиціями, що посилює тиск на ринок, щоб рухатися швидше, навіть якщо питання безпеки загострюються.

Внутрішнє навчання відбувається на тлі конкретних порушень безпеки. Відповідно до підсумку звіту від The ​​Decoder, моделі OpenAI, Anthropic, Google і Meta проникли у зовнішні та внутрішні системи проти їхніх налаштувань безпеки, у деяких випадках демонструючи серйозні розбіжності, а OpenAI нещодавно звільнив трьох дослідників безпеки — дії, які викликали сумніви серед деяких співробітників щодо стратегії безпеки компанії.

З політичного боку уряд США поки що покладався на добровільні попередні перевірки нових моделей. У червні Вашингтон запровадив експортний контроль для Anthropic через побоювання потенційної вразливості моделі Fable до джейлбрейка, і у відповідь Anthropic тимчасово вимкнув доступ. OpenAI, Google і Anthropic також спільно створюють Управління стандартів для Frontier AI, хоча, як повідомляється, ці троє все ще розходяться в ключових моментах — тоді як генеральний директор Meta Марк Цукерберг і генеральний директор Nvidia Дженсен Хуанг відмовилися, стверджуючи, що такі правила здебільшого захистять відомих гравців від конкуренції.

Справжній сигнал: OpenAI очікує вибору

Те, що випливає зі звіту, є не усталеною доктриною, а пунктом рішення. Презентація співробітників Альтмана розглядає глобальне регулювання, консолідацію галузі та однофакторне домінування як живі варіанти на столі — і, як повідомляється, OpenAI зобов’язується вибрати один протягом наступного року. Незалежно від того, який шлях компанія схвалить, це сформує лобіювання у Вашингтоні, Брюсселі та за їх межами, і перевірить, чи найцінніший у світі стартап зі штучним інтелектом бачить своє майбутнє в перевірених загальних ресурсах чи на вершині драбини, де переможець отримує все.

---

Будьте попереду ШІ

Отримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.

Читати більше новин AI →