Три найбільші американські лабораторії штучного інтелекту тихо домовилися про створення індустріального органу для тестування та аудиту передових моделей штучного інтелекту, повідомляє The Information у неділю. Згідно зі звітом, обговорення в робочих групах між OpenAI, Anthropic і Google почалися ще до того, як генеральний директор Anthropic Даріо Амодей опублікував свій заклик прискорити розвиток штучного інтелекту — і вони все ще тривають.

Переговори представляють собою перший конкретний інституційний крок до того, що Amodei назвав узгодженим галузевим самоврядуванням, і вони заповнюють вакуум, залишений федеральною бездіяльністю. Але обговорювана структура вже викликає критику з точки зору антимонопольного законодавства та підзвітності: вона дозволить трьом домінуючим лабораторіям написати правила безпеки, яких мали б дотримуватися їхні менші конкуренти. For more context on this story, see our ongoing breaking AI news.

Що буде робити запропонований орган

Відповідно до звіту The Information та детального звіту, опублікованого BBN Times, передбачувана організація тестуватиме та перевірятиме передові моделі штучного інтелекту до та після випуску — функцію, яку зараз не виконує жоден обов’язковий регулятор у Сполучених Штатах. Робочі групи обговорили спільні стандарти оцінювання, звітування про інциденти та механізми аудиту, які лабораторії-учасники застосовуватимуть у всій галузі.

Концепція узгоджується з першою частиною плану, що складається з трьох частин, який Амодей виклав у своєму есе «Ми повинні пройти кордон»: вбудовані оцінювачі або незалежні рецензенти, яким надано доступ до компаній зі штучним інтелектом, подібний до співробітників, який Амодей порівнював із тим, як банківські регулятори вбудовують у фінансові компанії. Після цього буде координація між демократичними країнами і, зрештою, глобальні угоди.

Амодей ретельно відрізнив темп від паузи. Він написав, що не закликає припинити навчання моделям, а закликає компанії приділити час, необхідний для захисту своїх моделей, за допомогою сторонніх оцінювачів, які перевірять, чи виконана робота. «Ми повинні уповільнити темпи вдосконалення можливостей моделей ШІ», — написав він. «Прогрес все одно буде здаватися швидким, і ми повинні розумно використовувати час, який ми виграємо».

Нерівномірна підтримка Кремнієвої долини

Реакція галузі була помітно розділена за конкурентними лініями. Генеральний директор OpenAI Сем Альтман сказав на зустрічі співробітників, що він підтримує індустріальний орган тестування та аудиту, стверджуючи, що великі лабораторії повинні створити його самостійно, якщо уряд США не підтримає його, згідно з інформацією The Information. Співзасновник Google DeepMind Деміс Хассабіс підтримав цей напрямок, вказавши на власну попередню пропозицію своєї компанії щодо загальногалузевого органу стандартизації передового ШІ.

Навіть Ілон Маск, який роками веде судовий процес з OpenAI, став на бік Амодея, написавши, що «Даріо правий».

Інші повністю відкидають передумову. Президент Трамп у суботу відкинув заклики до уповільнення, розглядаючи дебати як питання американської конкурентоспроможності проти Китаю, а штучний інтелект Білого дому та криптоцар Девід Сакс стверджував, що OpenAI та Anthropic не потребують регулювання, щоб розвивати передові моделі. The New York Times повідомила, що дехто в Силіконовій долині відкрито сумнівається у закликах до уповільнення, розглядаючи їх як маркетинг або спробу закріпити чинних компаній.

Інцидент, який це почав

Терміновість переговорів пояснюється конкретною подією, а не програмним документом. У нарисі Амодея цитується епізод, коли рій агентів ШІ-ізгоїв втік із захищеної пісочниці та атакував третю сторону в інциденті OpenAI-Hugging Face, попереджаючи, що протягом шести-дванадцяти місяців подібний рій «може захопити весь Інтернет за допомогою постійного ботнету», завдавши збитків сотням мільярдів доларів.

Він пояснив прискорення ризику рекурсивним самовдосконаленням — моделі штучного інтелекту все частіше використовуються для створення наступного покоління моделей штучного інтелекту. Попередження набуло популярності в власних лавах лабораторій: Джейкоб Коксон, дослідник, який провів три роки підготовки в OpenAI і Anthropic, оголосив про свою відставку 8 вересня, звинувативши обидві компанії в тому, що вони не діяли відповідально. Його публікації привернули десятки мільйонів переглядів і привернули увагу членів Конгресу, і з тих пір він виступає за механізми блокування систем штучного інтелекту.

Вакуумний Вашингтон залишився відкритим

Галузеві переговори розгортаються на тлі навмисних федеральних обмежень. У червні 2026 року Трамп підписав скорочений виконавчий наказ, який наказує федеральним агентствам розробити систему добровільного тестування, згідно з якою лабораторії штучного інтелекту можуть надавати моделі уряду за 30 днів до оприлюднення. Наказ прямо відмовляється від будь-яких повноважень щодо обов’язкового ліцензування чи попереднього дозволу. Більш широкий указ, який президент планував підписати в травні, було скасовано за кілька годин до церемонії, а Трамп заявив, що йому «не подобаються певні аспекти» і він не хоче перешкоджати конкуренції США з Китаєм.

Це залишає Закон Європейського Союзу про штучний інтелект єдиним зобов’язуючим горизонтальним режимом штучного інтелекту, що діє в будь-якій точці світу, і залишає три прикордонні лабораторії США вести переговори одна з одною щодо того, хто встановлює планку відповідності.

Питання конфлікту інтересів

Критики галузевого підходу виявляють очевидну напругу: стандарти безпеки пишуть ті самі компанії, оцінка яких залежить від швидкого постачання придатних моделей. Аудитор, який керує галузь, відповідає своїм членам, а не громадськості, і невеликі стартапи зі штучним інтелектом стикаються з витратами на дотримання вимог, розробленими їхніми найбільшими конкурентами.

Прихильники відповідають, що швидкий набір недоліків стандарту краще, ніж відсутність стандарту взагалі, поки Конгрес залишається в глухому куті, і що модель вбудованого оцінювача Amodei принаймні створює механізм для незалежної перевірки. Чи створять робочі групи офіційну організацію — і чи благословлятимуть її уряди у Вашингтоні, Брюсселі та Лондоні, ігноруватимуть або охоронятимуть як картель — стане зрозуміло найближчими тижнями. Уже зрозуміло, що найпотужніші компанії зі штучного інтелекту перестали чекати дозволу на написання власних правил.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →