OpenAI підтвердила, що вона, Anthropic і Google DeepMind вели переговори щодо координації безпеки штучного інтелекту протягом кількох тижнів, і заявила, що підтримує законодавство, яке змусить прикордонні лабораторії відкрити свої двері для незалежних перевірочних організацій.

Кріс Лехейн, головний директор із глобальних справ OpenAI, оголосив про це на зустрічі у вівторок, повідомляє TechCrunch. Reuters і Bloomberg, посилаючись на ті самі зауваження, повідомили, що OpenAI співпрацює з Anthropic і Google над безпекою ШІ. Підтвердження перетворює тижні натяків, зокрема інтерв’ю Fortune, у якому Сем Альтман визнав приватні дискусії з іншими керівниками штучного інтелекту, на явне визнання того, що три провідні передові лабораторії світу координують свою роботу щодо того, наскільки швидко вони рухаються та як перевіряються їхні моделі.

Для читачів, які слідкують за ширшою політичною перестрілкою навколо уповільнення ШІ, висвітлення [оновлень штучного інтелекту] (https://aibuzzwire.news) цього тижня варіювалося від співзасновника Anthropic Джека Кларка, який схвалив обов’язкове вимикання, до того, як президент Трамп назвав побоювання щодо безпеки обманом під час розмови з Nvidia Дженсеном Хуангом.

Підтвердження за кілька тижнів

Ці переговори відбулися після есе, опублікованого в суботу генеральним директором Anthropic Даріо Амодеї, який закликає галузь працювати разом, щоб уповільнити темпи передового розвитку ШІ, щоб уникнути катастрофічних ризиків. Лист отримав підтримку з боку всієї галузі: Альтман, Деміс Хассабіс із Google та Ілон Маск підтримали заклик до дії, а Альтман сказав, що OpenAI приєднається до цих зусиль.

Пізніше The Information повідомляло, що три компанії працювали над створенням органу стандартизації для індустрії ШІ. Hassabis має досвід реалізації цієї ідеї: у липні він закликав Сполучені Штати створити новий орган зі стандартизації, який би діяв як сторожовий пс штучного інтелекту, маючи повноваження перевіряти найдосконаліші моделі у світі та координувати уповільнення в галузі в разі прогресування небезпеки.

Те, що додає Лехейн, є офіційним підтвердженням. Досі представники лабораторій здебільшого схилялися до неформального діалогу; Керівник відділу глобальних справ OpenAI зафіксував координацію.

Антимонопольна тінь

Будь-яка угода між прямими конкурентами щодо сповільнення розвитку викликає очевидні антимонопольні запитання, і лабораторії це знають. Сам Альтман зазначив, що такі переговори можуть поставити компанії під загрозу порушення антимонопольного законодавства, якщо виявиться, що координація пригнічує конкуренцію. У есе Амодея запропоновано вузьку державну відмову, яка дозволила б координувати безпеку без ініціювання закону про конкуренцію, що свідчить про те, наскільки серйозно це питання сприймається всередині компаній.

Критики поспішили вказати на напругу в основі домовленості: три фірми, які володіють найбільшими частками ринку передового штучного інтелекту, спільно вирішують розподілити зовнішній вигляд прогресу, для скептиків, наприклад, картельну поведінку з обгорткою безпеки. Прихильники заперечують, що катастрофічний ризик — це саме та проблема, яку конкуренти не можуть вирішити в односторонньому порядку, оскільки будь-яка лабораторія, яка сповільнюється самостійно, просто поступається кордоном суперникам.

OpenAI підтримує сторонні перевірки

Найбільш конкретні політичні новини у зауваженнях Лехане стосуються законодавства. Він сказав, що OpenAI підтримує положення Закону FRONTIER, яке вимагатиме від провідних прикордонних лабораторій допускати «незалежні перевіряючі організації» до своїх компаній, щоб переконатися, що моделі розробляються безпечно. Politico повідомило, що OpenAI підтримує двопартійний план Палати, побудований на основі оцінок безпеки третьої сторони.

Така позиція була б немислимою для галузі два роки тому, коли добровільні зобов’язання та внутрішні червоні команди були галузевим стандартом. Тепер це узгоджує OpenAI з позицією першочергового аудиту, яку Anthropic давно пропагує, і це створює рідкісну точку згоди між лабораторіями та крилом політичних дебатів, які провели рік, вимагаючи обов’язкового контролю.

Це також створює зіткнення з Білим домом. Президент Трамп відкинув питання безпеки як обман і стверджував, що будь-яке уповільнення дасть Китаю перевагу в гонці ШІ. Його радник зі штучного інтелекту Девід Сакс, давній інвестор із особистими частками в усій галузі, назвав побоювання екзистенціального ризику надмірними. У Великій Британії міністри залишаються публічно розділеними щодо того самого питання: одна фракція закликає уряд прислухатися до попереджень експертів, тоді як бізнес-секретар Рейнольдс відхилив розмови про вимикач для передових систем.

Політична боротьба без нейтральної землі

Найближчі тижні перевірять, чи витримає координація лабораторій контакти з органами конкуренції та скептично налаштованим керівництвом. Організація зі стандартизації, створена трьома компаніями, які контролюють кордон, зіткнеться з вимогами включити незалежних директорів, опублікувати свої критерії та подати на розгляд уряду — або буде звільнено як приватний картель у публічному одязі.

Щодо Закону FRONTIER, схвалення OpenAI дає авторам законопроекту підтримку в заголовку, але також створює нову лінію атаки для опонентів, які стверджують, що найбільші лабораторії просто захоплюють сферу регулювання, пишучи правила, яких вони можуть собі дозволити дотримуватися. Менші лабораторії та спільнота відкритих ваг, яка не має місця на переговорах, уважно спостерігають: який би режим перевірки не з’явився, визначатиме витрати на дотримання вимог для всіх, хто знаходиться за кордоном.

Що вже не викликає суперечок, так це сам факт узгодження. Три компанії, які визначають передовий край штучного інтелекту, зараз відкрито обговорюють, як швидко працювати, і запрошують уряд допомогти в судді.

---

Будьте попереду ШІ

Отримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.

Читати більше новин AI →