OpenAI тісно співпрацює з конкурентами Anthropic і Google DeepMind протягом кількох тижнів, щоб розробити структуру безпеки штучного інтелекту, підтвердив у вівторок старший керівник, оприлюднивши незвичайний рівень співпраці між компаніями, які жорстко конкурують майже в усьому іншому.
Кріс Лехейн, глобальний керівник політики OpenAI, повідомив журналістам на брифінгу для преси у Вашингтоні, що три лабораторії координують ініціативи щодо безпеки. «Краще спробувати працювати разом, щоб віддати пріоритет безпеці», — сказав Лехейн, згідно зі звітом Bloomberg про брифінг. Його коментарі з’явилися через кілька днів після серії гучних попереджень про вимирання від дослідників, які залишили найбільші лабораторії галузі. For more context on this story, see our ongoing AI trends.
Що насправді покриває співпраця
Лехейн не уточнював конкретний характер роботи, але розголошення стало результатом надзвичайної тривалості публічного позиціонування найвідоміших імен галузі. У суботу виконавчий директор Anthropic Даріо Амодей опублікував есе, в якому закликав галузь штучного інтелекту співпрацювати над уповільненням темпів розробки передових моделей, щоб уникнути того, що він назвав «катастрофічними ризиками».
Виклик отримав несподівану підтримку серед конкурентів: Сем Альтман з OpenAI, Деміс Хассабіс з Google та Ілон Маск підтримали цю думку. Альтман пішов далі, сказавши, що OpenAI буде готовий приєднатися до ініціативи Anthropic щодо включення сторонніх оцінювачів у свої команди розробників для моніторингу безпеки ШІ зсередини. Співзасновник Anthropic Джек Кларк, тим часом, сказав NPR, що уповільнення штучного інтелекту є принципово «проблемою колективних дій», яку жодна лабораторія не може вирішити поодинці.
Однак не всі в OpenAI розглядають дебати про темпи як термінові. Головний фінансовий директор Сара Фріар сказала CNBC, що її не хвилює уповільнення розвитку штучного інтелекту — нагадування про те, що компанія одночасно залицяється до інвесторів за оцінкою на північ від трильйона доларів.
Антимонопольна тінь над співробітництвом
Будь-яка координація між домінуючими лабораторіями ШІ стикається з очевидною юридичною проблемою: антимонопольним законодавством США. Експерти з права попереджають, що домовленості між конкурентами щодо обмеження можливостей їхніх продуктів можуть бути витлумачені як «обмеження виробництва», що є порушенням Закону Шермана.
Ця проблема вже перейшла на Капітолійський пагорб. Сенатори Джим Бенкс із Індіани та Адам Шифф із Каліфорнії запропонували законодавчий акт — Закон про співробітництво в боротьбі з загрозами суперництва та ризиками безпеці — який дозволить лабораторіям штучного інтелекту діяти з метою забезпечення безпеки, навіть якщо ці дії інакше можуть викликати проблеми антимонопольного законодавства. У есе Амодея стверджується, що уряд повинен розглянути можливість надання компаніям звільнення від співпраці з безпеки, хоча Лехейн сказав журналістам, що вважає такий крок непотрібним.
Дженсен Хуанг з Nvidia був ще різкішим. Виступаючи на Dreamforce у вівторок, він назвав пропозицію Anthropic про відмову від антимонопольного законодавства «абсолютно непотрібною», як повідомляє CNBC, підкреслюючи поглиблення розколу між лабораторіями, які закликають до стриманості, і апаратним гігантом, який закликає до прискорення.
"Картель під чужою назвою"
Критики співпраці були різкими. Виконавчий директор Cohere Айдан Гомес написав у дописі в блозі, відповідаючи на есе Амодея, що звернення до безпеки виглядають як спроба провідних лабораторій штучного інтелекту замаскувати антиконкурентну схему, яка б зберегла їх лідерство в розробці передових моделей, дозволяючи «домінуючим на ринку» лабораторіям визначати правила для всіх інших.
«Знову використовуючи страх під приводом захисту громадськості, ці олігополії тепер вимагають порушити правила конкуренції та дозволити їм диктувати умови для всіх інших», — написав Гомес, назвавши угоду «вовком в овечій шкурі, інакше кажучи, картелем».
Президент Дональд Трамп категорично відхилив заклик Амодея до уповільнення, стверджуючи в дописі на Truth Social, що будь-яке уповільнення дозволить Китаю випередити Сполучені Штати в гонці ШІ. Девід Сакс, головний радник Білого дому з питань штучного інтелекту, сказав, що побоювання, що штучний інтелект може становити загрозу існуванню, є надмірними.
Аналітики CNBC помітили, що в дискусії про безпеку та регулювання штучного інтелекту наразі виокремилися два табори: один закликає сповільнити темпи, перш ніж щось піде не так, а інший — серед Nvidia, Білого дому та прихильників відкритої моделі — стверджує, що коливання — це більша небезпека.
OpenAI's Capitol Hill Push
Зауваження Ліхана прозвучали під час брифінгу для ЗМІ у Вашингтоні, де він мав зустрітися з законодавцями. Згідно з публічними заявами компанії та звітами Reuters і Politico, OpenAI підтримує два двопартійні законопроекти.
По-перше, це FRONTIER Act, який передбачає створення федеральної системи безпеки штучного інтелекту та зобов’язує лабораторії штучного інтелекту подавати нові моделі на перевірку незалежним експертам. OpenAI також підтримує захід, який вимагатиме незалежного аудиту моделей ШІ, повідомляє CBS News. Друга пропозиція, яка все ще знаходиться на стадії розробки, — це та, яку лідер більшості в Сенаті Джон Тун розробляє разом із сенатором-республіканцем Тедом Крузом і сенатором-демократом Емі Клобучар. За даними Reuters, цей законопроект надасть міністру торгівлі повноваження піддавати нові моделі перевірці безпеки перед їх випуском. OpenAI окремо схвалив двопартійні плани боротьби з біозагрозами ШІ, повідомляє Politico.
Конвергенція вражає: ті самі компанії, які попереджають про невідомий штучний інтелект, добровільно проводять незалежні аудити, тоді як їхні критики попереджають, що сама співпраця може бути більшою небезпекою. Те, як Конгрес вдягає нитки в цю голку — забезпечуючи співпрацю в галузі безпеки без ліцензування картелю — може визначати політику ШІ на роки.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
