Генеральний директор Anthropic Даріо Амодей заперечив ідею, що він намалював надто песимістичну картину штучного інтелекту, стверджуючи в серії дописів, що зростаюча громадська реакція на цю технологію є «фундаментально кризою довіри» до інституцій, а не результатом попереджень керівників ШІ.
Обмін, про який повідомляє TechCrunch у неділю, почався, коли інвестор Гевін Бейкер стверджував у подкасті All-In і на X, що попередження Amodei про небезпеку штучного інтелекту допомогли розпалити негативну реакцію в Сполучених Штатах, особливо проти центрів обробки даних. Бейкер стверджував, що Амодей «програв аргумент» щодо регулювання штучного інтелекту, і, враховуючи, що «він скоро стане генеральним директором однієї з найважливіших компаній у світі», написав: «Я з повагою вважаю, що він повинен докласти зусиль, щоб бути більш позитивним захисником своєї власної галузі». For more context on this story, see our ongoing AI news.
Відповідь Амодея, опублікована на X, привернула увагу представників індустрії штучного інтелекту через те, що вона розкриває про те, як один із найвидатніших лідерів галузі інтерпретує погані настрої громадськості, а також через надзвичайно відверту самокритику щодо недотриманих обіцянок галузі.
«Прості люди не довіряють компаніям»
У своїх публікаціях Амодей визнав, що «громадськість має негативне ставлення до ШІ», і погодився, що «це велика проблема». Але він відкинув думку про те, що негатив «в першу чергу викликаний» ним «або будь-яким іншим керівником ШІ, який попереджає про ризики ШІ».
«Я думаю, що це фундаментальна криза довіри», — написав Амодей. «Я думаю, що звичайні люди не довіряють компаніям, урядам чи індустрії технологій і завжди підозрюють, що ми готуємо якийсь новий спосіб їх обдурити».
За словами Амодея, це криза, яка тривала десятиліттями, а реакція штучного інтелекту «лише остання її ітерація». Цей коментар припадає на момент видимої напруги між фірмами штучного інтелекту та громадськістю: протести проти будівництва центрів обробки даних поширилися по Сполучених Штатах, а опозиція громади неодноразово відкладала основні будівництва цього року.
Оскарження плати за «негативні повідомлення».
Щодо конкретного звинувачення в тому, що його власне спілкування було надто темним, Амодей був прямим. «Я не згоден з тим, що мої повідомлення були непропорційно негативними», — написав він, зазначивши, що його листи були «приблизно однаково збалансовані між ризиками та перевагами». Він зазначив, що написав своє есе «Машини люблячої благодаті» саме тому, що «не відчував, що індустрія штучного інтелекту малює досить надихаючу картину того, як ця технологія може радикально змінити світ на краще».
Але найбільш цитований уривок відповіді Амодея був спрямований проти його власної галузі — включно з його власною компанією. «Я вважаю, що найбільш точна критика компаній штучного інтелекту, включаючи Anthropic, полягає в тому, що ми ще не виконали своїх великих обіцянок принести користь світу», — написав він. «Це повністю залежить від нас, і я думаю, що ви повинні критикувати, а не всі ці речі про обмін повідомленнями та маркетинг».
Обіцянка того, що штучний інтелект вилікує рак, додав він, є «скоріше кліше, ніж надихає». Що насправді змінило б громадську думку, стверджував він, це «фактично вилікувати рак».
Регулювання боротьби
Амодей також відкинув формулювання Бейкера щодо регулювання, звинувативши його в малюванні «помилкового вибору» між широким розповсюдженням ШІ без правил або концентрацією технології в руках кількох компаній за допомогою правил.
«Я знаю, що існує свого роду скорочення Кремнієвої долини, де регулювання = регулятивне захоплення = концентрація влади, але я завжди вважав, що це надто спрощена картина світу», — написав Амодей. «Багато людей поза цією бульбашкою сприймають регулювання як щось, що обмежує корпоративну владу та приносить користь звичайним людям».
Він сказав, що Anthropic навмисно розробив політичні пропозиції, щоб уникнути закріплення чинних компаній. «Ми дуже стараємось робити пропозиції, які ставлять у невигідне становище (уповільнюють) передові компанії зі штучним інтелектом, водночас віддаючи перевагу меншим конкурентам», — написав він. Anthropic виступає за вимоги щодо прозорості великих компаній зі штучним інтелектом, включаючи законопроект Каліфорнії, який накладає зобов’язання щодо розкриття інформації.
Щодо моделей відкритої ваги — точки спалаху в поточних політичних дебатах, коли Білий дім нещодавно вирішив виключити моделі відкритої ваги з певних федеральних перевірок — Амодей запропонував нюансовану позицію. «Структурно штучний інтелект — це технологія, яка прагне концентрувати владу», — стверджував він. Відкриті ваги «допомагають декому в цьому, але далеко не є достатнім рішенням, тому що вони просто дещо зміщують концентрацію до тих, у кого найбільше обчислювальних ресурсів і мікросхем». За його словами, правильні «правила дорожнього руху» можуть одночасно впоратися з кібернетичними, біоризиками та ризиками вирівнювання, обмежити потужність передових лабораторій і залишити місце для відкритих моделей.
Чому обмін має значення
Дебати припадають на чутливий момент для Anthropic. Компанія перебуває на хвилі комерційного успіху, завдяки зростанню доходів, що зробило її одним із найбільш пильно стежених бізнесів у сфері технологій, і багато хто очікує, що вона продовжить публічний лістинг. Його генеральний директор водночас залишається одним із найгучніших прихильників серйозного ставлення до ризиків, пов’язаних зі штучним інтелектом, — це поєднання робить його повідомлення громовідводом.
Аргумент Бейкера відображає ширшу течію у венчурному капіталі та серед розробників штучного інтелекту: громадський скептицизм щодо штучного інтелекту є здебільшого проблемою комунікації, створеною власною обережністю галузі. Відповідь Amodei фактично перевертає цю концепцію — проблема полягає не в тому, що говорять лідери штучного інтелекту, а в тому, що не вдалося досягти галузі та в тому, наскільки мало громадськість довіряє установам, які створюють технологію.
Для компанії, чий бренд заснований на тому, щоб бути відповідальною лабораторією ШІ, позиція є послідовною. Але поступка Амодея — що найсуворішою та найточнішою критикою є галузевий розрив між обіцянками та виконанням — це надзвичайно відверте визнання генерального директора, чия компанія дала одні з найбільших обіцянок з усіх.
У дописах також описується позиція, яку Anthropic, ймовірно, буде захищати, оскільки у Вашингтоні загострюється політична боротьба: правила прозорості для прикордонних лабораторій, захист, який надає перевагу меншим конкурентам, і відсутність загального припущення, що відкриті ваги вирішують проблему концентрації влади.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
