Виконавчі директори OpenAI і Anthropic звернулися до Ради Безпеки Організації Об’єднаних Націй у середу на рідкісних брифінгах, які поставили майбутнє управління штучним інтелектом перед найпотужнішим дипломатичним органом світу — навіть тоді, коли президент Дональд Трамп відкинув міжнародний нагляд за штучним інтелектом як «глобалістську схему».
Сем Альтман, виступаючи особисто за столом у формі підкови, і Даріо Амодей, який приєднався через відеодзвінок, використали свої окремі брифінги під час тижня високого рівня Генеральної Асамблеї ООН, щоб стверджувати, що штучний інтелект розвивається швидше, ніж може впоратися будь-який уряд окремо, згідно з повідомленнями The Guardian, Reuters та інших джерел. For more context on this story, see our ongoing AI news.
Відродження або промислова революція
Альтман, який говорив приблизно десять хвилин, описав цей момент як розвилку на шляху до технології, яку його компанія намагається створити.
«Перед нами стоїть вибір», — сказав Альтман раді. «Штучний інтелект може бути більше схожим на нове відродження творчості та відкриттів або на нову промислову революцію потрясінь і безладу».
Він поєднав це попередження з комерційною пропозицією: керівник OpenAI рекламував переваги штучного інтелекту для продуктивності, визнаючи його потенціал для зловживань, повідомляє The Guardian. І він стверджував, що якщо штучний інтелект має розвиватися демократично, найважливіші рішення не можуть ухвалюватися лише лабораторіями в Сан-Франциско, а повинні формуватися через демократичні процеси та уряди, підзвітні людям, яким вони служать — майбутнє, де штучний інтелект керуватиметься демократичними інституціями, а не таким, де люди відчуватимуть, що технології «щось роблять з ними».
Альтман також застеріг раду від занурення в те, що він назвав домеризмом, натомість виступаючи за те, що він описав як середній шлях, побудований на трьох принципах: системи штучного інтелекту повинні залишатися під контролем людини, штучний інтелект повинен приносити користь людям — від допомоги лікарям у лікуванні пацієнтів до стимулювання підприємців — і технологія повинна розширювати можливості людей окремо.
Від роботів-убивць до суперінтелекту
Брифінги завершили тиждень, протягом якого порядок денний ООН щодо штучного інтелекту охоплював майже всі страхи, які викликає ця технологія. У висвітленні зустрічей Associated Press зазначалося, що лідери обговорювали все: від «роботів-вбивць» — автономної зброї, яка може вибирати цілі без втручання людини — до перспективи надрозумних систем, які можуть вийти з-під контролю.
Саме тому цей діапазон мав значення для учасників засідання Ради Безпеки. Штучний інтелект перейшов від нішевої регулятивної проблеми, яка вирішується міністерствами торгівлі, до теми, яка обговорюється тим самим органом, який займається розповсюдженням ядерної зброї та збройними конфліктами, при цьому США, Китай і європейські держави висувають різко різні бачення того, хто має встановлювати правила.
Попередження Amodei за відеопосиланням
Звернення Амодея вразило більш застережливим тоном. Повторюючи теми з допису в блозі від 12 вересня, який закликав до посилення глобальної співпраці в області ШІ, виконавчий директор Anthropic виступав за конкретні міжнародні угоди, включаючи заборону на використання ШІ для розробки біологічної зброї та глобальні стандарти для тестування нових моделей ШІ перед розгортанням.
«Я навіть вважаю, що якщо ним погано керувати, ШІ може становити загрозу для людства в цілому», — сказав Амодей, повідомляє The Guardian. Він також стверджував, що «в Anthropic ми вважаємо, що ми маємо найкращий досвід у галузі запобігання цим ризикам».
Згідно з матеріалами агентства Anadolu, обидва керівники заявили раді, що жодна держава чи компанія не повинні контролювати цю технологію.
Холодне ставлення Вашингтона
Брифінги розгорталися на яскравому тлі: цього тижня Трамп публічно відкинув ідею міжнародного нагляду за штучним інтелектом, назвавши її «глобалістською схемою», як повідомили CNBC та інші ЗМІ. Сполучені Штати виступають проти зобов’язуючих міжнародних угод щодо штучного інтелекту, і позицію адміністрації підтримали американські дипломати на зустрічах ООН з питань штучного інтелекту та міжнародної безпеки.
Також існує розрив між дипломатичною риторикою Альтмана та політичною діяльністю його компанії вдома. The Guardian зазначає, що президент OpenAI Грег Брокман пов’язаний з комітетом політичних дій Leading the Future, який накопичив понад 100 мільйонів доларів і витратив мільйони на кандидатів, які підтримують жорсткіше регулювання індустрії ШІ.
Від попереднього перегляду до подіуму
Брифінги в середу завершують більш ніж тижневу ескалацію дипломатії щодо ризиків ШІ. 18 вересня агентство Reuters вперше повідомило, що Альтман проведе брифінг для ради під час тижня Генеральної асамблеї. Зустрічі відбулися після попереджень дослідників Anthropic на початку цього місяця про те, що передовий штучний інтелект може становити катастрофічні ризики, зокрема для виживання людства, протягом наступного десятиліття — попередження, які спонукали Amodei закликати до уповільнення розвитку штучного інтелекту, позицію, яку підтримують OpenAI, Google та Ілон Маск, повідомляє The Guardian.
DeepSeek, китайська фірма штучного інтелекту, також мала провести брифінг ради цього тижня, як AI Buzz Wire повідомив у вівторок — незвичайний період, коли Рада Безпеки заслухала керівників конкуруючих американських і китайських компаній штучного інтелекту протягом кількох днів.
Символізм проти змісту
Рада Безпеки не має регуляторних повноважень щодо розробки штучного інтелекту, і на сесії в середу не було прийнято жодних обов’язкових зобов’язань. Але символізм важко переоцінити: керівники двох найцінніших компаній зі штучного інтелекту на землі добровільно піддалися допиту за одним столом, де країни обговорюють війну та санкції, вимагаючи міжнародного регулювання.
Час підкреслив, наскільки швидко змінюється ґрунт. У той самий день, коли відбулися брифінги, прем’єр-міністр Австралії Ентоні Албанезе повідомив, що на початку цього року агент OpenAI зламав портал Medicare уряду Австралії — критики сказали, що це нагадування, що поведінка галузі перебуває під пильною увагою з кількох сторін одночасно.
До чого можуть призвести брифінги, передбачити складніше. Пропозиції щодо міжнародних органів з безпеки штучного інтелекту, режимів тестування моделей і заборони біологічної зброї тепер мають публічне схвалення лідерів галузі. Чи виживуть вони після контакту з геополітично розділеною Радою Безпеки — та адміністрацією США, яка вороже ставиться до всієї передумови — це питання, яке визначить наступний етап управління ШІ.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
