У четвер король Чарльз III різко попередив про «екзистенціальну небезпеку» штучного інтелекту, звертаючись до керівників Nvidia, Google DeepMind і OpenAI, які зібралися в його маєтку Dumfries House в Шотландії на саміт високого рівня про майбутнє технології.
Монарх сказав зібраним лідерам галузі, що необхідно терміново протистояти ризикам, створеним дедалі потужнішими системами штучного інтелекту, особливо якщо технологія опиниться під контролем зловмисників. For more context on this story, see our ongoing more AI stories.
«Схоже, необхідно терміново адекватно розглянути екзистенційні небезпеки, пов’язані з тим, що такі технології потрапляють у чужі руки та використовуються потенційно катастрофічними способами», – сказав король лідерам, які зібралися в маєтку в Ейрширі, згідно з повідомленнями ABC News та багатьох інших джерел.
Подвійне повідомлення: обіцянка і небезпека
Звернення короля не було повною відмовою від технології. Він визнав, що штучний інтелект має величезний потенціал для добра, вказавши, зокрема, на науки про життя та медицину, де інструменти штучного інтелекту все частіше використовуються для прискорення досліджень і покращення результатів пацієнтів.
Але він поєднав цей оптимізм із застереженням про те, що самі творці технології все частіше попереджають про те, що передові системи можуть розвинути більш темні можливості, «можливо, навіть позбавити життя», — сказав він, згідно з повідомленням мовника про його зауваження.
Король також закликав запровадити запобіжні заходи, поки не стане надто пізно контролювати траєкторію розвитку технології, і підняв питання про вплив розвитку штучного інтелекту на навколишнє середовище, тема, яка привертає все більше уваги, оскільки будівництво центрів обробки даних створює навантаження на електромережі в багатьох країнах.
Хто відвідав шотландський саміт
Список гостей читається як перетин найпотужніших діячів індустрії ШІ. Серед учасників були засновник і виконавчий директор Nvidia Дженсен Хуанг, засновник Google DeepMind Деміс Хассабіс і фінансовий директор OpenAI Сара Фріар, повідомляє ABC News. Також був присутній міністр штучного інтелекту Великобританії Канішка Нараян.
Відповідно до зображень і підписів, поширених Reuters, Хуанга запросили зустрітися з королем, щоб обговорити механізми безпеки галузі. Очікується, що в обговореннях також візьме участь отець Паоло Бенанті, папський радник, який закликав уряди уповільнити розвиток ШІ.
Вибір місця проведення та організатора має значення. Британська монархія не має регуляторних повноважень, але король має довгу історію участі громадськості в нових технологічних ризиках, і саміт дав можливість найвищим особам галузі сісти за спільний стіл у той момент, коли по обидва боки Атлантики посилюються заклики до нагляду.
Пожвавлення дебатів
Зустріч відбувається на тлі відновлення публічних дебатів щодо ризику ШІ. Дискусія знову була в центрі уваги після того, як двоє дослідників Anthropic попередили, що технологія, що швидко розвивається, може призвести до вимирання людства в не дуже віддаленому майбутньому, коментарі, які викликали широке висвітлення та критику в однаковій мірі.
Виконавчий директор Anthropic Даріо Амодей окремо закликав компанії уповільнити темпи розвитку ШІ. Папа Лев XIV закликав уряди в усьому світі уповільнити розвиток систем штучного інтелекту та пом’якшити їх руйнівний вплив, а президент США Дональд Трамп також втрутився в дебати, зробивши питання управління штучним інтелектом справді глобальною політичною проблемою, а не суто технічною.
На цьому тлі зростає занепокоєння тим, що зусилля з безпеки штучного інтелекту відстають від розвитку систем, що стають все більш потужними. Останніми тижнями дебати зосереджувалися на тому, чи може та чи повинна галузь регулювати себе, а скептики сумніваються, чи керівники, які закликають до обережності, можуть мати приховані мотиви, такі як формування правил, які зберігають конкурентне лідерство певних компаній.
Обов'язкових правил не очікується
Організатори ніколи не розглядали шотландську зустріч як переговори. Як повідомляє ABC News, на зустрічі не очікується досягнення будь-яких зобов’язуючих угод. Його мета, принаймні номінально, дослідницька: чи може загальний набір принципів керувати тим, як ШІ застосовуватиметься в різних галузях.
У Букінгемському палаці заявили, що під час обговорення розглядатимуть, чи можна керувати штучним інтелектом «не просто як рушієм можливостей і ефективності, а як інструментом, який підтримує людську гідність і сприяє процвітанню як людей, так і планети».
Таке обрамлення відображає тему, до якої Кінг неодноразово повертався: питання полягає не лише в тому, чи можна зробити ШІ безпечним, а й для чого він має бути. Зауваження в четвер загострили цей момент у попередженні щодо власності та контролю, що значно відрізняється від побоювань, зосереджених на можливостях, які домінують у більшості дискусій про ризики ШІ.
Що станеться далі
Навряд чи саміт виробить політику сам по собі, але він додає імпульс серії офіційних зусиль, які вже здійснюються. Сполучене Королівство позиціонує себе як організатора безпеки штучного інтелекту з часів своїх попередніх самітів зі штучного інтелекту, а присутність спеціального міністра з питань штучного інтелекту сигналізує про те, що уряд має намір продовжувати співпрацювати з розробниками штучного інтелекту як з США, так і з Китаю.
Для компаній у залі розрахунок є делікатним. Nvidia, DeepMind і OpenAI стикаються з комерційним тиском, щоб постачати все більш потужні системи, навіть якщо їхні власні дослідники публікують попередження про те, що ці системи можуть зрештою зробити. Королівський виклик не усуває цю напругу, але гарантує, що напруга залишається видимою.
Основне послання Короля про те, що гарантії повинні з’явитися до того, як технологія позбудеться будь-чиєї можливості керувати нею, припадає на тиждень, коли дискусія про безпеку в галузі була надзвичайно гучною, від розкриття OpenAI численних інцидентів безпеки за участю її власних моделей до ескалації публічної суперечки між керівництвом Microsoft AI та Anthropic щодо того, як слід проектувати системи AI.
Чи призведе зустріч у четвер до чогось більш конкретного, ще невідомо. Але коли керівники найдорожчого у світі виробника мікросхем і найвидатніших лабораторій штучного інтелекту сидять у шотландському заміському будинку, погоджуючись принаймні з тим, що ставки є екзистенційними, розмова про те, хто контролює штучний інтелект і на чию користь, рішуче перейшла у відкриту.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
