Папа Лев XIV заявив у понеділок, що занепокоєння з приводу того, що штучний інтелект може стати шахраєм, не є «фейковими новинами» і їх слід сприймати серйозно, різко критикуючи керівників технологій, які стверджують, що технологія повинна розвиватися без урядових огорож. Виступаючи на прес-конференції на борту папського рейсу, який повертався до Риму після чотириденного візиту до Франції, Папа також прицілився — спочатку не називаючи його імені — щодо позиції генерального директора Nvidia Дженсена Хуанга проти регулювання ШІ, згідно з повідомленнями AFP, AP і Reuters, переданими Al Jazeera.

Зауваження припадають на горючий момент для політики штучного інтелекту. У вівторок президент Дональд Трамп має намір прийняти в Білому домі технічних лідерів, у тому числі Марка Цукерберга з Meta та Даріо Амодея з Anthropic, як повідомляє Reuters, при цьому галузь відступає від регулювання, навіть якщо провідні вчені попереджають про катастрофічні ризики. Для читачів, які відстежують зіткнення між урядами та індустрією ШІ, [AI Buzz Wire стежить за останніми розробками ШІ] (https://aibuzzwire.news) від Вашингтона до Брюсселя та Ватикану.

"Стурбованості слід сприймати серйозно"

Під час прес-конференції в літаку Папу запитали про те, що мають зробити Сполучені Штати та Китай — дві наддержави світу зі штучним інтелектом — щоб запобігти створенню ШІ катастрофічних ризиків для людства. Раніше Трамп називав занепокоєння з приводу того, що ШІ стане шахраєм, «обманом».

«Я справді вважаю, що занепокоєння багатьох експертів, спеціалістів з штучного інтелекту, слід сприймати серйозно», — сказав понтифік, наполягаючи на тому, що питання безпеки, які піднімають експерти зі штучного інтелекту, слід як обговорювати, так і діяти. Він закликав світ «сприяти діалогу, вивченню, розслідуванню, щоб знайти способи переконатися, що штучний інтелект не досягне точки, коли він зможе знищити людство».

Обмін з Дженсеном Хуангом

Найважливіший момент настав, коли Лео згадав оголошення, про яке, за його словами, читав щойно того ранку: про те, що глава виробника мікросхем Nvidia описав спосіб вставлення огорож у певні моделі ШІ. Папа висловив відкритий скептицизм щодо месенджера.

«Однак він той самий, хто каже, що не повинно бути жодних обмежень і державних регулювань», — сказав Лео — це прямий удар по Хуангові, який, згідно з загальними звітами, раніше цього місяця сказав CBS News, що погоджується з Трампом у тому, що занепокоєння щодо безпеки штучного інтелекту перебільшені.

Оголошення, на яке посилався Папа, здається, є нещодавно оприлюдненою Nvidia Open Agent Safety Platform, апаратно-програмним засобом, призначеним для контролю за автономними агентами ШІ та запобігання їм від шахрайства. Спостерігачі не втратили іронії: найдорожча компанія галузі зараз продає технології безпеки, водночас лобіюючи проти урядового регулювання, яке, на думку прихильників безпеки, необхідно для його дотримання.

Папство, побудоване на попередженнях ШІ

Коментарі в понеділок розширюють те, що стало визначальною темою 16-місячного папства Лева. Перший американський Папа назвав штучний інтелект одним із найбільших викликів, з якими зіткнулося людство за кілька днів після свого обрання, і присвятив свою першу енцикліку штучному інтелекту та захисту людства, зробивши незвичний крок, особисто представивши документ разом із співзасновником Anthropic Крістофером Олахом на заході у Ватикані у травні.

За правління Лео Ватикан постійно посилював свою риторику та ініціативи на користь міжнародного управління штучним інтелектом, приділяючи особливу увагу таким сферам, як ядерні технології, культура та творчість. Травневий запуск енцикліки був частиною цілеспрямованих зусиль Ватикану безпосередньо залучити Кремнієву долину до людських витрат, пов’язаних зі штучним інтелектом, — охоплення, яке тепер поширюється на публічно складних керівників. Папа Римський сказав, що зусилля зі скликання осіб, які приймають рішення, повинні продовжуватися: «Нам потрібно продовжувати запрошувати політичних лідерів, лідерів штучного інтелекту, громадські організації, асоціації зібратися разом і подивитися, що вже відбувається і що може бути в майбутньому».

"Я думаю, що є достатньо людей, які серйозно зацікавлені в цьому… але ми повинні продовжувати працювати", - додав він.

Чому Папа лізе під шкіру Кремнієвої долини

Втручання Лео має значення, оскільки воно спрямоване на центральне протиріччя в поточному стані галузі. Останніми тижнями OpenAI скасував випуск граничної моделі через помилки вирівнювання, Nvidia та інші лабораторії поспішили розробити продукти захисту від агентів, а відомі вчені, зокрема Джеффрі Хінтон і Йошуа Бенджіо, попередили про несподіваний «вибух інтелекту» — фактично в той самий день, коли це було зроблено Папою. Проте провідні голоси галузі продовжують стверджувати, що державне регулювання придушить інновації.

Послання Папи полягало в тому, що обидві речі не можуть бути правдивими одночасно: якщо ризики достатньо реальні, щоб виправдати продаж програмного забезпечення безпеки, вони достатньо реальні, щоб виправдати правила. Цього тижня Білий дім розгортає червону доріжку для керівників штучного інтелекту, і Лео позиціонує Ватикан як одну з небагатьох глобальних інституцій, які хочуть сказати це прямо.

Будьте попереду ШІ

Слідкуйте за глобальною боротьбою за майбутнє ШІ. Читати більше новин AI на AI Buzz Wire.

Останні розробки ШІ →