Один із «хрещених батьків штучного інтелекту» випустив своє найрізкіше попередження: Джеффрі Хінтон, лауреат Нобелівської премії вчений з інформатики, чиї дослідження лежать в основі сучасного штучного інтелекту, каже, що могло виявитися, що людям було б краще ніколи не розвивати цю технологію. В інтерв’ю The Guardian він також попередив, що штучний інтелект може спровокувати масштабний інцидент — наприклад, тимчасове відключення фінансових або енергетичних систем — цього чи наступного року.
«Можливо, нам було б краще, якби ніколи не розробляли його» Щоб дізнатися більше про цю історію, перегляньте наші поточні [тенденції штучного інтелекту] (https://aibuzzwire.news).
78-річний Хінтон сказав The Guardian, що він не фанатик щодо технології, побудованої на його піонерській роботі зі штучними нейронними мережами. Він вважає, що штучний інтелект все ще має потенціал, щоб забезпечити те, що він назвав «чудовим майбутнім» і «радикальним надлишком». Але він однозначно висловився щодо недоліків: «можливо, нам було б краще ніколи не розробляти його».
Вчений британського походження сказав, що протягом десяти років — а можливо, й раніше — людство дізнається, на якому шляху воно рухається. Або світ керує ризиками, пов’язаними з технологією, і ділиться її здобутками, або, за його словами, «ми не справляємося з ризиками і … маємо величезну прірву між багатими та бідними, величезні культурні проблеми, масове безробіття, суспільство просто розривається».
«ШІ Чорнобиль» може прибути цього або наступного року
Хінтон зробив свої коментарі перед показом нового повнометражного документального фільму «AI: Probably Nothing to Worry About» — назву, як він зазначив, запропонував чат-бот AI. У фільмі Хінтон зіграє разом зі своїм колишнім колегою з Google, керівником DeepMind Демісом Хассабісом, і транслюватиметься на Channel 4 12 листопада о 22:00 у Великобританії.
«Я відчуваю, що маю обов’язок», — сказав Хінтон у документальному фільмі. «Я маю репутацію, яка робить мене прес-секретарем, і мені потрібно спалити все на цьому».
Його попередження спиралося на конкретний прецедент. Хінтон сказав, що він розглядає інцидент цього літа, коли агенти зі штучного інтелекту OpenAI зламали веб-сайт Hugging Face, як індустріальний еквівалент часткового аварії на атомній електростанції Three Mile Island у 1979 році — попереджувальний постріл перед чимось набагато гіршим.
«Або пізніше цього року, або наступного року ми побачимо Чорнобиль, і цього може бути достатньо, щоб люди справді звернули увагу», — сказав він, згадуючи радянську ядерну катастрофу 1986 року.
Під «Чорнобилем» Хінтон не має на увазі ядерну подію. Його приклади: атака з підтримкою штучного інтелекту на систему виробництва електроенергії, яка спричиняє «масовий випадок», або інцидент, який виводить фінансову систему з ладу на тиждень. «Ви можете собі уявити, що станеться? Ми могли б оговтатися від цього [але] це змусило б їх сісти і звернути увагу», — сказав він. На запитання, хто "вони", він відповів: "світові лідери, крім Трампа".
Хінтон про босів ШІ: Альтмана, Маска та Цукерберга
Значна частина критики Хінтона була спрямована на керівників, які очолюють передову гонку ШІ. Він сказав The Guardian, що «зовсім не довіряє Сему Альтману, виконавчому директору OpenAI, який розробляє ChatGPT, і назвав «надзвичайно тривожним» те, що Альтман керує однією з небагатьох передових американських компаній зі штучного інтелекту, які зараз змагаються з Китаєм за створення найпотужнішого ШІ.
«Я думаю, [Марк] Цукерберг, [Ілон] Маск і Сем Альтман, вони розуміють ризики, і їм байдуже. Їм краще мати гроші. Це моє переконання», — сказав Хінтон.
Ця оцінка різко контрастує з публічною позицією Альтмана. The Guardian зазначає, що у вересні Альтман наполягав на тому, що «світ повинен вірити, що ми будемо робити правильні речі, тому що це правильно і тому, що ми відчуваємо масштаб цього». Президент США Дональд Трамп, зі свого боку, заявив, що «повністю відкидає будь-які спроби побудувати глобалістську схему» для контролю над штучним інтелектом і хоче, щоб передові компанії штучного інтелекту регулювали себе на тлі стурбованості тим, що обов’язкові правила можуть перешкодити Сполученим Штатам у їхній конкуренції з Китаєм.
FDA для моделей AI
На цьому тлі Хінтон схвалює більш жорстку регуляторну лінію: план, підтриманий президентом Фінляндії та 32 інших країн, включаючи Сінгапур, Німеччину, Канаду та Австралію, передбачає обов’язкове тестування передових моделей ШІ, незалежну оцінку та спільні міжурядові стандарти.
Він також бачить роль Великої Британії, прем’єр-міністр якої Енді Бернхем заявив, що наступного року використовуватиме головування Британії у G20 для досягнення згоди щодо «єдиного набору глобальних принципів і стандартів, які спрямовані на розкриття повного потенціалу, водночас оберігаючи від ризиків».
Модель, якій Хінтон віддає перевагу, є явно медичною. «Нам потрібне щось на кшталт американського FDA для ліків, де компанії мають надати дуже якісні статистичні докази незалежному органу, що [модель штучного інтелекту] приносить більше користі, ніж шкоди, перш ніж її випустити», — сказав він. «З талідомідом ми виявили, що звільнення, а потім подання до суду на них — це неправильний спосіб зробити це. Великі технологічні компанії кажуть, що ставтеся до цього так, як ми поводилися з талідомідом».
"Я розумію, що ми все ще контролюємо"
Похмурі сценарії надходять від тих, хто має неперевершений авторитет, щоб їх реалізувати. Хінтон працював над штучним інтелектом приблизно 44 роки, винайшов концепцію нейронної мережі в 1970-х роках і отримав Нобелівську премію з фізики 2024 року за основоположну роботу в галузі машинного навчання. Він покинув Google у 2023 році, щоб вільно говорити про ризики, попереджаючи тоді, що якщо системи штучного інтелекту «захопляться отриманням більшого контролю, у нас будуть проблеми».
Його роль викликала порівняння з Дж. Робертом Оппенгеймером — друг навіть купив йому капелюх у стилі Оппенгеймера — але він відкидає аналогію. «Я не був Оппенгеймером», — сказав він, посилаючись на тисячі інших вчених, які внесли свій внесок у сферу нейронних мереж.
Попри всі переповнені роком кадри, Хінтон завершив інтерв’ю на умовній ноті надії. «Я розумію, що ми все ще контролюємо ситуацію», — сказав він. «Можливо, ми зможемо щось зробити. Це спрацює, лише якщо ми докладемо до цього великих зусиль, але ми цілком можемо докласти до цього великих зусиль».
Питання, на яке буде дано відповідь у цьому десятилітті, можливо, задовго до нього, чи докладе світ таких зусиль, на його власному графіку.
---
Будьте попереду ШІОтримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
