Білл Гейтс, колись один із найвидатніших оптимістів технологічної індустрії ШІ, тепер попереджає, що штучний інтелект є більш небезпечним, ніж галузь публічно визнає. У своєму есе із майже 6000 слів у своєму блозі Gates Notes та супровідному інтерв’ю The New York Times, опублікованому цього тижня, співзасновник Microsoft описує перехід до епохи штучного інтелекту як «один із найбурхливіших часів в історії людства» — і каже, що світ не планує це робити.
Його найбільш різка критика спрямована на його власну галузь, яку він звинувачує в навмисному применшуванні небезпек, оскільки на кону занадто великі гроші. For more context on this story, see our ongoing AI news.
«Дуже хвилюється» наодинці, мовчить на людях
«У приватному порядку люди, які розуміють, наскільки це добре і наскільки краще воно стає, вони дуже стурбовані», — сказав Гейтс Times. Публічно, за його словами, одні й ті самі люди говорять один одному: «Гей, чувак, не кажи так. Це погано для нас — наступний трильйон доларів, який ми намагаємося зібрати».
У цьому есе відкидається традиція, яку вважають за краще в галузі, компанії повинні контролювати самі себе. «Саморегуляція на найнебезпечнішому інструменті, який будь-коли винайшов? Ні, дякую!» – пише Гейтс.
Три небезпеки, до яких Гейтс каже, що світ не готовий
Ґейтс структурує своє попередження навколо трьох ризиків, які Fortune узагальнив як «затримку розвитку» дитини, осміливість злочинців і зникнення робочих місць для покоління Z — ризики, до яких, на його думку, світові лідери не готові.
Постійна втрата роботи. Ґейтс очікує, що посади початкового та середнього рівнів у продажах, обслуговуванні клієнтів, розробці програмного забезпечення та юридичній підтримці будуть уражені першими, а робота синіх комірців буде під тиском, коли спритні роботи стануть різко дешевшими — розвиток, за його словами, відбувається переважно в Китаї. Він вказує на дослідження Стенфордського університету, які показують, що з моменту поширення штучного інтелекту зайнятість серед молодих працівників на найнебезпечніших робочих місцях вже помітно знизилася, тоді як старших колег досі не було. Біозброя. Крім ринку праці, Гейтс попереджає, що штучний інтелект знижує бар’єр для невеликої групи людей, які мають доступ до передових моделей для розробки нових патогенів. Він визнає незручну реальність, що корисні та небезпечні можливості важко відокремити: та сама модель, яка знаходить дірку в безпеці, щоб закрити її, може допомогти комусь використати її. Штучні компаньйони, що викликають звикання. З особистого боку Гейтс вказує на психологічну та соціальну шкоду від чат-ботів, які ніколи не заперечують і завжди доступні. Він посилається на дослідження Стенфордського університету та Карнегі-Меллона, які показують, що чим інтенсивніше й емоційніше люди користувалися цими системами, тим гірше вони себе почували — особливо турбуючись про дітей і розмивання критичного мислення в епоху глибоких фейків і спеціалізованої дезінформації.Чому Гейтс вважає, що цього разу все інакше
Частково впевненість галузі ґрунтується на історії: минулі технологічні потрясіння зрештою створили більше робочих місць, ніж знищили. Гейтс називає цей комфорт помилкою, описуючи епоху штучного інтелекту як «зовсім, абсолютно, повністю, абсолютно відмінну» від минулих змін.
На відміну від персонального комп’ютера, на переробку якого знадобилося два десятиліття, ШІ працює на пристроях, які вже є у людей, і розмовляє простою мовою. «Ми не повинні адаптуватися до цього, тому що він може адаптуватися до нас», – пише він. Вперше технологія може замінити, а потім перевершити людське пізнання в різних галузях за одне десятиліття, а не через покоління.
Дзвінок для пробудження, каже Гейтс, прийшов з його власної домашньої території: програмування. Клод Код від Anthropic, як він сказав Times, шокував його. «Ідея про те, що зараз ці речі в певному сенсі кращі, ніж я, схожа на: «Що в біса?»
Податки, угоди та вакансії, захищені людьми
Рецепти Гейтса є конкретними. Він закликає до демократичного процесу та створення нових національних і міжнародних наглядових інституцій за зразком режимів, створених для ядерної зброї, авіації та захисту озонового шару. Він пропонує символічний податок на використання штучного інтелекту та роботів, вказуючи на асиметрію в поточній системі: наймання людини спричиняє сплату податків із заробітної плати, тоді як купівлю робота можна негайно списати — фактично субсидуючи автоматизацію.
Він також стверджує, що певні види роботи, зокрема догляд, повинні залишатися зарезервованими для людей, ідея, яку він називає «Human Reserved».
Ґейтс відкрито визнає можливий конфлікт інтересів: він все ще має фінансові зв’язки з технологічною індустрією, хоча, за його словами, прибутки надходять до Фонду Гейтса. І він обережно відзначає величезні переваги технології — у науці, охороні здоров’я, сільському господарстві в бідних країнах та освіті — стверджуючи лише, що ці переваги мають бути забезпечені політикою, а не залишатися на волю ринкових сил.
Гартуючий тон із великою кількістю компанії
Зрушення в риториці Гейтса різкі. У 2018 році він описав штучний інтелект як суттєво краще програмне забезпечення та сподівався на більш тривалу відпустку. У 2022 році він стверджував, що переміщені працівники будуть поглинені доглядом за літніми та дітьми. Ще у вересні 2024 року він сумнівався, що ШІ кардинально змінить проблему дезінформації.
Він також не самотній. Генеральний директор Anthropic Даріо Амодей попередив про біологічну зброю, створену ШІ, у 2024 році та передбачив у 2025 році, що до половини офісних вакансій початкового рівня може зникнути, а рівень безробіття зросте до 10–20 відсотків. Амодей також запровадив символічний податок. А дослідники Гері Маркус і Анка Руел ще в 2023 році запропонували створити глобальне некомерційне агентство ШІ за зразком Міжнародного агентства з атомної енергії.
Різниця зараз полягає в месенджері: людина, яка перетворила індустрію ПК на глобальну силу, дійшла висновку, що ця хвиля не дотримується старих правил — і що чекати, поки індустрія виправиться сама собою, не є планом.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
