Хвиля публічних попереджень з боку Anthropic посилилася цього тижня, оскільки кілька дослідників компанії AI повторили апокаліптичну оцінку штучного інтелекту колишнього колеги, викликавши презирливу відповідь Ілона Маска, який припустив, що це обурення було скоординованою «псіопією».
Згідно з The Guardian, ескалація сталася наступного дня після того, як дослідник Anthropic Джейкоб Коксон оголосив про свою відставку у вірусному дописі, написавши, що ні Anthropic, ні OpenAI — його колишній роботодавець — не створювали моделі штучного інтелекту відповідально і «грали нашим життям». Замість того, щоб згаснути, полеміка зросла, оскільки поточні співробітники Anthropic опублікували власні жахливі оцінки на підтримку. For more context on this story, see our ongoing more AI stories.
Попередження накопичуються
Анна Ван, яка працює над безпекою штучного інтелекту в Anthropic і раніше працювала в Google DeepMind, сказала в четвер, що багато людей в компанії хочуть уповільнити розробку, щоб спланувати ризики, пов’язані зі все більш потужними моделями.
«Ще немає життєздатного наукового плану вирішення ризиків, пов’язаних із рекурсивним самовдосконаленням ШІ», — написав Ван на X.
Інший співробітник Anthropic, Дрейк Томас, сказав, що поважає рішення Коксона відмовитися від створення технології. «Речі рухаються надто швидко, ми не маємо й близького рівня впевненості, який ми хочемо для ASI [штучного суперінтелекту]», — написав Томас.
Семюел Маркс, який працює над дослідженнями безпеки в компанії, стверджував, що занепокоєння широко поділяються в галузі — і що стаж пов’язаний із тривогою. «Розробники штучного інтелекту вважають, що їх технологія може призвести до вимирання людства (або подібних поганих результатів)», — написав Маркс. «Це може статися в найближчі кілька років. Загалом, чим старший працівник, тим більше він стурбований».
Еван Х'юбінгер, який називає себе керівником підрозділу Anthropic, пішов далі. «Ми справді щиро віримо, що ШІ може вбити всіх людей!» Хабінгер написав, додавши, що він особисто оцінює ймовірність вище 10 відсотків протягом наступного десятиліття.
Інсайдерські нотатки слідують за повідомленнями CBS News про те, що дослідник антропології присвоїв більше ніж 10-відсоткову ймовірність штучного інтелекту, що спричинить вимирання людства, а також повідомлення The Japan Times про те, що попередження знову призвели до нових правил штучного інтелекту в Сполучених Штатах.
Маск: «Схоже на підстановку»
Ілон Маск зайняв різко ворожу точку зору. «Схоже на підстановку», — написав найбагатша людина світу на своїй соціальній платформі X.
Коксон відповів, зробивши селфі: «Я справжній, і це мої справжні переконання. Ви могли б запитати про мене своїх дослідників xAI, якби ви їх не звільнили».
Маск та інші співчуваючі голоси посилили теорію, висунуту Паркером Тейєром, дослідником консервативного аналітичного центру Capital Research, який припустив (з невеликими доказами, зазначає The Guardian), що пост Коксона був першим кроком у «ДУЖЕ складній і добре фінансованій піар-операції, щоб отримати підтримку для демократів у регулюванні ШІ на забуття».
Менеджер хедж-фонду-мільярдера Білл Акман процитував пост Тайєра з однослівною відповіддю: «Цікаво».
Пізніше Маск уточнив. «Я думаю, що основа для цієї психооперації (через відсутність кращого терміну) була підготовлена протягом тривалого часу», — написав він. «Це був лише той сірник, який запалив вогонь».
Anthropic захищає свій підхід
Опинившись між застереженнями власних співробітників і нападами ззовні, Anthropic запропонував виважену громадську реакцію.
«Ми завжди були прозорими, що штучний інтелект принесе як величезні переваги, так і безпрецедентні ризики», — сказав The Guardian представник компанії. «Щоб усунути ці ризики, ми продовжуємо створювати моделі з одними з найсильніших гарантій у галузі».
Компанія вказала на свій досвід документування та припинення зловживань. Того ж дня, коли попередження стали вірусними, Anthropic опублікувала вересневий звіт про розвідку про загрози, в якому детально описано, як компанія припинила операцію зі створення біологічної зброї за допомогою своїх моделей штучного інтелекту — разом із зривами кампаній, що охоплювали кібератаки та операції впливу. Аль-Джазіра та BBC були одними із засобів масової інформації, які висвітлювали відкриття біологічної зброї в п’ятницю.
Скептики бачать інший ризик
Не всі сприймають обрамлення вимирання. Гері Маркус, науковець і давній критик штучного інтелекту, стверджував, що технологія вже завдає шкоди, яка вимагає дій незалежно від сценаріїв суперінтелекту, закликаючи до бойкоту ШІ через сучасну шкоду.
Більше, ніж вимирання, Маркус сказав The Guardian, що його хвилює «ризик катастрофи» через «патогени, створені штучним інтелектом, війни, розпочаті або посилені дезінформацією, створеною штучним інтелектом, хаки, які руйнують критичну інфраструктуру тощо. Ніщо з того, що я бачив, не вказує на те, що все це під контролем».
Його позиція підкреслює розкол у самій дискусії про безпеку штучного інтелекту: на тих, хто зосереджений на довгостроковому ризику масштабу цивілізації від майбутніх систем, і тих, хто зосереджений на конкретній шкоді від сучасних моделей.
Дебати, які відмовляються залишатися внутрішніми
Те, що почалося як заява про звільнення одного дослідника, стало публічним референдумом про те, як індустрія штучного інтелекту створює свої найпотужніші системи. Всередині Anthropic співробітники відкрито обговорюють, чи не пройшли їхні власні терміни безпечної розробки. За його межами застереження перетворюються на все більш поляризовану політичну боротьбу за те, чи повинні уряди втручатися і як.
Звіти The Guardian показують, що багато співробітників Anthropic поділяють ці занепокоєння приватно, але не висловлюються публічно. Якщо більше з них підуть за Коксоном, Вангом, Томасом, Марксом і Х’юбінгером, тиск на провідні лабораторії штучного інтелекту сповільнюватиме темпи, а регулятори – діяти лише зростатиме.
_Ця стаття ґрунтується на матеріалах The Guardian із додатковим контекстом із CBS News, The Japan Times, Al Jazeera та BBC._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
