Співзасновник Anthropic каже, що урядам може знадобитися змусити компанії зі штучним інтелектом встановити «перемикач відключення» — механізм для повного відключення систем штучного інтелекту — і що зовнішні інспектори повинні мати можливість перевірити, як він справді працює.
Джек Кларк, один із семи засновників лабораторії штучного інтелекту вартістю 965 мільярдів доларів, сказав BBC, що, хоча більшість провідних лабораторій уже мають внутрішні способи «відключити» небезпечні системи, суспільство «може зрештою захотіти прийняти правила», роблячи такі перемикання обов’язковими та підлягаючим незалежному аудиту. Для читачів, які відстежують ширшу [дискусію про безпеку штучного інтелекту] (https://aibuzzwire.news), його втручання знаменує собою найконкретнішу політичну пропозицію зсередини передової лабораторії протягом тижня ескалації попереджень.
«Чи слід наказати компаніям обов’язково мати вимикач? Чи може цей вимикач перевірити третя сторона?» Кларк сказав в інтерв’ю з репортером з питань технологій Калі Хейс і редактором економіки Фейсалом Ісламом. «Я думаю, що це те, що суспільство захоче знати і, можливо, захоче врешті прийняти правила».
«Ми кидаємо кубики з величезним ризиком»
Найбільш вражаючим коментарем Кларка було загальне неприйняття статус-кво. Відповідаючи на запитання про траєкторію розвитку галузі, він сказав, що дозволити штучному інтелекту залишатися «повністю нерегульованою галуззю» — погана ідея.
«Ми кидаємо кості з величезними ризиками», — сказав він. «І справа в тому, що ми повинні змінити курс цієї галузі».
На відміну від деяких своїх колег, Кларк відмовився назвати число ризику вимирання людства. «Я не вважаю, що ці статистичні дані є такими корисними», — сказав він — помітний контраст із дослідником антропології Еваном Х’юбінгером, який минулого тижня заявив, що особисто вважає, що ймовірність вимирання людини від ШІ протягом наступного десятиліття становить понад 10%, а також із піонером штучного інтелекту Джеффрі Хінтоном, який у п’ятницю сказав BBC, що оцінка в 10% «не необґрунтована».
Що Кларк не заперечував, так це напрямок руху. Штучний інтелект, як він сказав у тому ж інтерв’ю, «з кожним днем стає потужнішим» — і він стверджував, що деталі будь-якої вимоги до відключення, включно з тим, хто буде перевіряти це і як, належить до «ширшої політичної розмови», яка зараз відбувається навколо ШІ.
Пропозиція із законодавчим імпульсом
Пропозиція Кларка не приземляється у вакуумі. Американські законодавці вже висунули закон під назвою Kill Switch Act, який вимагатиме від передових розробників штучного інтелекту вбудовувати механізми відключення у свої системи — законопроект, який AI Buzz Wire розглядав минулого місяця, оскільки його терміновість зростала після інцидентів із шахраями.
Ця ідея також викликає відкритий скептицизм. У Великій Британії бізнес-секретар Джонатан Рейнольдс сказав BBC, що він не вважає цю концепцію корисною, сказавши, що він «насправді не впевнений, що це означатиме на практиці», і попередив, що надмірне регулювання може залишити країну відрізаною від моделей, розроблених за кордоном.
Фон: громадянська війна за безпеку — і IPO
Коментарі Кларка обмежують тиждень, протягом якого безпека штучного інтелекту перемістилася з теми семінару на першу сторінку новин. На вихідних генеральний директор Anthropic Даріо Амодей закликав уповільнити темпи передового розвитку та ретельніше стежити за ними, наполягаючи на тому, що будь-яка пауза має відбуватися «без шкоди для комерційної переваги». Потім він розповів про цей випадок широкій американській аудиторії в інтерв’ю Андерсону Куперу з CNN, а сам Коксон з’явився в мережі, щоб відреагувати на це. Ці зауваження послідували за вірусною публікацією колишнього дослідника антропології Джейкоба Коксона про відставку, яка попереджала про долю людства, що, у свою чергу, підштовхнуло Хубінгера до оцінки вимирання. The Guardian, зі свого боку, дослідив, чому саме це попередження про судний день прорвалося там, де попередні зникли.
Частини технологічної індустрії сприйняли тривогу відкритою глузуванням. Генеральний директор Hugging Face Клемент Деланг висміяв рішення зробити Coxon рупором ризику вимирання, написавши: «Вибачте, але запитувати Джейкоба про ризик зникнення штучного інтелекту — це все одно, що запитувати свого хлопця з AC про зміну клімату». Генеральний директор Grindr Джордж Арісон пішов далі, стверджуючи, що нагнітання страху має комерційні мотиви. «Єдиний спосіб виправдати ці оцінки — це фактично стверджувати: «Я збираюся взяти на себе кожну галузь і взяти на себе кожну роботу, і мій штучний інтелект буде виконувати всю цю роботу», — сказав він.
Від результатів цих дебатів також залежать величезні гроші. Anthropic готується до первинного публічного розміщення за оцінкою в 965 мільярдів доларів, тоді як OpenAI, нещодавно оцінений у 852 мільярди доларів, мав бути публічним до того, як генеральний директор Сем Альтман заявив у п’ятницю, що IPO не відбудеться цього року через суперечку щодо безпеки. Такі критики, як Арісон, стверджують, що риторика загибелі та збір коштів — це дві сторони однієї медалі; Відповідь Кларка полягає в тому, що галузь має змінити курс незалежно від цього.
Чи стане обов’язковий вимикач, який можна перевірити, коли-небудь законом, залежатиме від законодавців, які досі виявляли мало бажання обмежувати галузь, яка живить економіку США. Але вперше один із найпотужніших інсайдерів технології відкрито запрошує їх спробувати.
---
Будьте попереду ШІОтримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
