Білл Гейтс закликав федеральних законодавців і правоохоронних органів Сполучених Штатів регулювати розвиток штучного інтелекту, заявивши в телевізійному інтерв’ю, що транслювалося в неділю, що технологія, залишена без контролю, може спричинити «мільярд смертей» — і наполягаючи, що «ніхто не вважає, що саморегулювання достатньо».
Про це співзасновник Microsoft заявив в інтерв’ю Крістен Велкер, ведучій програми Meet the Press на NBC. «Вам потрібні правоохоронні органи та політики, щоб взяти участь у дискусії про те, як виглядають гарантії та моніторинг», — сказав Гейтс, повідомляє The Guardian. «І це має бути обов’язковим». For more context on this story, see our ongoing more AI stories.
Попередження про озброєний ШІ
Мільярдер-філантроп висловився найгостріше, коли описав, що може статися, якщо передові інструменти штучного інтелекту потраплять у чужі руки. За його словами, штучний інтелект, який використовується зловмисно, «безсумнівно, буде достатньо потужним, щоб керувати подіями, які, ви знаєте, спричиняють мільярд смертей».
«Ніколи не існувало такої потужної зброї, як поєднання людей зі злими намірами, які використовують новітні інструменти ШІ», — додав Гейтс. Його коментарі перегукуються із застереженнями все більшого кола технологічних і політичних діячів, які побоюються, що передові системи можуть прискорити катастрофічні наслідки, зокрема через біологічну зброю та ядерний конфлікт.
Гейтс розглядав регулювання як керовану вартість, а не як гальмо прогресу. "Це буде трохи накладним для галузі, але не різким уповільненням того, що вони роблять", - сказав він.
Частина тривалої кампанії
Інтерв'ю не є ізольованим попередженням. Це слідує за есе із приблизно 6000 слів, опублікованим наприкінці серпня, в якому викладено його занепокоєння щодо штучного інтелекту та потенційних смертельних ризиків, які, на його думку, він створює для людства в масштабах. Багато спостерігачів відзначили, що розмова Meet the Press є продовженням цього аргументу, наведеного цього разу для основної аудиторії недільного ранку.
Гейтс не єдиний серед технологічних лідерів, який закликає до уповільнення розвитку ШІ. Сем Альтман з OpenAI та Ілон Маск приєдналися до нього, закликаючи індустрію діяти більш обережно, навіть якщо їхні компанії прагнуть постачати більш потужні моделі.
Тиск на Microsoft зсередини
Втручання Гейтса відбувається, коли його колишня компанія стикається з власними суперечками щодо ШІ. Співробітники та активісти Microsoft організували кампанію, спрямовану на те, щоб змусити компанію розірвати зв’язки з ізраїльськими військовими, які, як повідомляється, використовували інструменти штучного інтелекту під час конфлікту в Газі, згідно з есе Guardian, опублікованому в п’ятницю Мохамедом Хусейном і Гранатом Кімом з групи No Azure for Apartheid.
Автори есе також попереджають, що системи з підтримкою штучного інтелекту розгортаються в самих Сполучених Штатах, вказуючи на використання Департаментом внутрішньої безпеки хмари Microsoft Azure для підтримки стеження, арештів і масової депортації іммігрантів.
Прогалина в регулюванні
Заклик Гейтса потрапляє в політичний вакуум. У Сполучених Штатах досі немає всеосяжної федеральної системи, яка б регулювала розробку або розгортання передових систем штучного інтелекту, навіть якщо прикордонні лабораторії відправляють дедалі більш автономних агентів, а уряди по всьому світу намагаються не відставати. У Конгресі конкуруючі пропозиції застопорилися через питання інновацій, відповідальності та правозастосування, залишивши відомства застосовувати повноваження до технології, яка розвивається швидше, ніж процес нормотворення.
Аргумент Гейтса вирізняє його наполягання на тому, що нагляд є обов’язковим, а не добровільним. Стверджуючи, що «саморегулювання недостатньо», він прямо кидає виклик переважаючій позиції самих лабораторій, більшість з яких віддають перевагу внутрішнім зобов’язанням щодо безпеки, добровільним оцінкам і галузевим органам, а не обов’язковому законодавству.
Його формулювання — те, що відповідність буде означати «трохи накладних витрат» — також помітно, що походить від людини, чиї статки були створені в індустрії програмного забезпечення. Це підриває загальне твердження промисловості про те, що значуще регулювання обов’язково призведе до заморожування такого стрімкого прогресу, який визначив останні чотири роки розвитку ШІ.
Легка примітка про використання особистого штучного інтелекту
Інтерв'ю не було однаково похмурим. Коли Велкер запитав, чи уникає Гейтс ШІ у своєму житті, він зі сміхом відповів: «Ну, я не використовую його для особистих стосунків. Я не кажу: «Гей, я тобі подобаюся? Гей, я хороший хлопець?»
"Тож я ніколи не йшов цим шляхом, тому що мені пощастило з точки зору моєї сім'ї, друзів і всього", - сказав він. «Я не спілкуюся з ШІ. Він знає, що я дуже серйозна людина».
Що станеться далі
Питання, чи зміниться попередження Гейтса на законодавство, залишається відкритим. Але той факт, що один із найвидатніших технологів світу публічно вимагає, щоб політики та правоохоронні органи взяли на себе офіційну роль у нагляді за штучним інтелектом, додає ваги дебатам, які все частіше розгортаються під час виборчих кампаній, залів суду та міжнародних переговорів.
З огляду на те, що опитування свідчать про зростання занепокоєння громадськості з приводу штучного інтелекту, а інциденти, пов’язані з автономними агентами, стають заголовками газет, на законодавців зростає тиск, щоб вони перетворили загальне занепокоєння на законодавчі правила. Меседж Гейтса для них був простим: галузь не контролюватиме себе, а вартість дії набагато нижча, ніж ризик невдачі.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
