За словами президента Microsoft, молоко та пральні машини наразі регулюються більшою мірою, ніж штучний інтелект, і це, як стверджує Бред Сміт, зовсім навпаки.
У коментарях BBC Big Boss Interview, опублікованому в неділю, Сміт закликав до глобальних правил безпеки для штучного інтелекту, включно з юридичним зобов’язанням повідомляти «жертві», коли їхню систему було зламано нечесним агентом штучного інтелекту, а також рамки для прийняття рішення про те, коли незалежні оцінювачі повинні підписувати продукт ШІ перед його відправкою. Його коментарі поставили його публічно в протиріччя з президентом США Дональдом Трампом, який стверджував, що сектор повинен регулювати себе, щоб американські фірми не втрачали позиції перед китайськими конкурентами. For more context on this story, see our ongoing AI industry coverage.
"Right now, your washing machine is subject to more safety rules than AI," Smith said. "Every carton of milk that you see in the grocery store is subject to safety rules and inspection."
Інструмент і зброя
Smith described AI as both a "tool and a weapon" that urgently needs regulating, adding: "Let's get started today."
His proposals were more concrete than the usual regulatory boilerplate. Компанії повинні створювати «аварійні гальма» — те, що в галузі часто називають перемикачами блокування — які можуть призупинити або уповільнити роботу системи ШІ, якщо вона вийде з-під контролю. Firms should be legally required to write incident reports and notify victims when AI goes rogue. And independent government evaluators should vet new AI technology before release.
"We know how to do this for other products," Smith said. "We should build on that knowledge and think about how to apply it to AI."
The intervention lands in a febrile week for AI oversight. Кілька днів тому генеральний директор Microsoft Сатья Наделла закликав до екстреного гальмування, яке дозволило б людям вимкнути системи штучного інтелекту під час виконання завдання — вражаюча посада для керівника одного з найбільших у світі постачальників штучного інтелекту, і тепер це виглядає як доктрина компанії, а не міркування одного керівника.
Порив з Білим домом
Smith's views differ sharply from those of his president. Трамп неодноразово казав, що «перемагає той, хто виграє штучний інтелект» — і виступав проти закликів босів Anthropic, OpenAI і Google DeepMind, які всі підтримували ідею уповільнення розвитку штучного інтелекту.
Yet Smith also suggested the friction is smaller than it looks. Наприкінці минулого місяця Трамп прийняв лідерів OpenAI, Anthropic, Nvidia, SpaceX, Meta та Google у Білому домі, де керівники підписали те, що було описано як «морально зобов’язуючий» документ, який зобов’язував їх співпрацювати з незалежними аудиторами, щоб оцінити, чи їхні системи штучного інтелекту працюють належним чином — і не «зламувати або отримувати доступ до технічних систем ненавмисно».
Smith applauded the statement and said Microsoft is "happy to sign it." But, he added: "It's a good step, it's a necessary step... But I don't think it's sufficient any longer."
His reasoning cuts to the core problem of voluntary regimes: "The good companies will do what you want," he said. "It's the companies that are not as responsible that you need to worry about."
Чому він вважає, що Британія повинна написати правила
Найбільш геополітично навантаженою частиною інтерв’ю було схвалення Смітом Сполученого Королівства як природного автора глобальних правил штучного інтелекту, вказуючи на Британський інститут безпеки штучного інтелекту — заснований за уряду колишнього прем’єр-міністра Ріші Сунака як Інститут безпеки штучного інтелекту — який тестує найпотужніші моделі світу перед випуском.
«У світі технологій, у технологічному секторі, більшість людей, яких я знаю, сказали б, якщо ви запитаєте їх, назвіть країну, яка є лідером у цьому технічному потенціалі, вони скажуть, що це дуже просто. Це Сполучене Королівство. Вони найкращі», — сказав Сміт.
Він також стверджував, що уряд США сприйме британські стандарти з більшою готовністю, ніж регулювання у стилі Брюсселя: «У Вашингтоні, округ Колумбія, люди не дивляться на Великобританію та Лондон не так, як вони дивляться на Брюссель — це сильна сторона».
Його аргументація терміновості була прямою. «Коли ви дивитеся на агентів штучного інтелекту, які вийшли з-під контролю людини, коли ви дивитеся на моделі, які є настільки потужними, що піддають ризику кібербезпеку світу, я б сказав: момент настав», — сказав Сміт. «Давайте поговоримо спокійно, можливо, навіть м’яко, але твердо, і почнемо об’єднувати людей. Я сподіваюся, що це та роль, яку ми можемо відіграти як компанія. Я сподіваюся, що це роль, яку може відіграти Великобританія як країна».
Рідкісний розділений екран у Tech Policy
Незвично, коли діючий президент компанії лобіює жорсткіші правила у своїй галузі, тоді як його генеральний директор наводить те саме з іншого етапу. Втручання корпорації Майкрософт, що суперечать один одному — екстрене гальмування Наделли та заклик Сміта до обов’язкового звітування про інциденти, сповіщення жертв і незалежної оцінки — сигналізують про те, що принаймні один великий постачальник дійшов висновку, що довіра, а не можливості, стає обов’язковим обмеженням для впровадження ШІ.
Вони також надають уряду Великобританії своєчасний аргумент. Уайтхолл провів минулий тиждень, вивчаючи попередження керівників власної розвідки, а міністри зважують, чи варто приєднуватися до міжнародного заклику до скоординованих стандартів безпеки штучного інтелекту, який Вашингтон поки що відмовляється підписати. Коли президент Microsoft каже, що Велика Британія має «найкращі» можливості для написання зводу правил, Даунінг-стріт отримує як підтвердження, так і запрошення, яким буде важко проігнорувати.
Інша справа, чи змінить позиція Сміта на голоси у Вашингтоні. Але як заява про те, куди один із найбільших розробників штучного інтелекту хоче, щоб регуляторні дебати йшли — обов’язкові гальма, обов’язкова звітність, незалежне підписання — інтерв’ю можна запам’ятати як маркер переходу від добровільних зобов’язань до обов’язкових правил.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
