По словам президента Microsoft, молоко и стиральные машины в настоящее время регулируются в большей степени, чем искусственный интеллект, а это, как утверждает Брэд Смит, совершенно наоборот.
Выступая в интервью BBC Big Boss Interview, опубликованном в воскресенье, Смит призвал к установлению глобальных правил безопасности для ИИ, включая юридическое обязательство сообщать «жертве», когда их система была взломана мошенническим агентом ИИ, а также структуру для принятия решения о том, когда независимые оценщики должны подписаться на продукт ИИ до его поставки. Его комментарии публично поставили его в противоречие с президентом США Дональдом Трампом, который утверждал, что сектор должен регулировать себя, чтобы американские фирмы не уступали позиции китайским конкурентам. Подробнее об этой истории — в нашем последние разработки в ИИ.
«Сейчас на вашу стиральную машину распространяется больше правил безопасности, чем на искусственный интеллект», — сказал Смит. «Каждая упаковка молока, которую вы видите в продуктовом магазине, подлежит соблюдению правил безопасности и проверке».
Инструмент и оружие
Смит назвал ИИ одновременно «инструментом и оружием», которое срочно необходимо регулировать, добавив: «Давайте начнем сегодня».
Его предложения были более конкретными, чем обычный нормативный шаблон. Компании должны создать «аварийные тормоза» — то, что в отрасли часто называют аварийными выключателями, — которые могут приостановить или замедлить работу системы искусственного интеллекта, если она выйдет из-под контроля. По закону компании должны быть обязаны писать отчеты об инцидентах и уведомлять жертв, когда ИИ выходит из-под контроля. А независимые правительственные оценщики должны проверять новую технологию искусственного интеллекта перед ее выпуском.
«Мы знаем, как сделать то же самое с другими продуктами», — сказал Смит. «Мы должны опираться на эти знания и думать о том, как применить их к ИИ».
Вмешательство приходится на лихорадочную неделю для надзора за ИИ. Несколькими днями ранее генеральный директор Microsoft Сатья Наделла призвал к экстренному торможению, которое позволило бы людям отключать системы искусственного интеллекта в середине выполнения задачи — поразительная позиция для главы одного из крупнейших в мире поставщиков искусственного интеллекта, которая теперь, похоже, является доктриной компании, а не размышлениями одного руководителя.
Разрыв с Белым домом
Взгляды Смита резко отличаются от взглядов его президента. Трамп неоднократно заявлял, что «тот, кто победит в области ИИ, побеждает» — и выступал против призывов руководителей Anthropic, OpenAI и Google DeepMind, которые поддерживали идею замедления развития ИИ.
Однако Смит также предположил, что трение меньше, чем кажется. В конце прошлого месяца Трамп принимал в Белом доме руководителей OpenAI, Anthropic, Nvidia, SpaceX, Meta и Google, где руководители подписали так называемый «морально обязательный» документ, обязывающий их работать с независимыми аудиторами для оценки того, работают ли их системы искусственного интеллекта должным образом, а не «взламывать технические системы или получать доступ к ним непреднамеренным образом».
Смит приветствовал это заявление и сказал, что Microsoft «рада его подписать». Но он добавил: «Это хороший шаг, это необходимый шаг... Но я не думаю, что этого уже достаточно».
Его рассуждения сводятся к основной проблеме добровольных режимов: «Хорошие компании будут делать то, что вы хотите», — сказал он. «Вам нужно беспокоиться о компаниях, которые не несут такой ответственности».
Почему он считает, что Британия должна писать правила
Самой геополитически насыщенной частью интервью было одобрение Смитом Великобритании как естественного автора глобальных правил ИИ, указав на Британский институт безопасности ИИ, созданный при правительстве бывшего премьер-министра Риши Сунака как Институт безопасности ИИ, который тестирует самые мощные в мире модели перед выпуском.
«В мире технологий, в технологическом секторе, большинство людей, которых я знаю, скажут: если вы спросите их, назовите страну, которая является лидером по таким техническим возможностям, они скажут, что это очень просто. Это Соединенное Королевство. Они лучшие», — сказал Смит.
Он также утверждал, что правительство США с большей готовностью примет стандарты, разработанные в Великобритании, чем регулирование в стиле Брюсселя: «В Вашингтоне, округ Колумбия, люди не смотрят на Великобританию и не смотрят на Лондон так, как они смотрят на Брюссель — в этом сила».
Его доводы в пользу срочности были грубыми. «Когда вы смотрите на агентов ИИ, вышедших из-под контроля человека, когда вы смотрите на модели, которые настолько мощны, что ставят под угрозу мировую кибербезопасность, я бы сказал: момент настал», — сказал Смит. «Давайте поговорим спокойно, может быть, даже мягко, но твердо, и начнем объединять людей. Я надеюсь, что именно эту роль мы сможем сыграть как компания. Я надеюсь, что именно такую роль может сыграть Великобритания как страна».
Редкое разделение экрана в технической политике
Это необычно, когда действующий президент компании лоббирует ужесточение правил в своей отрасли, в то время как его генеральный директор выдвигает те же аргументы на другой стадии. Противоборствующие вмешательства Microsoft — экстренное торможение Наделлы и призыв Смита к обязательному сообщению об инцидентах, уведомлению жертв и независимой оценке — сигнализируют о том, что по крайней мере один крупный поставщик пришел к выводу, что доверие, а не возможности, становится обязательным ограничением для внедрения ИИ.
Они также предоставляют правительству Великобритании своевременный аргумент. Уайтхолл провел прошедшую неделю, выслушивая предупреждения от руководителей своих собственных разведок, в то время как министры размышляют, стоит ли присоединяться к международному призыву к скоординированным стандартам безопасности ИИ, которые Вашингтон до сих пор отказывается подписывать. Когда президент Microsoft говорит, что Великобритания находится в «лучшем» положении для написания свода правил, Даунинг-стрит получает одновременно одобрение и приглашение, которое будет трудно игнорировать.
Другой вопрос, повлияет ли формулировка Смита на голоса из-под молока в Вашингтоне. Но как заявление о том, чего хочет добиться один из крупнейших создателей ИИ в нормативных дебатах — обязательные тормоза, обязательная отчетность, независимое одобрение — интервью можно запомнить как маркер перехода от добровольных обязательств к обязательным правилам.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
