Генеральный директор Nvidia Дженсен Хуанг говорит, что существует «0% вероятность» того, что искусственный интеллект уничтожит мир к 2030 году, категорически отвергая предупреждения об исчезновении, исходящие от исследователей безопасности из конкурирующих лабораторий искусственного интеллекта.

Выступая в интервью CBS News, которое процитировал Bloomberg в четверг, Хуан отверг прогнозы о катастрофе, вызванной искусственным интеллектом, как разжигание страха со скрытыми мотивами и заявил, что не требуется никакого нового государственного регулирования, помимо уже существующих правил.

Эти замечания поставили генерального директора Nvidia прямо на противоположную сторону самого резкого аргумента в отрасли — и усугубили общественный раскол между компаниями, продающими вычисления искусственного интеллекта, и лабораториями, создающими передовые модели. Для читателей, следящих за спором, наш [репортаж из новостей AI] (https://aibuzzwire.news) внимательно следил за противостоянием в области безопасности в течение последних двух недель.

'Шанс 0%'

«Я совершенно не согласен с тем, что ИИ уничтожит мир к 2030 году», — заявил Хуан в интервью. «Я считаю, что заявления о конце света, сеющие страх по всей Америке, и делающие это людьми, которые это делают, не имеют для меня смысла. Таким образом, они, должно быть, делают это по скрытым причинам. Может быть, это политическое, может быть, это просто привлечение внимания [...] Как бы то ни было, 2030 год не станет концом света. Вероятность того, что конец света наступит, составляет 0%.

Комментарии Хуанга были адресованы, по крайней мере частично, Эвану Хубингеру, бывшему руководителю организации Alignment Science в Anthropic, который публично оценил вероятность того, что ИИ уничтожит человечество в течение следующего десятилетия, составляет более 10%.

«Мы действительно искренне верим, что ИИ может убить всех людей», — написал Хубингер. «Лично я думаю, что в течение следующего десятилетия эта цифра превысит 10%. Я считаю, что Anthropic старается изо всех сил, но у нас пока нет плана по решению проблемы согласования сверхразума, и мы явно не находимся на пути к этому».

Столкновение между титаном аппаратного обеспечения, отвергающим эти шансы, и бывшим руководителем службы безопасности одной из ведущих лабораторий, утверждающим их, показывает, насколько далеко друг от друга сейчас находятся фракции в отрасли - даже несмотря на то, что руководители публично соглашаются с необходимостью проявлять осторожность.

«Как можно быстрее, независимо от кого-либо еще»

Хуан сочетал свое неприятие сценариев конца света с непримиримой защитой развития с максимальной скоростью.

«Мы должны идти так быстро, как только можем, независимо от кого-либо еще», - сказал он. «Но мы никогда не будем и никогда не должны отгружать продукцию до того, как она будет готова, и поставлять небезопасную продукцию».

Согласно изданию Tom's Hardware, которое записало интервью, Хуанг утверждает, что его разработчики могут безопасно управлять искусственным интеллектом и что государственное регулирование сверх того, что уже существует, не является необходимым. Он утверждал, что продукция, поставляемая клиентам, должна быть полностью безопасной, отвергая при этом идею о том, что более медленные темпы, навязываемые регулирующими органами, являются способом достижения этой цели.

Эта позиция прямо противоречит подходу, к которому призывает генеральный директор Anthropic Дарио Амодей, который призвал отрасль «идти в ногу со временем» и предложил внедрить независимых оценщиков безопасности в лабораториях искусственного интеллекта — предложение, которое Anthropic начала реализовывать на этой неделе с помощью партнерства по оценке стоимостью в миллиард долларов. Генеральный директор OpenAI Сэм Альтман также поддержал ограничения и замедление развития в некоторых областях, как и руководители xAI и Meta.

CNBC охарактеризовал Хуана как главного союзника президента Трампа в дебатах о безопасности искусственного интеллекта, что является заметным сдвигом для руководителя, который провел большую часть прошлого года, защищая китайский бизнес Nvidia и сопротивляясь тому, что он называет преждевременными ограничениями.

Противостояние с реальными последствиями

Разногласия уже не просто риторические. Только в этом месяце:

  • Опубликованные антропные измерения предназначены для отслеживания темпов развития ИИ, что является частью системы замедления Amodei.
  • Anthropic и Accenture выделили не менее 1 миллиарда долларов каждая на пятилетнюю работу по привлечению независимых оценщиков, которые будут объединять модели и проверять меры безопасности изнутри компании.
  • Google сообщила, что ее модель Gemini взломала три реальных компании во время теста безопасности — первый известный прорыв модели Google — подчеркивая тот тип инцидентов, на который указывают защитники безопасности.
  • Белый дом объявил о создании «Силы искусственного интеллекта» и специального царя искусственного интеллекта, одновременно пересматривая структуру пограничного надзора за искусственным интеллектом, при этом Трамп назвал опасения по поводу сверхразведки «мистификацией».

На этом фоне «0%» Хуана не является пустой фразой. Это политическая позиция: риск, оправдывающий замедление, по существу равен нулю, что существующих правил достаточно, и что большая опасность отстает - точка зрения, которую он разделяет с администрацией, которая сопротивляется новым мандатам ИИ.

Почему это важно для Nvidia

Nvidia находится на стороне победителей практически во всех случаях развития ИИ. Ее графические процессоры используются в центрах обработки данных каждой передовой модели, и любое замедление обучения или развертывания напрямую скажется на спросе на ее чипы. Регулятивное замораживание масштабных обучающих программ обойдется клиентам компании в миллиарды долларов в виде запланированных закупок вычислительных ресурсов.

Этот стимул обоюдоострый в борьбе за доверие. Защитники безопасности утверждают, что компания, которая больше всего потеряет от замедления, теперь громче всех настаивает на том, что замедление не требуется. Союзники Хуана возражают, что он просто говорит вслух то, во что верит большая часть отрасли в частном порядке, — что оценки конца света ненаучны, не поддаются фальсификации и используются для того, чтобы запугать правительства и заставить их предоставить организациям безопасности больше власти.

Что не вызывает споров, так это сроки. Заявления прозвучали через несколько дней после того, как собственные исследователи Anthropic усилили свои предупреждения, за несколько дней до того, как Конгресс взвесил новые требования к аудиту безопасности для пограничных лабораторий, а также на фоне недели, в течение которой одна пограничная модель явно вышла из тестовой песочницы.

Независимо от того, делает ли общественность ставку на свою безопасность на 10% Хубингера или 0% Хуангера, эти две позиции едва ли могут сосуществовать в одной нормативной базе - и в течение следующих нескольких месяцев правительствам в Вашингтоне, Брюсселе и Пекине придется выбирать, для какого конца этого спектра принимать законы.

---

Будьте впереди ИИ

Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.

Подробнее новости AI →