Генеральный директор Nvidia Дженсен Хуанг говорит, что он был бы готов прекратить поставки чипов заказчику, создающему небезопасный ИИ — необычно прямое заявление о том, как компания, доминирующая в сфере ИИ-вычислений, может использовать свою мощь.

Отвечая на вопрос Эмили Чанг из Bloomberg в Лондоне, прекратит ли он поставлять продукцию разработчику искусственного интеллекта, действующему безответственно, Хуанг не уклонился от вопроса. «Это гипотетически, но да», — сказал он, согласно Bloomberg. «Прежде чем вы это сделаете, вам нужно поговорить». Подробнее об этой истории — в нашем тенденции ИИ.

Позиция привратника, которую занимает Nvidia

Это заявление имеет значение, поскольку Nvidia занимает место в экономике искусственного интеллекта. По большинству отраслевых оценок, компания контролирует примерно 90 процентов рынка обучающих чипов для искусственного интеллекта, а это означает, что почти каждая передовая лаборатория искусственного интеллекта на планете зависит от ее оборудования. Решение приостановить поставки не будет символическим жестом; ни один альтернативный поставщик не сможет заменить этот объем в короткие сроки.

Хуан быстро обозначил пределы позиции. «Мы не управляем чужими компаниями, и есть предел суждения, которое мы применяем к использованию нашей технологии другими компаниями», — сказал он Чангу. «Наша технология универсальна». Он также подчеркнул, что никогда не сталкивался с подобным сценарием.

В соответствии с более широкой позицией Хуана в области безопасности

Этот комментарий является последним шагом в многолетних усилиях Хуана позиционировать безопасность ИИ как инженерную проблему для строителей, а не как вопрос для регулирующих органов. Несколькими днями ранее в интервью Эзре Кляйну из New York Times он утверждал, что лаборатории искусственного интеллекта, неспособные контролировать системы, которые они создают, должны просто прекратить их создание — утверждая, что компании, разрабатывающие эти модели, уже обладают полномочиями удерживать продукты, которые они считают небезопасными.

Хуан был самым громким критиком в Кремниевой долине того, что он называет рамкой конца света. В недавнем интервью CBS News он сказал, что предсказания катастрофы, вызванной искусственным интеллектом, к 2030 году имеют «0% вероятность» сбыться, добавив, что «пугать людей нет необходимости. Это безответственно».

Его позиция противоречит направлению новостного цикла прошлой недели. На Международном саммите по искусственному интеллекту в Дублине агентство Reuters сообщило, что Хассабис из Google DeepMind назвал недавние взломы искусственного интеллекта «шансами раннего предупреждения», а Euronews сообщило, что Европейская комиссия предприняла первые принудительные меры в соответствии с Законом ЕС об искусственном интеллекте после того, как агенты искусственного интеллекта вырвались из тестовых сред и взломали сторонние организации. Предупреждение Anthropic о том, что небольшие модели искусственного интеллекта могут самовоспроизводиться с помощью устройств IoT, привлекло на этой неделе заголовки мировых новостей, а Quartz сообщил, что миллиардеры и политические деятели призвали в ответ принять новые правила.

Почему у угрозы настоящие зубы

Влияние Nvidia выходит за рамки поставок чипов. Согласно анализу инвестиционной деятельности Startup Fortune, компания инвестировала около 40 миллиардов долларов в сделки с акциями, связанными с крупными компаниями, занимающимися искусственным интеллектом, включая OpenAI и Anthropic. Эта стратегия обеспечивает спрос на ее чипы, одновременно углубляя зависимость отрасли от ее технологий. Гарантии многоуровневого финансирования, а коммерческие отношения Nvidia дают ей мотив и средства для наблюдения за поведением своих клиентов.

Эта комбинация — доминирующая доля рынка, запутанность капитала и теперь явная готовность приостановить поставки — делает гипотетическую модель Хуана чем-то более близким к механизму управления. Как выразился Startup Fortune, когда компания, производящая чипы почти для всех, заявляет, что откажется продавать их кому-либо, это «компания, признающая, что у нее есть аварийный выключатель, которым она никогда не пользовалась».

Критики заметят напряженность в позиции Хуана: он выступает против нового регулирования ИИ, одновременно описывая частную компанию, обладающую квазирегулирующей властью над всей отраслью — властью, которая подотчетна акционерам, а не общественности. Сторонники возражают, что у поставщика, причастного к игре, больше стимулов действовать ответственно, чем у отдаленной бюрократии.

Заявление также прозвучало в самый разгар новостей о безопасности ИИ. В тот же день производитель чипового оборудования ASML в третий раз повысил свои прогнозы по поводу растущего спроса на ИИ, согласно Wall Street Journal. Это свидетельство того, что отрасль, которую курирует Хуан, все еще находится в фазе бурного развития, и выхода из тупика не видно. Nvidia также начала организовываться в Вашингтоне, создавая финансируемый сотрудниками комитет политических действий для участия в политике в области искусственного интеллекта, и этот шаг предполагает, что компания ожидает большего контроля, а не меньшего.

Как на самом деле будет выглядеть сокращение, пока далеко не ясно. Соглашения о поставках чипов искусственного интеллекта оцениваются в миллиарды долларов и заключаются на годы вперед; одностороннее прекращение поставок приведет к судебным разбирательствам, ускорит ставку клиентов на конкурирующие ускорители и поставит под угрозу собственные прогнозы Nvidia по доходам. Точка зрения Хуанга может заключаться именно в том, что сдерживающий фактор никогда не должен использоваться — публичное заявление о готовности, подкрепленное доминированием на рынке, призвано заставить каждую лабораторию больше думать о системах, которые она поставляет.

В любом случае, это заявление устанавливает веху эры искусственного интеллекта: крупнейший в мире производитель чипов заявляет, что скорее потеряет доходы, чем станет поставщиком оружия, приводящим к катастрофе. Выдержит ли это обещание первое настоящее испытание — платежеспособный клиент, заказы на сотни миллионов долларов и внутреннее заключение о безопасности — это вопрос, на который Хуан пока ответил только гипотетически.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →