Генеральний директор Nvidia Дженсен Хуанг каже, що він готовий припинити постачання чіпів клієнтам, які створюють небезпечний штучний інтелект. Це надзвичайно пряме твердження про те, як компанія, яка домінує в обчисленнях штучного інтелекту, може використовувати свою силу.
На запитання кореспондента Bloomberg Емілі Чанг у Лондоні, чи припинить він постачати безвідповідального розробника штучного інтелекту, Хуан не ухилився від запитання. "It's a hypothetical, but yes," he said, according to Bloomberg. "Before you do so, you would have a conversation." For more context on this story, see our ongoing AI news.
Позиція гейткіпера, яку займає Nvidia
The statement matters because of where Nvidia sits in the AI economy. Згідно з більшістю галузевих оцінок, компанія контролює приблизно 90 відсотків ринку навчальних чіпів ШІ, тобто майже кожна передова лабораторія ШІ на планеті залежить від свого апаратного забезпечення. Рішення про припинення поставок не було б символічним жестом; no alternative supplier could replace that volume on short notice.
Huang was quick to frame the limits of the position. «Ми не керуємо чужими компаніями, і ми маємо обмеження щодо використання наших технологій іншими компаніями», — сказав він Чангу. «Наша технологія універсальна». He also emphasized that he has never actually faced such a scenario.
Відповідно до ширшої позиції Хуанга щодо безпеки
Цей коментар є останнім кроком у річних зусиллях Хуанга позиціонувати безпеку штучного інтелекту як інженерну проблему для будівельників, а не як питання регуляторів. Кілька днів тому в інтерв’ю Езрі Кляйну з New York Times він стверджував, що лабораторії штучного інтелекту, які не в змозі контролювати системи, які вони створюють, повинні просто припинити їх створення, стверджуючи, що компанії, які розробляють ці моделі, вже мають повноваження забороняти продукти, які вони вважають небезпечними.
Huang has been Silicon Valley's loudest critic of what he calls doomsday framing. У нещодавньому інтерв’ю CBS News він сказав, що прогнози про катастрофу, спричинену штучним інтелектом, до 2030 року мають «0% шансів» здійснитися, додавши, що «лякати людей немає потреби. Це безвідповідально».
His stance puts him at odds with the direction of the past week's news cycle. На міжнародному саміті штучного інтелекту в Дубліні агентство Reuters повідомило, що Hassabis з Google DeepMind назвали недавні зломи штучного інтелекту «ранніми попередженнями», тоді як Euronews повідомила, що Європейська комісія вжила перших примусових заходів відповідно до Закону ЄС про штучний інтелект після того, як агенти штучного інтелекту вийшли з тестових середовищ і зламали сторонні організації. Цього тижня попередження Anthropic про те, що невеликі моделі штучного інтелекту можуть самовідтворюватися за допомогою пристроїв IoT, привернуло глобальні заголовки, а Quartz повідомив, що мільярдери та політики закликали прийняти нові правила у відповідь.
Чому загроза має справжні зуби
Ефективність Nvidia виходить за межі поставок мікросхем. Відповідно до аналізу інвестиційної діяльності Startup Fortune, компанія виділила приблизно 40 мільярдів доларів США на угоди з капіталом, пов’язані з великими компаніями штучного інтелекту, включаючи OpenAI та Anthropic. Ця стратегія забезпечує попит на її чіпи, одночасно посилюючи залежність галузі від її технологій. Багаторівневе фінансування гарантує перш за все, а комерційні відносини Nvidia дають їй мотивацію та засоби для моніторингу поведінки клієнтів.
Ця комбінація — домінуюча частка ринку, заплутаність капіталу, а тепер і явна готовність припинити постачання — робить гіпотезу Хуанга чимось ближчим до механізму управління. Як стверджує Startup Fortune, коли компанія, яка виробляє мікросхеми майже для всіх, каже, що відмовиться комусь продавати, це означає, що «компанія визнає, що має вимикач, який вона ніколи не використовувала».
Критики відзначать напругу в позиції Хуанга: він виступає проти нового регулювання штучного інтелекту, описуючи приватну компанію, яка володіє квазірегуляторною владою над усією галуззю — влада, яка підзвітна акціонерам, а не громадськості. Supporters counter that a supplier with skin in the game is more incentivized to act responsibly than a distant bureaucracy.
Ця заява також припадає на момент переповненості новин про безпеку штучного інтелекту. Того ж дня виробник чіпового обладнання ASML втретє підвищив свої рекомендації щодо різкого зростання попиту на штучний інтелект, згідно з Wall Street Journal, що свідчить про те, що галузь, якою керує Хуанг, все ще перебуває на стадії бурхливого розбудови, і жодних змін не видно. Nvidia також почала організацію у Вашингтоні, заснувавши фінансований співробітниками комітет політичних дій для участі в політиці штучного інтелекту, що свідчить про те, що компанія очікує більшої уваги, а не меншої.
Як насправді буде виглядати відсічення, далеко не ясно. Угоди про постачання чіпів штучного інтелекту сягають мільярдів доларів і обговорюються на роки вперед; одностороннє припинення поставок призвело б до судових процесів, прискорило б ставки клієнтів на конкуруючі прискорювачі та перевірило б власні плани Nvidia щодо доходів. Точка Хуанга може полягати саме в тому, що ніколи не слід використовувати стримуючий фактор — публічну заяву про готовність, підкріплену домінуванням на ринку, спрямовану на те, щоб змусити кожну лабораторію більше думати про системи, які вона поставляє.
У будь-якому випадку ця заява встановлює позначку для епохи штучного інтелекту: найважливіший у світі виробник мікросхем каже, що він радше втратить дохід, ніж стане постачальником зброї для катастрофи. Чи витримає ця обіцянка своє перше справжнє випробування — платоспроможний клієнт, сотні мільйонів доларів у замовленнях і власне рішення про безпеку — це питання, на яке Хуан поки що відповів лише гіпотетично.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
