На этой неделе в Москоне-центре Сан-Франциско произошел необычный общественный спор: лидеры Nvidia, Anthropic и OpenAI, появившись на одной сцене с разницей в несколько часов на конференции Salesforce Dreamforce, предложили совершенно разные ответы на вопрос о том, насколько быстро ИИ следует позволить развиваться.
Генеральный директор Nvidia Дженсен Хуанг сказал главе Salesforce Марку Бениоффу, что соотношение скорости и безопасности неверно. «Это ложный выбор», — сказал Хуан, сообщает CNBC. «Вы определенно могли бы иметь и то, и другое одновременно». Подробнее об этой истории — в нашем больше статей об ИИ.
Его позиция прямо противоречила позиции, сформулированной ранее в тот же день генеральным директором Anthropic Дарио Амодеи, а затем генеральным директором OpenAI Сэмом Альтманом в ходе дебатов, которые за неделю перешли от исследовательских блогов к основным выступлениям на конференциях в Вашингтоне.
Презентация Amodei о замедлении получила ключевую платформу
Амодей появился первым, присоединившись к Бениоффу для ежегодного выступления Salesforce перед аудиторией примерно в 12 000 человек. Появление последовало за опубликованным на выходных эссе Амодеи, призывающим отрасль замедлить темпы разработки моделей. По его словам, это предложение может сдержать быстрое улучшение возможностей, не «принося в жертву коммерческие преимущества или лидерство США в области искусственного интеллекта».
По данным CNBC, Амодей назвал добровольное сдерживание проверкой лидерства в отрасли. «Я думаю, что это способ вести отрасль вперед, показывать пример и говорить, что каждый всегда может стать лучше», — сказал он Бениоффу.
Эссе быстро получило общественную поддержку со стороны других руководителей отрасли, в том числе Сэма Альтмана из OpenAI, генерального директора SpaceX Илона Маска и председателя Google DeepMind Демиса Хассабиса. Оно появилось через несколько дней после того, как отраслевые исследователи выразили тревогу по поводу того, что ИИ может нанести катастрофический вред, что придало аргументу о замедлении темпов роста новую актуальность.
Хуан: рыночные силы, а не новые законы
Хуан, чья компания стала самой дорогой в мире благодаря продаже оборудования, которое обучает и запускает передовые модели, отверг как предпосылку компромисса, так и идею нового регулирования. Рыночные силы уже существуют, которые дисциплинируют безрассудное поведение, утверждает он, и именно разработчики должны моделировать ответственное отношение к своим продуктам.
«Беги так быстро, как только можешь», — сказал Хуан Бениоффу. «Но если в какой-то момент вы почувствуете, что компания вышла из-под контроля или продукт не будет безопасным, сделайте паузу и убедитесь, что вы все сделали правильно».
Различие имеет значение: Хуан не утверждает, что компании никогда не должны делать паузу, а лишь то, что решение должно оставаться за каждой компанией, а не обеспечиваться посредством законов или скоординированных общеотраслевых соглашений о темпах. Днем ранее, на саммите All-In в Лос-Анджелесе, Хуанг ответил на звонок по громкой связи президента Дональда Трампа, который выразил обеспокоенность по поводу людей, пытающихся помешать строительству центров обработки данных искусственного интеллекта. «Мы не позволим этому случиться, сэр», — ответил Хуан.
Альтман: Безопасность «не должна иметь ограничений»
Очередь Альтмана на сцене Dreamforce пришла позже в тот же день, и он расположился ближе к Амодею, чем к Хуангу. Во время беседы у камина с Бениоффом Альтман сказал, что безопасность и мониторинг должны стоять выше возможностей, учитывая мощность текущих моделей.
Он нацелился на компании, которые обусловливают свои обязательства по безопасности поведением конкурентов. «Есть компании, которые говорят что-то вроде: «Мы будем нести ответственность только в том случае, если ответственность несут другие компании», — сказал Альтман, добавив, что когда люди спрашивают, что компания будет делать, чтобы быть в безопасности, «несмотря ни на что», ответ не должен оставлять места для условий. «В этом вопросе не должно быть никаких оговорок».
Бениофф сидит посередине
Бениофф, принимавший всех троих руководителей, отказался выбрать чью-либо сторону по темпу. "Если они чувствуют, что должны замедлиться, то им следует замедлиться. Если они чувствуют, что должны ускориться, им следует ускориться", - сказал он журналистам, прежде чем добавить, что компании "должны быть привлечены к ответственности".
Конференция также продемонстрировала, насколько запутанными стали деловые отношения. Во вторник Salesforce и Nvidia анонсировали новую модель рассуждений для платформы Salesforce Agentforce, построенную на одной из открытых моделей Nemotron от Nvidia. В конце августа Salesforce и Anthropic расширили свое стратегическое партнерство и представили «Claudeforce», который позволяет продавцам получать доступ к данным Salesforce изнутри Claude.
Почему разделение имеет значение
Обмены Dreamforce выкристаллизовали то, что стало центральной линией разлома в дебатах по управлению ИИ: следует ли скоординировать и потенциально кодифицировать ограничения или оставить их на усмотрение конкурентного давления и индивидуального корпоративного суждения.
Предложение Amodei остается добровольным, но его одобрение руководителями OpenAI, DeepMind и xAI знаменует собой первый случай, когда лидеры крупных передовых лабораторий публично выступили за замедление темпов роста. Контраргумент Хуана, исходящий от самой дорогой компании в мире, дает прикрытие руководителям и политикам, которые утверждают, что требование осторожности даст преимущество конкурентам, особенно в Китае.
Президент Трамп выступил против новых правил в области ИИ, и эта позиция подрывает собственные призывы отрасли к замедлению, как отметил CNBC в соответствующем анализе. Это оставляет любое добровольное соглашение о темпах без механизма принуждения, который, по словам защитников безопасности, ему нужен, и на данный момент сохраняет твердые дебаты о системах корпоративной чести.
Учитывая, что исследователи публично предупреждают о катастрофических рисках, а лидеры крупнейших компаний отрасли теперь открыто расходятся во мнениях на сцене, вопрос о темпе, вероятно, будет доминировать в следующем политическом цикле в Вашингтоне - что бы рынок ни решил сделать в это время.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
