Генеральный директор Anthropic Дарио Амодей опроверг идею о том, что он нарисовал слишком пессимистическую картину искусственного интеллекта, утверждая в серии публикаций, что растущая общественная реакция на эту технологию является «по сути кризисом доверия» к институтам, а не результатом предупреждений руководителей ИИ.
Обмен, о котором TechCrunch сообщил в воскресенье, начался, когда инвестор Гэвин Бейкер заявил в подкасте All-In и на X, что предупреждения Amodei об опасностях искусственного интеллекта помогли спровоцировать негативную реакцию в Соединенных Штатах, особенно против центров обработки данных. Бейкер заявил, что Амодей «проиграл спор» по поводу регулирования ИИ, и, учитывая, что «он собирается стать генеральным директором одной из самых важных компаний в мире», написал: «Я со всем уважением считаю, что ему следует приложить усилия, чтобы быть более позитивным защитником своей собственной отрасли». Подробнее об этой истории — в нашем последние разработки в ИИ.
Ответ Амодеи, опубликованный на X, привлек внимание всей отрасли искусственного интеллекта тем, что он раскрывает то, как один из самых выдающихся лидеров отрасли интерпретирует мрачное настроение общественности, а также необычно резкой самокритикой по поводу невыполненных обещаний отрасли.
«Обычные люди не доверяют компаниям»
Амодей признал в своих постах, что «общественность негативно относится к ИИ», и согласился, что «это большая проблема». Но он отверг идею о том, что негатив «в первую очередь вызван» им «или любым другим лидером ИИ, предупреждающим о рисках ИИ».
«Я думаю, что это, по сути, кризис доверия», — написал Амодей. «Я думаю, что обычные люди не доверяют компаниям, правительствам или технологической индустрии и всегда подозревают, что мы придумываем какой-то новый способ их обмануть».
По словам Амодеи, это кризис, который создавался десятилетиями, а негативная реакция ИИ «лишь его последняя итерация». Комментарий прозвучал в момент очевидного напряжения между компаниями, занимающимися искусственным интеллектом, и общественностью: протесты против строительства центров обработки данных распространились по Соединенным Штатам, а оппозиция сообщества неоднократно откладывала крупные строительные работы в этом году.
Оспаривание обвинения в «негативных сообщениях»
Что касается конкретного обвинения в том, что его собственное общение было слишком мрачным, Амодей был прямолинеен. «Я не согласен с тем, что мои сообщения были непропорционально негативными», — написал он, заявив, что его тексты «примерно одинаково сбалансированы между рисками и выгодами». Он отметил, что написал свое эссе «Машины любящей благодати» именно потому, что «не чувствовал, что индустрия искусственного интеллекта рисует достаточно вдохновляющую картину того, как технология может радикально изменить мир к лучшему».
Но наиболее цитируемый отрывок из ответа Амодеи был нацелен на его собственную отрасль, включая его собственную компанию. «Я думаю, что самая точная критика компаний, занимающихся искусственным интеллектом, включая Anthropic, заключается в том, что мы еще не выполнили наши большие обещания принести пользу миру», — написал он. «Это полностью зависит от нас, и я думаю, что вам следует высказывать именно эту критику, а не всю эту чушь о обмене сообщениями и маркетинге».
Обещание, что ИИ вылечит рак, добавил он, «скорее клише, чем вдохновляет». По его мнению, что на самом деле изменит общественное мнение, так это «действительное излечение рака».
Регламентный бой
Амодей также отверг формулировку регулирования регулирования Бейкера, обвинив его в том, что он изображает «ложный выбор» между широким распространением ИИ без правил или концентрацией технологии в руках нескольких компаний посредством правил.
«Я знаю, что существует своего рода сокращение Силиконовой долины, где регулирование = контроль регулирования = концентрация власти, но я всегда считал, что это слишком упрощенная картина мира», — написал Амодей. «Многие люди за пределами этого пузыря думают о регулировании как о чем-то, что ограничивает корпоративную власть и приносит пользу обычным людям».
Он сказал, что Anthropic намеренно разработала политические предложения, чтобы избежать укоренения действующих игроков. «Мы очень стараемся делать предложения, которые ставят в невыгодное положение (замедляют) передовые компании, занимающиеся искусственным интеллектом, и в то же время преимущество более мелких конкурентов», — написал он. Anthropic выступает за требования прозрачности для крупных компаний, занимающихся искусственным интеллектом, включая законопроект Калифорнии, налагающий обязательства по раскрытию информации.
Что касается моделей открытого веса (это горячая точка в текущих политических дебатах, поскольку Белый дом недавно решил освободить модели открытого веса от некоторых федеральных проверок), Амодей предложил тонкую позицию. «ИИ — это структурно технология, которая имеет тенденцию концентрировать власть», — заявил он. Открытые веса «некоторым помогают в этом, но далеко не являются достаточным решением, потому что они просто несколько смещают концентрацию на тех, у кого больше всего вычислительных ресурсов и чипов». Правильные «правила движения», по его словам, могут одновременно устранять кибер-, биологические риски и риски согласования, ограничивать возможности передовых лабораторий и оставлять место для моделей с открытым весом.
Почему обмен важен
Дебаты происходят в чувствительный момент для Anthropic. Компания находится на волне коммерческого успеха, а рост доходов сделал ее одной из наиболее внимательно наблюдаемых компаний в сфере технологий, и многие ожидают, что она проведет публичный листинг. Ее генеральный директор одновременно остается одним из самых ярых сторонников серьезного отношения к рискам ИИ в отрасли — сочетание, которое делает его сообщения громоотводом.
Аргумент Бейкера отражает более широкую тенденцию в венчурном капитале и среди сторонников ИИ: общественный скептицизм в отношении ИИ — это, по большей части, коммуникационная проблема, созданная собственной осторожностью отрасли. Ответ Амодеи фактически переворачивает эту концепцию: проблема не в том, что говорят лидеры ИИ, а в том, чего отрасль не смогла обеспечить и насколько мало общественность доверяет институтам, создающим эту технологию.
Для компании, чей бренд основан на ответственной лаборатории искусственного интеллекта, позиция последовательная. Но уступка Amodei о том, что самая резкая и точная критика — это разрыв в отрасли между обещаниями и выполнением, — это особенно откровенное признание генерального директора, чья компания дала одни из самых больших обещаний из всех.
В сообщениях также обрисована позиция, которую Anthropic, скорее всего, будет защищать по мере усиления политической борьбы в Вашингтоне: правила прозрачности для пограничных лабораторий, меры защиты, которые дают преимущество более мелким конкурентам, и отсутствие тотальной презумпции того, что открытые веса решают проблему концентрации власти.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
