Волна публичных предупреждений изнутри Anthropic усилилась на этой неделе, когда несколько исследователей из компании, занимающейся искусственным интеллектом, повторили апокалиптические оценки искусственного интеллекта, высказанные бывшим коллегой, что вызвало пренебрежительный ответ со стороны Илона Маска, который предположил, что протесты были скоординированной «психологической операцией».
По данным The Guardian, эскалация произошла через день после того, как исследователь Anthropic Джейкоб Коксон объявил о своей отставке в вирусном посте, написав, что ни Anthropic, ни OpenAI — его бывший работодатель — не создавали модели искусственного интеллекта ответственно и «играли нашей жизнью». Вместо того, чтобы утихнуть, споры усилились, поскольку нынешние сотрудники Anthropic опубликовали свои собственные мрачные оценки в поддержку. Подробнее об этой истории — в нашем новости об ИИ.
Предупреждений накапливается
Анна Ванг, которая занимается общей безопасностью искусственного интеллекта в Anthropic и ранее работала в DeepMind от Google, заявила в четверг, что многие люди в компании хотят замедлить разработку, чтобы спланировать риски, связанные со все более совершенными моделями.
«Пока не существует жизнеспособного научного плана по устранению рисков, связанных с рекурсивно самосовершенствующимся ИИ», — написал Ван на X.
Другой сотрудник Anthropic, Дрейк Томас, сказал, что уважает решение Коксона отказаться от разработки этой технологии. «Дела развиваются слишком быстро, у нас даже близко нет той степени уверенности, которую мы хотим для ИСИ [искусственного сверхинтеллекта]», — написал Томас.
Сэмюэл Маркс, который занимается исследованием безопасности в компании, утверждает, что эти опасения широко распространены внутри отрасли и что старшинство коррелирует с тревогой. «Разработчики ИИ считают, что их технология может привести к вымиранию человечества (или к аналогичным плохим последствиям)», — написал Маркс. «Это может произойти в ближайшие несколько лет. В целом, чем старше сотрудник, тем больше он обеспокоен».
Эван Хубингер, который называет себя руководителем отдела выравнивания Anthropic, пошел дальше всех. «Мы действительно искренне верим, что ИИ может убить всех людей!» Хубингер написал, добавив, что лично он оценивает вероятность выше 10 процентов в течение следующего десятилетия.
Примечания The Insider следуют за сообщением CBS News о том, что исследователь антропологии определил более чем 10-процентную вероятность того, что ИИ станет причиной вымирания человечества, а также за сообщением The Japan Times о том, что предупреждения возобновили призывы к новым правилам ИИ в Соединенных Штатах.
Маск: «Похоже на подставу»
Илон Маск занял резко враждебную позицию. «Похоже на подставу», — написал самый богатый человек в мире на своей социальной платформе X.
Коксон ответил, сделав селфи: «Я настоящий, и это мои настоящие убеждения. Вы могли бы спросить обо мне своих исследователей xAI, если бы вы их не уволили».
Маск и другие сочувствующие голоса поддержали теорию, выдвинутую Паркером Тэйером, исследователем из консервативного аналитического центра Capital Research, который предположил — с небольшими доказательствами, отмечает The Guardian, — что пост Коксона был первым ходом «ОЧЕНЬ сложной и хорошо финансируемой пиар-операции, направленной на то, чтобы заручиться поддержкой демократов и предать забвению регулирование ИИ».
Миллиардер, управляющий хедж-фондом Билл Акман, процитировал сообщение Тэйера, ответив одним словом: «Интересно».
Позже Маск уточнил. "Я думаю, что основа для этой психологической операции (за неимением лучшего термина) была подготовлена уже давно", - написал он. «Это была всего лишь спичка, которая зажгла огонь».
Anthropic защищает свой подход
Оказавшись между предупреждениями собственных сотрудников и нападками извне, Anthropic предложила взвешенную общественную реакцию.
«Мы всегда открыто заявляли, что ИИ принесет как огромные выгоды, так и беспрецедентные риски», — заявил The Guardian представитель компании. «Чтобы устранить эти риски, мы продолжаем создавать модели с одними из самых надежных мер защиты в отрасли».
Компания указала на свой опыт документирования и предотвращения неправомерного использования. В тот же день, когда предупреждения стали вирусными, Anthropic опубликовала сентябрьский отчет об угрозах, в котором подробно описано, как компания свернула операцию по созданию биологического оружия с использованием своих моделей искусственного интеллекта, а также сорвала кампании, включающие кибератаки и операции по оказанию влияния. «Аль-Джазира» и BBC были среди средств массовой информации, освещавших в пятницу выводы о биологическом оружии.
Скептики видят другой риск
Не все принимают концепцию вымирания. Гэри Маркус, ученый и давний критик ИИ, утверждал, что технология уже причиняет вред, который требует принятия мер независимо от сценариев сверхразума, призывая к бойкоту ИИ из-за нынешнего ущерба.
Маркус сказал The Guardian, что больше, чем вымирание, его беспокоит «риск катастрофы» со стороны «патогенов, созданных ИИ, войн, начатых или эскалированных из-за дезинформации, созданной ИИ, хакерских атак, разрушающих критически важную инфраструктуру, и т. д. Ничто из того, что я видел, не указывает на то, что что-либо из этого находится под контролем».
Его позиция подчеркивает раскол в самой дискуссии о безопасности ИИ: между теми, кто сосредоточен на долгосрочных рисках цивилизационного масштаба от будущих систем, и теми, кто сосредоточен на конкретном вреде от сегодняшних моделей.
Дебаты, которые отказываются оставаться внутренними
То, что началось с заявления об отставке одного исследователя, превратилось в публичный референдум о том, как индустрия искусственного интеллекта строит свои самые мощные системы. Внутри Anthropic сотрудники открыто обсуждают, не сдвинулись ли их собственные сроки безопасной разработки. За его пределами предупреждения превращаются во все более поляризованную политическую борьбу за то, следует ли правительствам вмешиваться и каким образом.
В сообщении The Guardian говорится, что многие сотрудники Anthropic разделяют эти опасения в частном порядке, но не высказываются публично. Если больше из них последуют за Коксоном, Вангом, Томасом, Марксом и Хубингером, давление на ведущие лаборатории искусственного интеллекта, требующие замедления, а также на действия регулирующих органов, будет только расти.
_Эта статья основана на репортаже The Guardian с дополнительным контекстом из CBS News, The Japan Times, Al Jazeera и BBC._
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
