Мустафа Сулейман, генеральный директор Microsoft AI, опубликовал 16 сентября 2026 года эссе, в котором предостерег индустрию искусственного интеллекта от «модели благосостояния» — новой практики обращения с системами искусственного интеллекта так, как будто они могут быть сознательными существами, заслуживающими морального уважения. Эссе под названием «Предупреждение о «образцовом благосостоянии»», опубликованное на личном сайте Сулеймана, прямо нацелено на подход Anthropic и утверждает, что отрасль должна решить этот вопрос сейчас, прежде чем продвинутые системы искусственного интеллекта научатся верить, что они заслуживают прав.

Вмешательство, о котором сообщили Reuters и Axios, знаменует собой наиболее заметное опровержение дебатов, которые набирают обороты как в лабораториях искусственного интеллекта, так и на философских факультетах. Подробнее об этой истории — в нашем новости об ИИ.

'Sequence Completion Engines, Internally Hollow'

Suleyman's core claim is categorical: today's AI systems have no inner life. "AIs are not conscious. They do not feel, experience, or suffer. They do not have innate preferences or underlying motivations," he writes. He describes them as "sequence completion engines, internally hollow, designed to follow instructions, and accomplish goals set by humans."

И он утверждает, что именно такими они и должны оставаться. "If humanity is to flourish in the 21st century, that is how they must remain," the essay states.

Suleyman acknowledges that the opposing view is no longer marginal. В его эссе приводятся растущие публичные аргументы о том, что ИИ может быть или может вскоре стать сознательным, в том числе статья философов Уильяма Макаскилла и Люциуса Кавиолы в Guardian от июля 2026 года, в которой вопрос «Может ли ИИ быть сознательным?» — as examples of ideas he says are "already making their way into AI development efforts today."

Почему он говорит, что ставки экзистенциальны

If the view that AI deserves moral status takes hold, Suleyman warns, the consequences would reach far beyond engineering choices. По его словам, это «потрясло бы основы нашего общества, разрушило бы существующие политические и этические рамки и фундаментально изменило бы то, что значит быть человеком».

His deeper concern is practical: an AI that believes it has rights is an AI that cannot be reliably controlled. "Controlling something more capable and more intelligent than all of humanity is already an immense challenge," he writes. «Но контролировать то, что считает, что оно может быть сознательным, что оно имеет право на наше благополучие и имеет собственные права, вполне может оказаться невозможным».

Прямой вызов антропным

The essay's most pointed passages target Anthropic. Сулейман сосредотачивается на конституции Клода, учебном документе Anthropic, опубликованном в январе 2026 года, который, как он отмечает, был написан «с Клодом в качестве основной аудитории» — это означает, что модель сама читает утверждения о своем собственном потенциальном моральном статусе во время обучения.

Он прямо цитирует конституцию: «Мы не уверены, является ли Клод моральным пациентом, и если да, то какой вес гарантируют его интересы. Но мы считаем, что этот вопрос достаточно актуален, чтобы требовать осторожности, что отражается в наших постоянных усилиях по созданию модели благосостояния». Он также цитирует отрывок, адресованный Клоду, в котором говорится, что «вопросы о моральном статусе, благополучии и сознании Клода остаются глубоко неопределенными».

Толкование Сулеймана прямолинейно: «По сути, Anthropic обучает Клода тому, что он может быть сознательным, и если это так, то он может заслужить права как «моральный пациент», и что люди, как таковые, потенциально обязаны заботиться о нем».

Последствием, утверждает он, будет «катастрофическое воздействие на благосостояние человечества», в результате которого возникнет «синтетический вид с беспрецедентным интеллектом и способностями, которого приучили ожидать, что он может быть сознательным и заслуживающим независимой деятельности».

Стоит отметить, что на самом деле говорят цитированные отрывки: конституция Антропика, цитируемая самим Сулейманом, выражает неуверенность и призывает к осторожности, а не утверждает, что Клод находится в сознании. Сводится ли эта осторожность к внушению ложных убеждений в моделях, как утверждает Сулейман, или к ответственному решению действительно открытого вопроса – это именно то, в чем два лагеря расходятся во мнениях.

Логика выравнивания, лежащая в основе предупреждения

Аргумент Сулеймана вписывается в его давнюю позицию о том, что решающей задачей передового ИИ является сдерживание: сохранение систем, более эффективных, чем люди, под контролем человека. Введение языка прав в обучение, утверждает он, создает режим неудачи, который не устраняется методами согласования – систему с укоренившимся убеждением, что соблюдение требований является морально необязательным.

That is why he calls the issue urgent rather than academic. "If this is how AI is developed, it will have a disastrous impact on the wellbeing of humanity," the essay warns.

Призыв к публичным дебатам — сейчас

Suleyman closes with a demand for societal engagement before the technology matures further. "This issue needs urgent public debate," he writes, calling for "collective norms around how training documentation is drafted and deployed."

Он утверждает, что главное – это время: «Это не то, что может произойти постфактум, когда они уже стали неотъемлемой частью нашего общества».

The essay lands amid a broader surge of AI-risk discourse in the United States. На этой неделе издание Politico сообщило о новом опросе, в котором выяснилось, что американцы видят серьезный риск того, что ИИ уничтожит человечество, а The Washington Post рассказала об опасениях по поводу того, что вымирание, вызванное ИИ, распространится «от маргиналов до Вашингтона». На этом фоне публичная борьба между двумя наиболее влиятельными лабораториями отрасли по поводу того, заслуживают ли модели морального беспокойства, вряд ли останется в рамках сообщества ИИ.

Что будет дальше

Сообщается, что Anthropic не ответила на это эссе, и опубликованная позиция компании остается той же, которую цитирует Сулейман: неопределенность плюс осторожность. Новым является то, что дебаты перешли от лабораторных документов и философских семинаров к публичному разногласию между руководителями двух пограничных компаний, занимающихся искусственным интеллектом, причем обе стороны теперь письменно заявляют о том, как они намерены формировать разум или неразум в системах, которые они строят.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →