Anthropic, компания, стоящая за чат-ботом Claude, в частном порядке требовала от советников Папы Льва XIV серьезно отнестись к возможности того, что ее модели искусственного интеллекта могут быть сознательными — и понтифик, который уже отверг эту идею в крупной энциклике, отказался сдвинуться с места.
Такова картина, которая возникает из репортажа национального религиозного корреспондента «Нью-Йорк Таймс» Элизабет Диас, опубликованного во вторник и усиленного последующими репортажами в The Telegraph, Vox и других изданиях на этой неделе. То, что могло бы остаться нишевой теологической дискуссией, превратилось в одно из самых необычных публичных столкновений в индустрии искусственного интеллекта: лаборатория Кремниевой долины, наиболее ориентированная на безопасность, противостоит главе католической церкви по поводу того, может ли языковая модель иметь внутреннюю жизнь.
Этот спор выходит за рамки богословия. Если ведущая лаборатория искусственного интеллекта будет относиться к своим моделям как к потенциальным носителям морального статуса, это может изменить методы обучения, вывода из эксплуатации и продажи моделей сотням миллионов пользователей. Вы можете следить за нашими репортажами об индустрии искусственного интеллекта, чтобы быть в курсе последних событий, поскольку эти дебаты переходят из советов по этике в общественное мнение.
Год тихих встреч с религиоведами
По данным Times, примерно в прошлом году Anthropic провела серию частных встреч и звонков с религиоведами многих религиозных традиций, многие из которых подписали соглашения о неразглашении, чтобы выяснить, могут ли ее модели Клода «быть сознательными или иметь моральный статус».
Участники рассказали газете, что члены команды Anthropic, похоже, «относились к [Клоду] как к сознательному существу» и что компания придерживалась идеи, что ее модели могут заслуживать определенного морального статуса. Ухаживание сопровождалось гостеприимством. Одним апрельским вечером руководитель Anthropic пригласил группу религиозных мыслителей в высококлассный ресторан с дегустационным меню в Сан-Франциско; Сообщается, что участники пошли домой с рукописной благодарственной запиской, кофейной кружкой и копией конституции Клода в оранжевом переплете.
Не все были очарованы. Дэвид Декосимо, теолог, преподающий этику и религию в Университете Северной Каролины, написал на X на этой неделе, что Anthropic ухаживал за религиозными лидерами в соответствии с соглашением о неразглашении, «при этом завоевывая их и обедая по максимуму».
Энциклика, которая встревожила антропологов
В центре конфликта находится «Magnifica humanitas: О защите человеческой личности во времена искусственного интеллекта», энциклика Папы Льва XIV об искусственном интеллекте, выпущенная 25 мая 2026 года в Ватикане. В документе утверждается, что ИИ никогда не сможет заменить человечество — позиция, которая, по данным Times, встревожила соучредителя Anthropic Криса Олаха, когда он просматривал предварительную копию за несколько дней до запуска.
Ола, возглавляющий исследование интерпретируемости Anthropic, был приглашен выступить на презентации энциклики в Синодальном зале. The Times сообщает, что он зашел так далеко, что предложил отказаться от участия в мероприятии из-за его позиции в отношении машинного сознания. Двое участников рассказали газете, что Ола и его команда затем в частном порядке лоббировали советников Папы, чтобы они серьезно отнеслись к возможности машинного сознания. Сообщение The Telegraph было еще более резким: «Anthropic пытался убедить Поупа, что ИИ может быть сознательным существом».
Опубликованные Anthropic комментарии с мероприятия в Ватикане показывают, как Ола формулирует вопрос. Системы искусственного интеллекта, сказал он аудитории, проектируются не так, как мост или самолет. «Они выращены на структуре, примерно смоделированной по образцу мозга, на огромном наследии человеческого мышления и речи», — сказал он, добавив, что полученные в результате системы остаются «загадочными даже для тех из нас, кто их тренирует». Он сравнил их создание с «оживлением вымышленного персонажа» и утверждал, что вопросы, которые они поднимают, относятся к гуманитарным наукам, философии и религии, а не только к информатике.
Кто такой Крис Ола?
Ола — одна из самых уважаемых фигур в области интерпретации ИИ, области, которая пытается составить карту внутренних цепей нейронных сетей. По данным «Таймс», он вырос евангелистом и с тех пор оставил христианство, то есть он прибыл в Рим, не обладая глубоким знанием того, как учит Церковь – деталь, которая может объяснить, почему встреча умов была такой неловкой и почему советники Папы стояли твердо.
Ответ Папы: алгоритмам не хватает «искры человечности»
Папа Лев стоял на своем. Основное утверждение энциклики — что машины могут имитировать человеческую деятельность, не обладая при этом человеческим достоинством — повторялось в его публичных комментариях на протяжении всей недели. В пятницу он написал, что «существует онтологическая разница, даже не эстетическая, между искусством и тем, что машина может генерировать посредством статистических вычислений, основанных на миллионах изображений, созданных другими», добавив, что «алгоритмам не хватает искры человечности».
Папа неоднократно называл ИИ инструментом, который должен оставаться подчиненным человеку, предупреждая законодателей и международные организации, что технологии должны служить общему благу, а не становиться ему соперником. Короче говоря, позиция Ватикана: никакие статистические изыскания не даруют душу.
Промышленный раскол из-за машинного разума
Противостояние Антропии и Ватикана лежит в основе более широкого спора, волнующего отрасль. Глава Microsoft по искусственному интеллекту Мустафа Сулейман публично предостерег от рассмотрения сегодняшних моделей как сознательных, предупредив, что повествования об «сознании искусственного интеллекта» преждевременны и потенциально вредны. Исполнительный директор OpenAI Сэм Альтман заявил на этой неделе Axios, что приписывание моделям религии является «проблемой безопасности» само по себе.
В то же время крупные лаборатории выпускают продукты, которые побуждают пользователей относиться к моделям как к людям. В прошлом месяце OpenAI и Meta представили ИИ-агенты-компаньоны под названием Dots и Muse, а лаборатории все чаще публикуют политики «модели благосостояния», которые рассматривают вопрос машинного опыта как минимум открытый. Критики утверждают, что отрасль не может иметь и то, и другое: маркетинговое партнерство и отрицание того, что что-то находится внутри машины.
Почему это важно
Обладают ли системы искусственного интеллекта сознанием — это не абстрактный вопрос. Моральный статус будет зависеть от того, как обучаются модели, можно ли их отключить, как они рекламируются одиноким или уязвимым пользователям и какие права (если таковые имеются) могут претендовать на будущие системы. Это также может повлиять на регулирование: законодатели, разрабатывающие правила ИИ, в настоящее время полагают, что системы являются собственностью, а не людьми.
Anthropic не отказалась от охвата, описанного Times, а собственные замечания компании из презентации в Ватикане свидетельствуют о том, что разговор об искусственном интеллекте должен распространиться на традиции далеко за пределами Кремниевой долины. Ватикан, со своей стороны, ясно дал понять, что ответом Церкви машинному сознанию на данный момент является твердое «нет».
---
Будьте впереди ИИПолучайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
