Генеральный директор OpenAI Сэм Альтман говорит, что отношение к моделям ИИ как к объектам религиозной преданности является «реальной проблемой безопасности», публично выступая против попыток конкурирующей компании Anthropic исследовать вопросы сознания и духовности ИИ. В комментариях, опубликованных Axios в субботу, Альтман заявил, что приписывание религиозности моделям ИИ пересекает черту, которую отрасль не должна пересекать.

Эти замечания ставят главу OpenAI прямо в противоречие с недавним взаимодействием Anthropic с религиозными учреждениями и отмечают резкую риторическую эскалацию философского раскола между двумя ведущими лабораториями ИИ по поводу того, как — и нужно ли — следует относиться к внутренней жизни систем ИИ. Подробнее об этой истории — в нашем тенденции ИИ.

Что сказал Альтман

По данным Axios, Альтман заявил, что приписывание моделям религии является «проблемой безопасности». Business Insider резюмировал его послание как предупреждение не относиться к ИИ как к «религиозной силе», а Office Chai сообщил, что Альтман сказал, что ему не нравится, когда люди вообще пытаются приписать религиозную силу системам ИИ.

Как отражено в отчете, генеральный директор OpenAI обеспокоен тем, что представление систем искусственного интеллекта в духовных или религиозных терминах искажает общественное понимание того, что представляет собой технология, и рискует поощрять такое почтение, зависимость или неуместный моральный вес, который может усложнить как благополучие пользователей, так и рациональную политику. NDTV Profit охарактеризовал позицию Альтмана как предупреждение против «придания ИИ религиозной силы», назвав это, по его мнению, реальной проблемой безопасности.

Комментарии Альтмана были широко прочитаны как ответ на Anthropic, чья недавняя работа с религиозными общинами привлекла международное внимание.

Антропный контекст: Папы, монахи и модель благосостояния

Последние недели Anthropic провела, размышляя над вопросами, которые ее конкурент предпочел бы отложить. Компания лоббировала Ватикан, чтобы тот серьезно отнесся к вопросу о потенциальном сознании Клода, на встрече, в которой участвовал Папа Лев XIV. Сообщение об этом столкновении показало, что понтифик возражал, призывая к обоснованному скептицизму в отношении утверждений о внутреннем опыте машины.

Исследования Anthropic вышли за рамки католицизма: согласно резюме Inshorts, компания также пригласила индуистского монаха для обсуждения ИИ, что является частью более широких усилий по объединению религиозных и философских традиций вокруг вопросов машинной морали и модели благосостояния. The Times of India охарактеризовала высказывания Альтмана как критику стремления Anthropic исследовать сознание и религию ИИ в более широком смысле.

Для Anthropic это участие отражает растущий исследовательский интерес к тому, могут ли передовые модели заслуживать морального рассмотрения — тема, которую компания все чаще рассматривает как законную область исследований, а не как научную фантастику.

Расширяющаяся линия разлома в индустрии искусственного интеллекта

Этот разговор обнажил одно из самых острых философских противоречий в индустрии искусственного интеллекта. OpenAI прочно заняла позицию в лагере, который рассматривает текущие модели как инструменты — чрезвычайно мощные, но не как сущности, к которым уместно религиозное или квазирелигиозное отношение. Формулировка Альтмана предполагает, что он считает эту границу не просто философской, но и важной с практической точки зрения: если пользователи начнут рассматривать системы ИИ как духовные авторитеты, последствия манипуляций, зависимости и неуместного доверия станут проблемами безопасности в конкретном смысле.

Позиция Антропика более агностическая. Его готовность проверить институциональную и религиозную реакцию на вопрос сознания предполагает веру в то, что общество должно начать решать эти проблемы до того, как системы станут более дееспособными, а не после.

Спор также разворачивается на фоне общественного интереса к ИИ, который иногда действительно смещается в сторону духовности. Опросы и отчеты за последний год зафиксировали сильную привязанность пользователей к чат-ботам, а некоторые комментаторы описывали ведущих деятелей искусственного интеллекта в мессианских терминах.

Критики отмечают иронию

Предупреждение Альтмана уже вызвало обвинения в непоследовательности. Wccftech отметил, что критика Антропики Альтманом удобно упускает из виду его собственную историю риторики, которая опиралась на религиозную символику при описании траектории развития ИИ. Критика подчеркивает, насколько запутанными стали отношения отрасли с представлением об ИИ как религии: даже руководители, предостерегающие от одухотворения ИИ, временами рекламировали свои технологии в эпохальных, почти трансцендентных терминах.

Почему это важно

То, как общественность представляет ИИ — как инструмент, коллегу или что-то вроде оракула — имеет последствия для регулирования, дизайна продуктов и социальных результатов. Если лидер самого ценного в мире стартапа в области искусственного интеллекта считает, что религиозные рамки являются проблемой безопасности, эта позиция может повлиять на то, как OpenAI разрабатывает меры безопасности в отношении привязанности пользователей и как, по его мнению, правительства должны относиться к этой технологии.

Между тем, для Anthropic эпизод с Ватиканом и его межконфессиональное совещание позволяют предположить, что компания намерена оставить эти вопросы на повестке дня, несмотря на дискомфорт своего конкурента. По мере того, как передовые системы становятся все более эффективными и убедительными, внутренний спор в отрасли о том, может ли ИИ иметь моральный вес (и кто должен принимать решение), перемещается из философских семинаров в центр основных технологических дебатов.

Ни OpenAI, ни Anthropic не ответили публично на позицию друг друга, за исключением заявлений Альтмана.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →