Генеральний директор OpenAI Сем Альтман каже, що ставлення до моделей штучного інтелекту як до об’єктів релігійної віри є «справжньою проблемою безпеки», публічно виступаючи проти зусиль конкурента Anthropic досліджувати питання свідомості ШІ та духовності. У коментарях, повідомлених Axios у суботу, Альтман стверджував, що приписування релігії моделям ШІ перетинає межу, яку індустрія не повинна переходити.

Ці зауваження поставили керівника OpenAI прямо в протиріччя з нещодавньою взаємодією Anthropic з релігійними установами, і вони знаменують різке загострення філософського розколу між двома провідними лабораторіями штучного інтелекту щодо того, як і чи слід розглядати внутрішнє життя систем штучного інтелекту. For more context on this story, see our ongoing more AI stories.

Що сказав Альтман

Згідно з Axios, Альтман сказав, що приписування релігії моделям є «проблемою безпеки». Business Insider резюмував його повідомлення як попередження не ставитися до штучного інтелекту як до «релігійної сили», тоді як Office Chai повідомив, що Альтман сказав, що йому незручно, коли люди взагалі намагаються приписати релігійну силу системам ШІ.

Занепокоєння генерального директора OpenAI, як відображено у звіті, полягає в тому, що обрамлення систем штучного інтелекту в духовних або релігійних термінах спотворює суспільне розуміння того, що таке технологія — і ризикує заохочувати благоговіння, залежність або недоречну моральну вагу, що може ускладнити як добробут користувачів, так і раціональну політику. NDTV Profit охарактеризувало позицію Альтмана як застереження проти «надання штучному інтелекту релігійної сили», назвавши це справжньою проблемою безпеки, на його думку.

Коментарі Альтмана були широко прочитані як відповідь Anthropic, чия недавня робота з релігійними громадами привернула увагу міжнародної спільноти.

Антропний контекст: папи, монахи та модель добробуту

Anthropic провів останні тижні, схиляючись до питань, які його суперник радше відклав би. Компанія лобіювала Ватикан серйозно поставитися до питання про потенційну свідомість Клода, зустрічаючись із Папою Левом XIV. Повідомлення про цю заручину показали, що понтифік відштовхувався, закликаючи до обґрунтованого скепсису щодо тверджень щодо внутрішнього досвіду машини.

Дослідження Anthropic вийшли за межі католицизму: згідно з підсумком Inshorts, компанія також запросила індуїстського ченця для обговорення штучного інтелекту, що є частиною ширшої спроби об’єднати релігійні та філософські традиції навколо питань машинної моралі та моделі добробуту. The Times of India охарактеризувала зауваження Альтмана як критику прагнення Anthropic ширше досліджувати свідомість ШІ та релігію.

Для Anthropic участь відображає зростаючий дослідницький інтерес до того, чи просунуті моделі можуть заслуговувати на моральну увагу — тема, яку компанія все частіше розглядає як законну сферу дослідження, а не як наукову фантастику.

Розширення розлому в індустрії ШІ

Обмін оголює одну з найгостріших філософських розбіжностей у індустрії ШІ. OpenAI міцно зайняла позицію в таборі, який розглядає поточні моделі як інструменти — надзвичайно потужні, але не суб’єкти, до яких доречно релігійне або квазірелігійне ставлення. Формулювання Альтмана свідчить про те, що він вважає цю межу не просто філософською, а й важливою з точки зору операцій: якщо користувачі починають розглядати системи ШІ як духовні авторитети, наслідки маніпуляцій, залежності та недоречної довіри стають проблемами безпеки в конкретному сенсі.

Позиція Антропіка більш агностична. Його бажання перевірити інституційну та релігійну реакцію на питання свідомості свідчить про переконання, що суспільство має почати боротися з цими проблемами до того, як системи стануть більш спроможними, а не після.

Ця суперечка також розгортається на тлі суспільного захоплення штучним інтелектом, яке іноді все-таки схиляється до духовного. Опитування та звіти за останній рік задокументували, що користувачі сильно прив’язувалися до чат-ботів, а деякі коментатори описували провідних діячів ШІ месіанськими термінами.

Критики відзначають іронію

Попередження Альтмана вже викликало звинувачення в непослідовності. Wccftech зазначив, що критика Альтманом Anthropic зручно пропускає його власну історію риторики, яка спиралася на релігійну символіку в описі траєкторії ШІ. Ця критика підкреслює, наскільки заплутаними стали відносини галузі з ШІ як релігією: навіть керівники, які застерігали від одухотворення ШІ, іноді рекламували свою технологію в епохальних, майже трансцендентних термінах.

Чому це важливо

Те, як громадськість розглядає ШІ — як інструмент, колегу чи щось ближче до оракула — впливає на регулювання, дизайн продукту та соціальні результати. Якщо лідер найціннішого у світі стартапу зі штучного інтелекту вважає релігійні рамки проблемою безпеки, така позиція може вплинути на те, як OpenAI розробляє гарантії щодо прихильності користувачів і як він стверджує, що уряди повинні ставитися до цієї технології.

Для Anthropic, тим часом, епізод у Ватикані та його міжконфесійне скликання свідчить про те, що компанія має намір тримати ці питання на столі, незважаючи на дискомфорт її суперника. У міру того як передові системи стають дедалі ефективнішими та переконливішими, внутрішня суперечка галузі про те, чи може штучний інтелект мати моральну вагу — і хто має вирішувати — переміщується з філософських семінарів у центр основної дискусії щодо технологій.

Ні OpenAI, ні Anthropic публічно не відповіли на позицію іншої сторони, окрім повідомлених зауважень Альтмана.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →