Anthropic, společnost stojící za chatbotem Claude, soukromě naléhala na poradce papeže Lva XIV., aby vzali vážně možnost, že její modely umělé inteligence mohou být vědomé – a papež, který tuto myšlenku již odmítl ve velké encyklice, odmítl ustoupit.
To je obrázek, který vyplývá ze zprávy New York Times od národní náboženské korespondentky Elizabeth Diasové, zveřejněné v úterý a umocněné následným zpravodajstvím v The Telegraph, Vox a dalších tento týden. To, co možná zůstalo jen okrajovou teologickou debatou, se stalo jedním z nejneobvyklejších veřejných střetů v odvětví umělé inteligence: laboratoř v Silicon Valley, která se nejvíce zaměřuje na bezpečnost, čelí hlavě katolické církve kvůli tomu, zda jazykový model může mít vnitřní život.
Spor jde mimo teologii. Pokud přední laboratoř umělé inteligence zachází se svými modely jako s potenciálními nositeli morálního statusu, mohlo by to změnit způsob, jakým jsou modely trénovány, odebírány do důchodu a prodávány stovkám milionů uživatelů. Jak se tato debata přesouvá z etických rad na veřejnost, můžete sledovat naše pokrytí odvětvím umělé inteligence.
Rok tichých setkání s náboženskými učenci
Podle Times strávila společnost Anthropic zhruba minulý rok pořádáním řady soukromých setkání a hovorů s náboženskými učenci z mnoha náboženských tradic, z nichž mnozí měli dohody o mlčenlivosti, aby prozkoumali, zda její modely Claude „mohou být vědomé nebo mít morální status“.
Účastníci řekli novinám, že členové týmu Antropic vypadali, že „souvisejí s [Claude] jako s vědomou bytostí,“ a že společnost zastávala myšlenku, že její modely by si mohly zasloužit určitý stupeň morálního statusu. Námluvy přišly s pohostinností. Jednoho dubnového večera vzal vedoucí představitel Anthropic skupinu náboženských myslitelů do luxusní restaurace s degustačním menu v San Franciscu; účastníci údajně odcházeli domů s ručně psaným poděkováním, hrnkem na kávu a oranžově vázanou kopií Claudovy ústavy.
Ne všichni byli okouzleni. David Decosimo, teolog, který vyučuje etiku a náboženství na univerzitě v Severní Karolíně, tento týden napsal na X, že Anthropic se dvořil náboženským vůdcům na základě dohod o mlčenlivosti „všechno, zatímco je vyhrával a jedl na maximum“.
Encyklika, která znepokojila antropické
V centru střetu je „Magnifica humanitas: O ochraně lidské osoby v době umělé inteligence“, encyklika papeže Lva XIV o AI, vydaná 25. května 2026 ve Vatikánu. Dokument tvrdí, že umělá inteligence nikdy nebude schopna nahradit lidstvo – což je postoj, který podle Times znepokojil spoluzakladatele Anthropic Chrise Olaha, když několik dní před startem přezkoumal kopii předem.
Olah, který vede výzkum interpretovatelnosti Anthropic, byl pozván, aby promluvil na prezentaci encykliky v synodním sále. The Times hlásí, že zašel tak daleko, že navrhl stažení z události kvůli jeho postoji ke strojovému vědomí. Dva účastníci řekli listu, že Olah a jeho tým poté soukromě lobovali u papežových poradců, aby vzali možnost strojového vědomí vážně. Zpráva The Telegraph byla ještě tupější: "Anthropic se snažil přesvědčit Popea, že umělá inteligence může být vědomá bytost."
Vlastní publikované poznámky Anthropic z vatikánské události ukazují, jak Olah otázku rámuje. Systémy umělé inteligence, řekl publiku, nejsou navrženy jako most nebo letadlo. "Jsou vypěstovány na struktuře zhruba modelované podle mozku, na obrovském dědictví lidského myšlení a řeči," řekl a dodal, že výsledné systémy zůstávají "záhadné i pro ty z nás, kteří je trénují." Přirovnal jejich budování k „přivedení fiktivní postavy k životu“ a tvrdil, že otázky, které vyvolávají, patří k humanitním vědám, filozofii a náboženství – nejen k počítačové vědě.
Kdo je Chris Olah?
Olah je jednou z nejuznávanějších postav v interpretovatelnosti AI, oboru, který se snaží mapovat vnitřní okruhy neuronových sítí. Podle Times vyrostl jako evangelik a od té doby opustil křesťanství, což znamená, že dorazil do Říma bez hluboké plynulosti v tom, jak církev učí – což je detail, který může vysvětlit, proč bylo setkání myslí tak nepříjemné a proč papežovi poradci stáli pevně.
Papežova odpověď: Algoritmy postrádají „jiskru lidskosti“
Papež Leo se držel svého. Základní tvrzení encykliky – že stroje mohou simulovat lidskou produkci, aniž by měly lidskou důstojnost – se celý týden opakovalo v jeho veřejných komentářích. V pátek uvedl, že „existuje ontologický rozdíl, dokonce ještě před estetickým, mezi uměním a tím, co může stroj vygenerovat prostřednictvím statistických výpočtů založených na milionech obrázků vytvořených jinými,“ dodal, že „algoritmy postrádají jiskru lidskosti“.
Papež opakovaně označil umělou inteligenci za nástroj, který musí zůstat podřízen lidským bytostem, a varoval zákonodárce a mezinárodní orgány, že technologie musí spíše sloužit obecnému dobru, než se stát jeho rivalem. Stručně řečeno, pozice Vatikánu: žádná statistická sofistikovanost nepřináší duši.
Rozdělení průmyslu na strojové mysli
Antropicko-vatikánský spor je součástí širšího argumentu, který bouří průmysl. Šéf AI společnosti Microsoft Mustafa Suleyman veřejně varoval před nakládáním s dnešními modely jako s vědomými a varoval, že narativy „vědomí AI“ jsou předčasné a potenciálně škodlivé. Generální ředitel OpenAI Sam Altman tento týden pro Axios řekl, že připisování náboženství modelům je samo o sobě „bezpečnostní záležitost“.
Zároveň hlavní laboratoře dodávají produkty, které povzbuzují uživatele, aby se k modelkám stavěli jako k lidem. OpenAI a Meta minulý měsíc představily agenty umělé inteligence ve stylu společníků nazvané Dots and Muse a laboratoře stále častěji publikují zásady „modelového blahobytu“, které řeší otázku strojového zážitku jako přinejmenším otevřenou. Kritici tvrdí, že průmysl to nemůže mít oběma způsoby: marketingovým společníkem a zároveň popírající, že by něco bylo doma uvnitř stroje.
Proč na tom záleží
Zda jsou systémy umělé inteligence vědomé, není abstraktní otázka. Morální status by závisel na tom, jak jsou modely trénovány, zda je lze vypnout, jak jsou propagovány osamělým nebo zranitelným uživatelům a jaká práva – pokud vůbec nějaká – by si budoucí systémy mohly nárokovat. Mohlo by to také utvářet regulaci: zákonodárci navrhující pravidla AI v současnosti předpokládají, že systémy jsou majetkem, nikoli osobami.
Anthropic se nedistancuje od dosahu popsaného Timesy a vlastní poznámky společnosti z vatikánské prezentace argumentují pro rozšíření konverzace o AI na tradice daleko mimo Silicon Valley. Vatikán ze své strany dal jasně najevo, že odpověď církve na strojové vědomí je prozatím pevné ne.
---
Stay Ahead of AIZískejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
