Generální ředitel OpenAI Sam Altman říká, že zacházení s modely umělé inteligence jako s předměty náboženské oddanosti je „skutečným bezpečnostním problémem“ a veřejně se brání proti snahám konkurenčního Anthropicu zkoumat otázky vědomí a spirituality umělé inteligence. V komentářích, o kterých v sobotu informoval Axios, Altman tvrdil, že připisování náboženství modelům AI překračuje hranici, kterou by průmysl překročit neměl.
Tyto poznámky staví šéfa OpenAI přímo do rozporu s nedávným zapojením Anthropic do náboženských institucí a znamenají ostrou rétorickou eskalaci ve filozofickém rozkolu mezi dvěma předními AI laboratořemi ohledně toho, jak – a zda – by se mělo zacházet s vnitřním životem systémů AI. For more context on this story, see our ongoing artificial intelligence updates.
Co řekl Altman
Podle Axios Altman řekl, že připisování náboženství modelům je „bezpečnostní záležitost“. Business Insider shrnul své poselství jako varování, aby se s AI nezacházelo jako s „náboženskou silou“, zatímco Office Chai uvedl, že Altman řekl, že je mu nepříjemné, když se lidé pokoušejí připisovat náboženskou sílu systémům AI vůbec.
Obavy generálního ředitele OpenAI, jak se odráží ve zprávách, je, že rámování systémů umělé inteligence v duchovních nebo náboženských pojmech zkresluje veřejné chápání toho, co technologie je – a riskuje povzbuzení takového druhu úcty, závislosti nebo nesprávné morální váhy, které by mohly zkomplikovat jak pohodu uživatelů, tak racionální politiku. NDTV Profit charakterizoval Altmanovu pozici jako varování před „udělováním náboženské síly AI“ a podle jeho názoru to označil za skutečný bezpečnostní problém.
Altmanovy komentáře byly široce čteny jako reakce na Anthropic, jehož nedávný přesah do náboženských komunit přitáhl mezinárodní pozornost.
Antropický kontext: Papežové, mniši a vzorný blahobyt
Společnost Antropic strávila poslední týdny otázkami, které by její rival raději odložil. Společnost lobovala ve Vatikánu, aby bral otázku Claudova potenciálního vědomí vážně, na setkání, které zahrnovalo papeže Lva XIV. Hlášení o tomto střetnutí naznačovalo, že papež zatlačil zpět a nabádal k zakořeněné skepsi ohledně tvrzení týkajících se vnitřní zkušenosti stroje.
Průzkum společnosti Anthropic přesahuje katolicismus: podle shrnutí Inshorts společnost také pozvala hinduistického mnicha, aby diskutoval o AI, což je součást širšího úsilí svolat náboženské a filozofické tradice kolem otázek strojové morálky a modelového blahobytu. The Times of India charakterizovaly Altmanovy poznámky jako kritiku snahy Anthropic prozkoumat vědomí AI a náboženství šířeji.
Pro Anthropic odráží tato angažovanost rostoucí zájem výzkumu o to, zda pokročilé modely mohou vyžadovat morální ohledy – téma, které společnost stále více považuje za legitimní oblast zkoumání spíše než sci-fi.
Rozšiřující se chybová linie v průmyslu AI
Burza odhaluje jeden z nejostřejších filozofických předělů v průmyslu AI. OpenAI se pevně umístila v táboře, který zachází se současnými modely jako s nástroji – mimořádně schopnými, ale ne entitami, vůči nimž jsou vhodné náboženské nebo kvazináboženské postoje. Altmanovo rámování naznačuje, že tuto hranici nevidí pouze jako filozofickou, ale i operačně důležitou: pokud uživatelé začnou považovat systémy AI za duchovní autority, důsledky manipulace, závislosti a nesprávné důvěry se stanou bezpečnostními problémy v konkrétním smyslu.
Antropická pozice je více agnostická. Jeho ochota testovat institucionální a náboženské reakce na otázku vědomí naznačuje víru, že společnost by se měla s těmito problémy začít potýkat dříve, než se systémy stanou schopnějšími, nikoli až poté.
Spor se také odehrává na pozadí veřejné fascinace umělou inteligencí, která někdy směřuje k duchovnu. Průzkumy a zprávy za poslední rok zdokumentovaly, že si uživatelé vytvořili intenzivní vztah k chatbotům a někteří komentátoři popsali přední postavy AI v mesiášských termínech.
Kritici poukazují na ironii
Altmanovo varování již vyvolalo obvinění z nedůslednosti. Wccftech poznamenal, že Altmanova kritika Anthropic příhodně přehlíží jeho vlastní historii rétoriky, která se při popisu trajektorie AI opírala o náboženský symbolismus. Kritika podtrhuje, jak zamotaný se stal vztah tohoto odvětví s rámováním umělé inteligence jako náboženství: dokonce i manažeři varující před zduchovňováním umělé inteligence občas prodávali svou technologii v epochálních, téměř transcendentních termínech.
Proč na tom záleží
To, jak veřejnost chápe AI – jako nástroj, kolegu nebo něco bližšího orákulu – má důsledky pro regulaci, design produktů a sociální výsledky. Pokud vůdce nejhodnotnějšího světového startupu s umělou inteligencí považuje náboženské rámování za bezpečnostní problém, tento postoj by mohl ovlivnit způsob, jakým OpenAI navrhuje zabezpečení týkající se připoutanosti uživatelů a jak by vlády měly s touto technologií zacházet.
Pro Anthropic mezitím vatikánská epizoda a její mezináboženské schůzky naznačují, že společnost má v úmyslu ponechat tyto otázky na stole bez ohledu na nepohodlí svého rivala. S tím, jak jsou hraniční systémy stále schopnější a přesvědčivější, se interní argumenty v oboru ohledně toho, zda umělá inteligence unese morální váhu – a kdo o tom může rozhodnout – přesouvají z filozofických seminářů do centra mainstreamové technologické debaty.
Ani OpenAI, ani Anthropic nereagovaly veřejně na stanovisko druhého kromě Altmanových nahlášených poznámek.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
