Zatímco se technologické společnosti předhánějí v budování stále výkonnější umělé inteligence, některé z nich žádají starou instituci o pomoc s novým problémem: jak naučit chatbota správně od špatného. Jejich odpovědí je stále více náboženství.
V posledních měsících hledali manažeři AI názory od filozofů a náboženských vůdců, jak dělat modely „morálně dobré“. Průzkum probíhá od formálních konzultací až po vystoupení ve Vatikánu – a podle zprávy agentury Associated Press zveřejněné v neděli vzbuzuje u náboženských učenců obavy, že společnosti špatně chápou, na co narážejí. Pro čtenáře, kteří sledují [nejnovější vývoj AI] (https://aibuzzwire.news), tento příběh signalizuje, jak se ústřední morální sladění stalo s tím, jak tyto společnosti nyní fungují.
„Otázky, na které laboratoř nemůže odpovědět“
Anthropic, společnost zabývající se umělou inteligencí, která bere etiku nejvážněji, patří mezi nejaktivnější. Při prezentaci encykliky papeže Lva XIV o AI ve Vatikánu začátkem tohoto roku spoluzakladatel společnosti Anthropic Chris Olah řekl publiku, že morální otázky kolem AI přesahují to, co mohou společnosti vyřešit samy.
"Toto nejsou otázky, na které může laboratoř odpovědět," řekl Olah. "Jsou to otázky, které tradice jako ty vaše nesly po tisíciletí."
Společnost Antropic v květnovém příspěvku na blogu uvedla, že se setkala s „učenci, duchovními, filozofy a etiky z více než 15 náboženských a mezikulturních skupin“, což je skupina, o které doufá, že se rozšíří. Společnost toto úsilí zarámovala široce: „Tato práce není o sladění našich modelů s pohledem na svět jakékoli tradice. Chceme, aby Claude čerpal z celé řady hledisek – náboženských, sekulárních, politických – se stejnou hloubkou a přísností.“
Generální ředitel OpenAI Sam Altman formuloval jinou, agregovanější vizi. "Myslím, že ChatGPT by měl odrážet tento vážený průměr, nebo cokoli jiného, morálního pohledu lidstva," řekl loni Altman.
Uvnitř setkání Antropické víry
Meghan Sullivan, filozofka náboženství, která vede iniciativu v oblasti etiky a umělé inteligence na University of Notre Dame, se začátkem tohoto roku zúčastnila jednoho ze setkání společnosti Anthropic. Na rozdíl od rozhovorů, které vedla s jinými technologickými společnostmi, odcházela ohromena přísností zasnoubení.
"Kultura uvnitř společnosti je podobná té na dobrém univerzitním kampusu v tom smyslu, že máte sbírku velmi intelektuálně zvědavých lidí," řekl Sullivan. "Tyto schůzky jsou docela praštěné - nevím, jestli je to nejlepší způsob, jak to vyjádřit - v dobrém slova smyslu."
Setkání, které zahrnovalo křesťany z různých denominací, bylo rozděleno do dvou částí: společnost nejprve vysvětlila své modely „laicky“ a vůdci víry reagovali zpětnou vazbou a diskusí. Podle Sullivana se otázky pohybovaly od "Mají lidé duše?" na "Měli by mít žáci třetí třídy přístup k chatbotovi pro vzdělávání v oblasti gramotnosti?"
Vatikán se stává pravidelnou zastávkou
Antropický není v lavicích sám. Zástupci společností Meta, Google a Amazon se také setkali s Vatikánem, zatímco Microsoft byl popsán jako obzvláště energický ve svém náboženském dosahu.
Zapojení odráží výpočet jedinečný pro tento okamžik vývoje AI. Zatímco manažeři znepokojují destruktivní potenciál umělé inteligence a diskutují o tom, co „morálně dobré“ chování modelu vůbec znamená, náboženské tradice nabízejí několik tisíciletí nahromaděného přemýšlení o charakteru, povinnostech a škodách – materiál, který žádný školicí korpus nemůže plně replikovat a který společnosti nemohou snadno získat jinde ve velkém měřítku.
Antropicovo vlastní rámování dává ambici explicitní: "To, co v těchto rozhovorech sledujeme, je pečlivé, nahromaděné přemýšlení o tom, jak se vlastně tvoří dobrý charakter."
Učenci varují: Náboženství není kniha pravidel
Odborníci i přívrženci varují, že předpoklad společností – že náboženství může poskytnout extrahovatelný soubor morálních zásad – nepočítá s tím, jak tradice ve skutečnosti fungují. Různé světonázory si často protiřečí a zacházení s náboženstvím jako s databází pravidel riskuje zkreslení samotného konzultovaného materiálu.
Webb Keane, antropolog z University of Michigan, tvrdí, že učenci strávili desetiletí potlačováním pohledu na náboženství jako na soubor principů oddělených od „nepořádných, praktických, ad hoc“ způsobů života přívrženců.
"Existuje velmi konvenční způsob uvažování o náboženství jako o pravidlech," řekl Keane. "Určitě je to velmi svázáno s biblickým náboženstvím a biblická náboženství se nakonec skutečně ukáží jako abrahámská náboženství."
Varuje, že tento předpoklad riskuje upřednostňování určitých tradic a zkreslování jiných – zejména vír, které samy sebe nechápou primárně jako etické systémy.
Tomoko Masuzawa, odbornice na religionistiku a autorka „Vynálezu světových náboženství“, jde dále a poznamenává, že kategorie jako „buddhismus“ a „hinduismus“ jako jasně ohraničené, srovnatelné tradice jsou z velké části konstruktem evropské vědy datované do 19. století. "Všechny tyto kategorie nebyly původní," řekl Masuzawa.
Co se vlastně staví
Na odborné kritice záleží prakticky, protože cokoliv se společnosti na těchto konzultacích naučí, může ovlivnit to, jak modely odpovídají na morální otázky miliard uživatelů. Umělá inteligence, která zachází s náboženstvím jako se zdrojem zásad váženého průměru, se bude chovat jinak než AI, která je vycvičená k rozpoznání, že morální autorita je zpochybňována, umístěna a žita.
Společnosti prozatím popírají jakoukoli agendu jediné tradice a zúčastnění vůdci víry popisují tento závazek jako vážný a podstatný. Sullivanův verdikt ohledně Anthropic – intelektuálně zvědavý, přísný, trochu praštěný – naznačuje, že schůzky jsou víc než vztahy s veřejností.
Hlubší otázka, kterou zpráva AP nastoluje, však zůstává otevřená: zda jakýkoli konzultační proces může převést tisíciletí žité tradice do modelového chování, aniž by je zploštil – a kdo rozhoduje o tom, které části morálního dědictví lidstva se dostanou do vah.
---
Stay Ahead of AIZískejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
