OpenAIs vd Sam Altman säger att behandling av AI-modeller som föremål för religiös hängivenhet är en "verklig säkerhetsfråga", som offentligt pressar tillbaka rivalen Anthropics ansträngningar att utforska frågor om AI-medvetande och andlighet. I kommentarer som rapporterades av Axios på lördagen hävdade Altman att att tillskriva religion till AI-modeller går över en gräns som branschen inte bör överskrida.

Kommentarerna ställer OpenAI:s chef direkt i strid med Anthropics senaste engagemang med religiösa institutioner, och de markerar en kraftig retorisk upptrappning i den filosofiska splittringen mellan de två ledande AI-labben över hur - och om - AI-systemens inre liv ska behandlas. For more context on this story, see our ongoing breaking AI news.

Vad Altman sa

Enligt Axios sa Altman att att tillskriva religion till modeller är en "säkerhetsfråga". Business Insider sammanfattade sitt meddelande som en varning för att inte behandla AI som en "religiös kraft", medan Office Chai rapporterade att Altman sa att han är obekväm med människor som överhuvudtaget försöker tillskriva AI-system religiös kraft.

OpenAI VD:s oro, som återspeglas i rapporteringen, är att inramning av AI-system i andliga eller religiösa termer snedvrider allmänhetens förståelse för vad tekniken är – och riskerar att uppmuntra den typ av vördnad, beroende eller felplacerad moralisk vikt som kan komplicera både användarnas välbefinnande och rationell policy. NDTV Profit karakteriserade Altmans position som en varning mot att "ge AI religiös kraft", och kallar det en verklig säkerhetsfråga enligt hans uppfattning.

Altmans kommentarer lästes allmänt som ett svar på Anthropic, vars nya uppsökande till trossamfund har väckt internationell uppmärksamhet.

Den antropiska kontexten: påvar, munkar och modellvälfärd

Anthropic har ägnat de senaste veckorna åt att luta sig in i frågor som sin rival hellre skulle skjuta upp. Företaget drev lobbyverksamhet på Vatikanen för att ta frågan om Claudes potentiella medvetande på allvar, möte som inkluderade påven Leo XIV. Rapportering om det engagemanget indikerade att påven trängde sig tillbaka och manade till grundad skepsis mot påståenden om maskinens inre upplevelse.

Anthropics utforskning har sträckt sig bortom katolicismen: enligt en sammanfattning av Inshorts hade företaget också bjudit in en hinduisk munk för att diskutera AI, en del av ett bredare försök att sammankalla religiösa och filosofiska traditioner kring frågor om maskinmoral och modellvälfärd. The Times of India karakteriserade Altmans kommentarer som kritik av Anthropics strävan att utforska AI-medvetandet och religionen bredare.

För Anthropic reflekterar engagemanget ett växande forskningsintresse för huruvida avancerade modeller kan motivera moraliskt övervägande - ett ämne som företaget i allt högre grad har behandlat som ett legitimt område för undersökning snarare än science fiction.

En bredare fellinje i AI-industrin

Utbytet avslöjar en av de skarpaste filosofiska klyftorna inom AI-branschen. OpenAI har placerat sig fast i lägret som behandlar nuvarande modeller som verktyg - utomordentligt kapabla, men inte enheter mot vilka religiösa eller kvasi-religiösa attityder är lämpliga. Altmans inramning tyder på att han ser den gränsen som inte bara filosofisk utan operativt viktig: om användare kommer att betrakta AI-system som andliga auktoriteter blir konsekvenserna för manipulation, beroende och felplacerat förtroende säkerhetsproblem i konkret mening.

Anthropics ställning är mer agnostisk. Dess vilja att testa institutionella och religiösa reaktioner på medvetenhetsfrågan antyder en tro på att samhället bör börja brottas med dessa frågor innan systemen blir mer kapabla, inte efter.

Tvisten utspelar sig också mot en bakgrund av allmänhetens fascination för AI som ibland driver mot det andliga. Undersökningar och rapportering under det senaste året har dokumenterat användare som bildar intensiva anknytningar till chatbots, och vissa kommentatorer har beskrivit ledande AI-figurer i messianska termer.

Kritiker påpekar ironin

Altmans varning har redan väckt anklagelser om inkonsekvens. Wccftech noterade att Altmans kritik av Anthropic på ett bekvämt sätt förbiser hans egen retorikhistoria som har lutat sig åt religiös symbolik för att beskriva AI:s bana. Kritiken understryker hur trassligt branschens förhållande till inramning av AI-som-religion har blivit: även chefer som varnar för att andliggöra AI har ibland marknadsfört sin teknologi i epokala, nästan transcendenta termer.

Varför det är viktigt

Hur allmänheten ramar in AI - som verktyg, kollega eller något närmare ett orakel - har konsekvenser för reglering, produktdesign och sociala resultat. Om ledaren för världens mest värdefulla AI-startup anser att religiös inramning är en säkerhetsfråga, kan den hållningen forma hur OpenAI utformar skyddsåtgärder kring användaranknytning och hur den argumenterar för att regeringar bör behandla tekniken.

För Anthropic, under tiden, tyder Vatikanavsnittet och dess interreligiösa sammankomst att företaget avser att hålla dessa frågor på bordet oavsett rivalens obehag. När gränssystem blir mer kapabla och mer övertygande, flyttar branschens interna argument om huruvida AI kan bära moralisk tyngd – och vem som får bestämma – från filosofiseminarier till centrum för mainstream teknikdebatt.

Varken OpenAI eller Anthropic har svarat offentligt på den andres ståndpunkt utöver Altmans rapporterade kommentarer.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →