Mentre le aziende tecnologiche corrono per costruire un’intelligenza artificiale sempre più potente, alcune di loro chiedono aiuto a una vecchia istituzione per un nuovo problema: come insegnare a un chatbot il bene e il male. La loro risposta, sempre più spesso, è la religione.

Negli ultimi mesi, i dirigenti dell’intelligenza artificiale hanno cercato input da filosofi e leader religiosi su come rendere i modelli “moralmente buoni”. Il raggio d'azione va dalle consultazioni formali alle apparizioni in Vaticano e, secondo un rapporto dell'Associated Press pubblicato domenica, sta sollevando preoccupazioni tra gli studiosi di religione che le società fraintendano ciò a cui stanno attingendo. Per i lettori che seguono gli ultimi sviluppi dell’intelligenza artificiale, la storia segnala quanto sia diventato centrale l’allineamento morale nel modo in cui queste aziende operano ora.

"Domande a cui un laboratorio non può rispondere"

Anthropic, la società di intelligenza artificiale ampiamente considerata come quella che prende più sul serio l’etica, è stata tra le più attive. Alla presentazione in Vaticano dell’enciclica di Papa Leone XIV sull’intelligenza artificiale all’inizio di quest’anno, il co-fondatore di Anthropic Chris Olah ha detto al pubblico che le questioni morali che circondano l’intelligenza artificiale vanno oltre ciò che le aziende possono risolvere da sole.

"Queste non sono domande a cui un laboratorio può rispondere", ha detto Olah. "Sono domande che tradizioni come la tua si portano dietro da millenni."

Anthropic ha affermato in un post sul blog di maggio di aver incontrato "studiosi, clero, filosofi ed esperti di etica provenienti da più di 15 gruppi religiosi e interculturali", un pool che spera di ampliare. L'azienda ha inquadrato l'impegno in termini generali: "Questo lavoro non riguarda l'allineamento dei nostri modelli con la visione del mondo di una qualsiasi tradizione. Vogliamo che Claude attinga da una gamma completa di punti di vista - religioso, secolare, politico - con uguale profondità e rigore".

Il CEO di OpenAI Sam Altman ha articolato una visione diversa e più aggregata. "Quello che penso che ChatGPT dovrebbe fare è riflettere quella media ponderata, o qualsiasi altra cosa, della visione morale dell'umanità", ha detto Altman l'anno scorso.

All'interno degli incontri di fede di Anthropic

Meghan Sullivan, filosofa della religione che guida un'iniziativa sull'etica e l'intelligenza artificiale presso l'Università di Notre Dame, ha partecipato a uno degli incontri di Anthropic all'inizio di quest'anno. A differenza delle conversazioni che ha avuto con altre aziende tecnologiche, è rimasta colpita dal rigore dell’impegno.

"La cultura all'interno dell'azienda è simile a quella di un buon campus universitario, nel senso che hai un gruppo di persone molto curiose intellettualmente", ha detto Sullivan. "Questi incontri sono piuttosto nerd - non so se è il modo migliore per dirlo - in senso positivo."

L'incontro, a cui hanno partecipato cristiani di diverse confessioni, è stato diviso in due parti: l'azienda ha prima spiegato i suoi modelli “in termini profani”, e i leader religiosi hanno risposto con feedback e discussione. Secondo Sullivan, le domande andavano da "Gli esseri umani hanno un'anima?" a "Gli alunni della terza elementare dovrebbero poter accedere a un chatbot per l'alfabetizzazione?"

Il Vaticano diventa una tappa fissa

Anthropic non è solo tra i banchi. Anche rappresentanti di Meta, Google e Amazon si sono incontrati con il Vaticano, mentre Microsoft è stata descritta come particolarmente vigorosa nel suo impegno religioso.

L’impegno riflette un calcolo unico per questo momento nello sviluppo dell’IA. Mentre i dirigenti lanciano allarmi sul potenziale distruttivo dell’intelligenza artificiale e discutono su cosa significhi un modello di comportamento “moralmente buono”, le tradizioni religiose offrono diversi millenni di riflessioni accumulate su carattere, obbligo e danno – materiale che nessun corpus di formazione può replicare completamente e che le aziende non possono facilmente reperire altrove su larga scala.

La struttura stessa di Anthropic rende esplicita l'ambizione: "Ciò che cerchiamo in queste conversazioni è una riflessione attenta e accumulata su come si forma effettivamente un buon carattere".

Gli studiosi avvertono: la religione non è un libro di regole

Sia gli esperti che i sostenitori avvertono che la premessa delle aziende – che la religione può fornire un insieme estraibile di principi morali – non riesce a tenere conto del modo in cui le tradizioni funzionano effettivamente. Le diverse visioni del mondo spesso si contraddicono a vicenda, e trattare la religione come un database di regole rischia di distorcere il materiale stesso che viene consultato.

Webb Keane, un antropologo dell'Università del Michigan, sostiene che gli studiosi hanno passato decenni a respingere la visione della religione come un insieme di principi separati dal modo "disordinato, pratico e ad hoc" in cui vivono i suoi aderenti.

"C'è un modo molto convenzionale di pensare alla religione come a un libro di regole", ha detto Keane. "È certamente molto legato alla religione scritturale, e le religioni scritturali alla fine risultano essere davvero le religioni abramitiche."

Tale presupposto, avverte, rischia di dare priorità ad alcune tradizioni distorcendone altre – in particolare le fedi che non si considerano principalmente sistemi etici.

Tomoko Masuzawa, studiosa di studi religiosi e autrice di "L'invenzione delle religioni mondiali", va oltre, sottolineando che categorie come "Buddismo" e "Induismo", in quanto tradizioni chiaramente delimitate e comparabili, sono in gran parte un costrutto degli studi europei risalenti al XIX secolo. "Tutte queste categorie non erano native", ha detto Masuzawa.

Cosa si sta effettivamente costruendo

La critica accademica è importante in pratica perché qualunque cosa le aziende apprendono in queste consultazioni può modellare il modo in cui i modelli rispondono alle domande morali di miliardi di utenti. Un’intelligenza artificiale che tratta la religione come una fonte di principi medi ponderati si comporterà in modo diverso da un’intelligenza artificiale addestrata a riconoscere che l’autorità morale è contestata, situata e vissuta.

Per ora, le aziende negano qualsiasi programma basato su un’unica tradizione, e i leader religiosi coinvolti descrivono l’impegno come serio e sostanziale. Il verdetto di Sullivan su Anthropic – intellettualmente curioso, rigoroso, un po' nerd – suggerisce che gli incontri sono più che pubbliche relazioni.

Ma la questione più profonda che emerge dal rapporto AP rimane aperta: se un processo di consultazione può tradurre millenni di tradizione vissuta in comportamenti modello senza appiattirli – e chi decide quali parti dell’eredità morale dell’umanità entrano nei pesi.

---

Stai al passo con l'intelligenza artificiale

Ricevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.

Leggi altre notizie sull'AI →