Sam Altman, CEO di OpenAI, afferma che trattare i modelli di intelligenza artificiale come oggetti di devozione religiosa è un "vero problema di sicurezza", respingendo pubblicamente gli sforzi della rivale Anthropic di esplorare questioni sulla coscienza e la spiritualità dell'IA. Nei commenti riportati da Axios sabato, Altman ha sostenuto che attribuire la religione ai modelli di intelligenza artificiale oltrepassa un limite che l’industria non dovrebbe oltrepassare.
Le osservazioni mettono il capo di OpenAI direttamente in contrasto con il recente impegno di Anthropic con le istituzioni religiose, e segnano una forte escalation retorica nella divisione filosofica tra i due principali laboratori di intelligenza artificiale su come – e se – la vita interiore dei sistemi di intelligenza artificiale dovrebbe essere trattata. Per maggiori informazioni su questa storia, consulta la nostra notizie sull'IA.
Cosa ha detto Altman
Secondo Axios, Altman ha affermato che attribuire la religione ai modelli è una "questione di sicurezza". Business Insider ha riassunto il suo messaggio come un avvertimento a non trattare l’intelligenza artificiale come una “forza religiosa”, mentre Office Chai ha riferito che Altman ha affermato di essere a disagio con le persone che tentano di attribuire una forza religiosa ai sistemi di intelligenza artificiale.
La preoccupazione del CEO di OpenAI, come si evince dal rapporto, è che inquadrare i sistemi di intelligenza artificiale in termini spirituali o religiosi distorce la comprensione pubblica di cosa sia la tecnologia e rischia di incoraggiare quel tipo di riverenza, dipendenza o peso morale fuori luogo che potrebbe complicare sia il benessere degli utenti che la politica razionale. NDTV Profit ha definito la posizione di Altman un avvertimento contro "dare forza religiosa all'IA", definendolo a suo avviso un vero problema di sicurezza.
I commenti di Altman sono stati ampiamente letti come una risposta ad Anthropic, la cui recente apertura alle comunità religiose ha attirato l'attenzione internazionale.
Il contesto antropico: papi, monaci e welfare modello
Anthropic ha trascorso le ultime settimane appoggiandosi a domande che il suo rivale preferirebbe rinviare. L'azienda fece pressioni sul Vaticano affinché prendesse sul serio la questione della potenziale coscienza di Claude, in un incontro che includeva Papa Leone XIV. Riferire quell’impegno indicava che il pontefice si era tirato indietro, sollecitando un radicato scetticismo sulle affermazioni riguardanti l’esperienza interna della macchina.
L'esplorazione di Anthropic si è estesa oltre il cattolicesimo: secondo un riassunto di Inshorts, la società aveva anche invitato un monaco indù per discutere di intelligenza artificiale, parte di uno sforzo più ampio per riunire tradizioni religiose e filosofiche attorno a questioni di moralità delle macchine e modello di benessere. Il Times of India ha definito le osservazioni di Altman una critica alla spinta di Anthropic a esplorare la coscienza e la religione dell'IA in modo più ampio.
Per Anthropic, l’impegno riflette un crescente interesse di ricerca sulla questione se i modelli avanzati possano meritare una considerazione morale – un argomento che l’azienda ha sempre più trattato come un’area di indagine legittima piuttosto che come fantascienza.
Una linea di faglia sempre più ampia nel settore dell'intelligenza artificiale
Lo scambio mette in luce una delle divisioni filosofiche più nette nel settore dell’intelligenza artificiale. OpenAI si è posizionata saldamente nel campo che tratta i modelli attuali come strumenti – straordinariamente capaci, ma non entità verso le quali sono appropriati atteggiamenti religiosi o quasi-religiosi. L'inquadramento di Altman suggerisce che egli considera quel confine non solo filosofico ma importante dal punto di vista operativo: se gli utenti arrivano a considerare i sistemi di intelligenza artificiale come autorità spirituali, le conseguenze per la manipolazione, la dipendenza e la fiducia mal riposta diventano problemi di sicurezza in senso concreto.
La posizione di Anthropic è più agnostica. La sua volontà di testare le reazioni istituzionali e religiose alla questione della coscienza suggerisce la convinzione che la società dovrebbe iniziare ad affrontare questi problemi prima che i sistemi diventino più capaci, non dopo.
La disputa si svolge anche in un contesto di fascinazione del pubblico per l’intelligenza artificiale che a volte si sposta verso lo spirituale. Sondaggi e resoconti dell’ultimo anno hanno documentato che gli utenti sviluppano un intenso attaccamento ai chatbot e alcuni commentatori hanno descritto le figure di spicco dell’intelligenza artificiale in termini messianici.
I critici sottolineano l'ironia
L'avvertimento di Altman ha già suscitato accuse di incoerenza. Wccftech ha osservato che la critica di Altman all'Anthropic trascura opportunamente la sua storia di retorica che si è appoggiata al simbolismo religioso nel descrivere la traiettoria dell'IA. Le critiche sottolineano quanto sia diventato intricato il rapporto del settore con l’inquadramento dell’intelligenza artificiale come religione: anche i dirigenti che mettono in guardia contro la spiritualizzazione dell’intelligenza artificiale hanno a volte commercializzato la loro tecnologia in termini epocali, quasi trascendenti.
Perché è importante
Il modo in cui il pubblico inquadra l’IA – come strumento, collega o qualcosa di più simile a un oracolo – ha conseguenze sulla regolamentazione, sulla progettazione del prodotto e sui risultati sociali. Se il leader della startup AI più preziosa al mondo considera l’inquadramento religioso un problema di sicurezza, tale posizione potrebbe influenzare il modo in cui OpenAI progetta le tutele relative all’attaccamento degli utenti e il modo in cui sostiene che i governi dovrebbero trattare la tecnologia.
Per Anthropic, nel frattempo, l'episodio vaticano e la sua convocazione interreligiosa suggeriscono che la società intende mantenere tali questioni sul tavolo indipendentemente dal disagio del suo rivale. Man mano che i sistemi di frontiera diventano più capaci e persuasivi, la discussione interna del settore sulla capacità dell’intelligenza artificiale di avere un peso morale – e su chi può decidere – si sta spostando dai seminari di filosofia al centro del dibattito tecnologico tradizionale.
Né OpenAI né Anthropic hanno risposto pubblicamente alla posizione dell'altro oltre alle osservazioni riportate da Altman.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
