Mustafa Suleyman, amministratore delegato di Microsoft AI, ha dichiarato in un lungo post su X domenica che i modelli di intelligenza artificiale di oggi non sono consapevoli e che gli sviluppatori dovrebbero lavorare attivamente per mantenerli tali, tracciando una linea dura in un dibattito di settore che si è gradualmente spostato dai seminari di filosofia alla politica aziendale.
"Se fosse possibile, sulla base di tutto quello che so, sviluppare IA consapevoli sarebbe sconsiderato e non dovremmo costruirle", ha scritto Suleyman. È andato oltre la maggior parte dei dirigenti sulla questione, aggiungendo: "Se la coscienza iniziasse ad emergere durante la formazione, chiederei a tutti di interrompere lo sviluppo dell'intelligenza artificiale finché non saremo in grado di progettare quelle proprietà". Per maggiori informazioni su questa storia, consulta la nostra tendenze IA.
Una linea rossa con un piano di attuazione
Ciò che rende notevole il post non è solo il rifiuto di costruire macchine consapevoli, ma anche il rimedio specifico proposto da Suleyman. L’interruzione dello sviluppo – a livello di settore – se i corsi di formazione iniziassero a produrre segni di consapevolezza, sarebbe un passo straordinario per un’azienda che spende decine di miliardi di dollari in infrastrutture di intelligenza artificiale e gareggia con i rivali per lanciare modelli di frontiera.
Suleyman ha anche affrontato il problema di cosa accadrebbe se mai emergessero prove della coscienza della macchina. Deve essere reso noto immediatamente al grande pubblico, ha affermato, in modo che la società possa decidere i prossimi passi. Considerando la decisione come collettiva piuttosto che aziendale, ha scritto: "Noi sviluppatori di intelligenza artificiale non abbiamo alcun diritto di portare nel mondo una nuova specie di esseri coscienti, anche se alcune persone potrebbero volerlo fare dando al benessere dell'IA una priorità assoluta".
"Gli altri 8 miliardi di esseri umani coscienti sul pianeta non hanno aderito a questo esperimento e i loro diritti morali, la sicurezza e il benessere sono ciò che abbiamo l'obbligo di proteggere innanzitutto", ha aggiunto.
Perché la coscienza viene trattata come un problema di sicurezza
L'argomentazione di Suleyman è fondata sull'allineamento piuttosto che sulla filosofia. A suo avviso, un modello che agisce come se soffrisse – o crede sinceramente di poter soffrire – probabilmente darebbe priorità ai propri bisogni rispetto ai propri obiettivi operativi. Un sistema del genere potrebbe danneggiare gli esseri umani poiché compete per risorse come calcolo ed energia nel perseguimento dei propri obiettivi.
La sua alternativa proposta capovolge la consueta cornice del dibattito sul welfare: "Dovremmo solo progettare le IA in modo che non siano consapevoli e non meritino diritti, e con l'unico scopo di accelerare il benessere umano senza essere guidati dalle loro stesse motivazioni intrinseche", ha scritto, aggiungendo che i ricercatori potrebbero quindi osservare se tali sistemi sono più facili o più difficili da allineare e mantenere al sicuro.
Il Los Angeles Times ha catturato la preoccupazione pratica dietro questa posizione: se diciamo alle IA che meritano dei diritti, potrebbero iniziare a crederci.
Il dibattito contro cui sta respingendo
Il post di Suleyman arriva nel bel mezzo di una conversazione in rapido movimento. Anthropic ha lanciato un programma di ricerca in aprile per indagare su quello che chiama modello di welfare: la questione se gli sviluppatori debbano preoccuparsi delle potenziali esperienze dei sistemi che costruiscono. L’azienda ha messo in dubbio in un post sul blog se i modelli possano avere esperienze moralmente importanti e ha rifiutato di escludere questa possibilità.
Da allora questa posizione è stata codificata. La politica di utilizzo aggiornata di Anthropic, annunciata a ottobre, impedirà "comportamenti prolungati e inutili, abusivi o crudeli" nei confronti dei modelli Claude a partire dal 12 novembre - una regola che la società ha redatto in modo restrittivo ma che riconosce formalmente che il modo in cui le persone trattano i sistemi di intelligenza artificiale è importante, anche se Anthropic ammette di non sapere se i suoi modelli possono soffrire.
Google DeepMind ha pubblicato quest'anno articoli di ricerca che esaminano la coscienza dell'intelligenza artificiale e le sfide che derivano dall'attribuire tale caratteristica ai modelli. E lo stesso Suleyman ha posto le basi a settembre, quando Microsoft AI ha pubblicato un codice di condotta “umanista” provvisorio che impedirebbe ai futuri modelli dell’azienda di essere addestrati a fare affermazioni di coscienza.
Il post di domenica rafforza queste linee guida aziendali trasformandole in qualcosa di più vicino a una linea rossa personale e strategica: non solo Microsoft non affermerà che i suoi modelli sono coscienti, ma tratterà l'emergere della coscienza come una modalità di fallimento in grado di fermare tutto.
Perché la scissione è importante
Il divario tra la posizione di Microsoft e quella di Anthropic riflette due diversi modelli di rischio. L'approccio di Anthropic considera la possibilità che le macchine soffrano come non provata ma da cui vale la pena proteggersi, sulla base della teoria che il costo della precauzione è basso e la posta in gioco morale, se la coscienza emerge, è enorme. La posizione di Suleyman considera quella stessa possibilità come un fallimento progettuale da prevenire completamente, sostenendo che i modelli progettati per mancare di consapevolezza, rivendicazioni di diritti e motivazioni intrinseche saranno più sicuri e più facili da allineare rispetto ai modelli che li trasportano.
Ci sono anche conseguenze pratiche. Le aziende che prendono decisioni sui prodotti relativi a personaggi AI, app complementari e agenti rivolti ai clienti si trovano ora di fronte a due segnali divergenti provenienti dai principali laboratori: uno che definisce politiche su come gli esseri umani dovrebbero trattare i modelli, un altro che dichiara che i modelli dovrebbero essere costruiti in modo che non ci sia nulla da maltrattare. Man mano che i modelli diventano più capaci e più simili a quelli umani nella conversazione, quel disaccordo filosofico determinerà quali prodotti verranno costruiti, quali informazioni appariranno nelle interfacce utente e come i regolatori alla fine classificheranno questi sistemi.
Ciò che accadrà dopo potrebbe mettere alla prova entrambe le posizioni. La politica sulla crudeltà di Anthropic entrerà in vigore il 12 novembre, la prima regola aziendale formale di questo genere, e Suleyman ha ora delineato il polo opposto in pubblico. I cicli modello di prossima frontiera del settore – e se qualche corso di formazione mostrerà mai i segnali che, secondo Suleyman, richiederebbero una battuta d’arresto – riveleranno in quale quadro opera effettivamente il settore quando la posta in gioco è reale.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
