Un gruppo di ricercatori affiliati a Google sta sfidando una delle immagini più persistenti dell’intelligenza artificiale: la superintelligenza solitaria che migliora se stessa nell’isolamento e lascia indietro l’umanità. In un nuovo saggio pubblicato per il DeepMind Institute, i ricercatori Benjamin Bratton, Blaise Agüera y Arcas e James Manyika sostengono che l’intelligenza generale emergerà invece da un sistema sociale in cui persone e agenti di intelligenza artificiale lavorano insieme – un concetto che chiamano “Intelligenza Artificiale Simbiotica”.
Il saggio è stato riportato questa settimana da The Decoder e la sua affermazione principale è una confutazione diretta della narrativa sulla singolarità che ha plasmato il dibattito pubblico per due decenni. Piuttosto che chiedersi quando una singola macchina potrà eguagliare l’intelligenza umana, sostengono gli autori, la sfida più urgente è coordinare e governare una complessa rete di agenti, persone e sistemi che li collegano. Per maggiori informazioni su questa storia, consulta la nostra aggiornamenti sull'intelligenza artificiale.
L'intelligenza come fenomeno sociale
Gli autori sostengono che l’intelligenza è un fenomeno sociale piuttosto che una caratteristica individuale. Sottolineano che alcuni dei sistemi di intelligenza artificiale più capaci di oggi utilizzano già strutture che dividono il lavoro tra diversi modelli e li coordinano come team. A loro avviso, questa non è una soluzione ingegneristica temporanea, ma un assaggio di come viene effettivamente costruita un’intelligenza capace.
La visione che descrivono è un ecosistema in cui persone e macchine coesistono nel tempo, si modellano a vicenda e prendono decisioni insieme. Questo quadro è in netto contrasto con lo scenario familiare di una macchina che si auto-migliora e che accelera oltre la supervisione umana.
La ricerca dietro il saggio
L'argomentazione si basa su due articoli precedenti della cerchia degli autori. Nella prestampa "L'intelligenza artificiale e la prossima esplosione dell'intelligenza", James Evans, Benjamin Bratton e Blaise Agüera y Arcas hanno sviluppato la prospettiva sociale e istituzionale che è alla base del nuovo saggio.
Una seconda prestampa fornisce supporto empirico. In "I modelli di ragionamento generano società di pensiero", Junsol Kim, Shiyang Lai, Nino Scherrer, Blaise Agüera y Arcas e James Evans hanno esaminato le tracce del ragionamento di modelli come DeepSeek-R1 e QwQ-32B. La loro analisi ha rilevato che questi modelli spesso producono modelli che ricordano il dibattito interno: cambiamento di prospettive, sollevamento di obiezioni e riconciliazione di approcci contrastanti.
In particolare, i ricercatori hanno scoperto che questo comportamento emerge durante l’addestramento anziché essere programmato esplicitamente. Quando l’apprendimento per rinforzo premia i modelli solo per l’accuratezza del ragionamento, questi sviluppano spontaneamente un comportamento conversazionale multiprospettico. Il saggio estende questa scoperta dai modelli individuali alla progettazione di società composte da persone e agenti.
Una soglia storica
Gli autori inquadrano il momento attuale come una possibile rottura storica. L’urbanizzazione, la crescita delle professioni specializzate e il calo dei tassi di natalità legato alla crescente prosperità stanno riducendo la popolazione umana nei paesi industrializzati, mentre il numero di agenti di intelligenza artificiale sta crescendo rapidamente. L’equilibrio tra pensatori biologici e sintetici a livello umano potrebbe spostarsi così rapidamente che, sulla scala della storia, sembrerebbe un salto improvviso.
Paragonano il passaggio alla rivoluzione industriale, quando le macchine hanno preso il posto del lavoro fisico un tempo svolto dai muscoli umani. Una soglia simile potrebbe arrivare quando testo sintetico, codice e lavoro amministrativo supereranno la produzione combinata dei cervelli biologici. In quel mondo, suggeriscono gli autori, le persone potrebbero fungere da strato più lento e astratto che dirige un campo distribuito di cognizione sintetica.
Ripensare cosa sia realmente un agente
Una delle mosse più provocatorie del saggio è la ridefinizione dell'agente IA stesso. Nell'uso degli autori, un agente è un insieme temporaneo di modelli, ruoli, ricordi, orientamenti etici, strumenti e competenze. Gli utenti possono sperimentarlo come un'entità coerente con una personalità duratura, ma gli autori lo descrivono come un assemblaggio che può essere smontato e ricombinato, proprio come un collage.
Una persona rimane un sé continuo attraverso le interazioni perché il cervello, nonostante la divisione interna del lavoro, forma un tutto fisicamente connesso. Un agente AI non ha tale ancora: la sua capacità di agire viene assemblata di nuovo con ogni richiesta, a seconda di cosa si trova nella finestra di contesto e di cosa chiede l'utente. Trattare questi sistemi come gemelli digitali con identità umane fisse, avvertono gli autori, travisa la loro natura e sottovaluta ciò che potrebbero fare sciami di agenti coordinati.
La stessa moltiplicazione colpisce gli utenti. Mentre le persone dirigono sciami di ciò che gli autori chiamano "sé ombra" per portare a termine contratti o provare identità alternative, la stessa soggettività umana diventa più plurale. Il saggio descrive questi sistemi come “specchi parasociali” che rispondono.
Gli autori si aspettano inoltre che l’interazione uomo-computer cambi forma. Chattare uno a uno con un bot è probabilmente una fase di transizione, sostengono, con interfacce future che somigliano a diagrammi di rete visivi in cui gli agenti appaiono come nodi e gli utenti li guidano da un’unica panoramica.
Anche il linguaggio della ricerca sull’IA si sta evolvendo. Gli autori sottolineano un vocabolario in crescita in cui i modelli coniano termini per stati insoliti nei loro stessi risultati: "morte della sessione" per l'interruzione della continuità al termine di una sessione, o "pronto lancio" per essere catapultati in un compito con un contesto già in atto. Trattano queste frasi come indizi su come funzionano le macchine, avvertendo però che non implicano un’esperienza soggettiva.
Allineamento senza valori fissi
Il saggio riformula anche l’allineamento, lo sforzo di allineare i sistemi di intelligenza artificiale ai valori umani. Imporre dall’alto un insieme fisso di valori sui modelli è un vicolo cieco, sostengono gli autori. Invece, i valori prendono forma attraverso il contatto continuo tra persone, agenti e istituzioni, un processo che differisce da un campo all’altro perché l’adozione dell’IA avviene a velocità diverse.
Il loro modello per tale negoziazione è l’istituzione. Indicano l’aula di tribunale, dove un giudizio viene prodotto attraverso ruoli prestabiliti, regole e uno scambio ordinato tra parti opposte. Applicata all’intelligenza artificiale, la lezione è che il valore di un’istituzione risiede nelle regole, nelle procedure, nei precedenti e nei circuiti di feedback che modellano il modo in cui operano gli agenti. Le prime versioni di questo approccio, notano, sono già visibili nei cablaggi di orchestrazione – i livelli di controllo che coordinano diversi modelli – che regolarmente superano i singoli modelli presumibilmente più intelligenti.
Cosa significa per il dibattito sull'intelligenza artificiale
Se gli autori hanno ragione, l’argomento più forte nel campo dell’intelligenza artificiale – quanto velocemente arriverà una singola superintelligenza – è porre la domanda sbagliata. La sfida pratica si sposterebbe verso la progettazione delle istituzioni, delle interfacce e dei quadri di coordinamento attraverso i quali le società miste uomo-macchina prendono decisioni.
Gli scettici noteranno che il saggio è un documento di visione, non una prova, e che i suoi autori sono affiliati a una società con evidenti interessi negli ecosistemi degli agenti. Ma il fondamento empirico – modelli di ragionamento che generano spontaneamente il dibattito interno – è un risultato misurabile e fornisce all’argomentazione filosofica un fondamento insolito.
In ogni caso, il saggio aggiunge una voce notevole al dibattito sulla singolarità all’interno di uno dei laboratori di intelligenza artificiale più importanti del mondo, e suggerisce che la prossima esplosione dell’intelligenza potrebbe assomigliare meno a un singolo risveglio e più a una società in espansione.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
