Più di 20 ricercatori – tra cui il premio Nobel Geoffrey Hinton, il collega pioniere dell’intelligenza artificiale Yoshua Bengio, il co-fondatore di Anthropic Jack Clark e il capo scienziato di OpenAI Jakub Pachocki – hanno avvertito i governi di prepararsi per una “esplosione di intelligenza” dell’IA che secondo loro potrebbe essere lo sviluppo tecnologico più consequenziale della storia, ha riferito lunedì The Guardian.

Il documento, intitolato “E se l’automazione della ricerca e sviluppo sull’intelligenza artificiale innescasse un’esplosione di intelligenza”, esorta i politici ad agire prima che si verifichino progressi galoppanti nella tecnologia. I suoi autori descrivono lo scenario come una “drammatica accelerazione dei progressi dell’intelligenza artificiale, che comprime in mesi o meno progressi che altrimenti richiederebbero anni”. Per i lettori che seguono [le ultime notizie sulla ricerca sull’intelligenza artificiale] (https://aibuzzwire.news), il rapporto è degno di nota meno per il suo allarme che per chi lo ha firmato: dati provenienti da tutto il mondo accademico e da laboratori di frontiera rivali, che sostengono congiuntamente che la ricerca automatizzata è lo scenario per cui i politici sono meno preparati.

Cosa significherebbe un'esplosione di intelligenza

La preoccupazione centrale degli autori è la prospettiva che i sistemi di intelligenza artificiale possano migliorarsi senza l’intervento umano, un processo noto come auto-miglioramento ricorsivo, definito in generale nel documento come ricerca e sviluppo automatizzato dell’intelligenza artificiale.

Una volta che i sistemi di intelligenza artificiale raggiungono capacità di livello esperto nella ricerca e sviluppo nel campo dell’intelligenza artificiale, sostiene il documento, un singolo sviluppatore potrebbe gestire una forza lavoro equivalente a “milioni” di ricercatori umani di alto livello. L’automazione della ricerca e sviluppo sull’intelligenza artificiale è, secondo gli autori, il fattore scatenante più probabile di un’esplosione dell’intelligenza, perché i sistemi di intelligenza artificiale stanno già contribuendo a migliorare la propria tecnologia – e i sistemi migliorati che aiutano a creare possono essere rapidamente implementati una volta costruiti.

"Un'esplosione di intelligenza potrebbe essere lo sviluppo tecnologico più importante nella storia umana, comprimendo anni di progresso in mesi o meno, minacciando il controllo umano sui sistemi di intelligenza artificiale ed erodendo gravemente i controlli sul potere all'interno e tra stati, aziende e rami del governo", afferma il documento, secondo The Guardian.

Perché gli autori dicono che la finestra si sta chiudendo

L’urgenza del rapporto si basa su un’affermazione temporale: i sistemi di intelligenza artificiale che oggi appaiono difettosi potrebbero automatizzare completamente i progetti di ricerca e sviluppo che attualmente richiedono mesi di lavoro da parte dei team umani entro il 2028.

"I guadagni di produttività derivanti dall'automazione della ricerca e dello sviluppo dell'intelligenza artificiale non hanno ancora raggiunto la soglia necessaria per innescare un'esplosione di intelligenza, ma i guadagni derivanti dai sistemi più recenti si stanno probabilmente avvicinando a quella soglia", scrivono gli autori. "Una volta iniziata l'esplosione dell'intelligence, la finestra d'azione potrebbe chiudersi."

Il documento aggiunge che "prove preliminari suggeriscono che è possibile un'esplosione di intelligenza guidata dal software", che potrebbe portare allo "sviluppo estremamente rapido di sistemi di intelligenza artificiale altamente capaci o sovrumani".

I rischi che segnalano

Anche se un’esplosione dell’intelligence potrebbe produrre scoperte mediche e rapidi balzi tecnologici, gli autori delineano tre pericoli principali:

  • Minacce in fuga. Sistemi potenti potrebbero consentire alle minacce biologiche e informatiche di svilupparsi più rapidamente delle misure necessarie per contrastarle.
  • Perdita di controllo. Man mano che gli esseri umani diventano meno coinvolti nella ricerca e sviluppo sull'intelligenza artificiale, potrebbero perdere l'opportunità di dirigere e limitare i sistemi che costruiscono.
  • Instabilità strategica. Gli stati potrebbero sfruttare un’esplosione di intelligence per convertire un modesto vantaggio – nel cyberspazio, ad esempio – in un vantaggio nazionale decisivo.

Il rapporto è sincero nel dire che questi impatti sono “incerti”. Una svolta tecnologica potrebbe richiedere tempo per implementare determinate catene di approvvigionamento per materiali specializzati o requisiti normativi, e i sistemi di intelligenza artificiale potrebbero anche accelerare la velocità con cui i rischi vengono mitigati.

Cosa dovrebbero fare i governi

Gli autori affermano che la preparazione per un’esplosione dell’intelligence “dovrebbe essere una priorità urgente, anche ai più alti livelli di leadership governativa”, e delineano una serie di politiche possibili:

  • Richiedere relazioni trasparenti sui progressi compiuti in materia di ricerca e sviluppo legate all'intelligenza artificiale, compresa l'integrazione di revisori indipendenti all'interno delle società di intelligenza artificiale
  • Limitare la velocità con cui un sistema di intelligenza artificiale può migliorare in un determinato periodo di tempo
  • Collaborare con i data center per consentire la sospensione di determinati progetti di ricerca e sviluppo sull'intelligenza artificiale
  • Garantire che i sistemi automatizzati di ricerca e sviluppo sull'intelligenza artificiale siano completamente isolati e non possano sfuggire al controllo umano
  • Creare "piani di risposta alle emergenze" per la gamma di scenari che un'esplosione di intelligence potrebbe produrre

Le proposte estendono idee già presenti nella politica occidentale sull’intelligenza artificiale – segnalazione obbligatoria degli incidenti, valutazione di terze parti e governance informatica – ma le applicano a un endpoint specifico: l’automazione della ricerca stessa.

Perché questi autori, e perché adesso

I firmatari attribuiscono al documento un peso insolito. Hinton e Bengio sono due dei "padrini" dell'intelligenza artificiale moderna, riconosciuti per il lavoro fondamentale sulle reti neurali; entrambi sono diventati voci di spicco che mettono in guardia sulla tecnologia che hanno contribuito a creare. Clark ha co-fondato Anthropic e Pachocki è il capo scienziato di OpenAI.

Il loro avvertimento arriva nel mezzo di un movimento industriale misurabile in quella direzione. Anthropic ha affermato che l’intelligenza artificiale ora produce l’80% del proprio codice, mentre OpenAI utilizza agenti IA autonomi in aree come l’addestramento di nuovi modelli, secondo The Guardian. Entrambi i laboratori hanno inoltre concordato di far valutare i loro modelli da valutatori indipendenti dopo aver avvertito che lo sviluppo dell’intelligenza artificiale stava raggiungendo un livello critico in termini di sicurezza.

Se i governi si muoveranno al ritmo auspicato dagli autori è un’altra questione. Ma l’argomento centrale del documento – che il momento di costruire i freni è prima che l’auto ne abbia bisogno – è ora sostenuto dalle persone più vicine alla macchina.

---

Stai al passo con l'intelligenza artificiale

Ricevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.

Leggi altre notizie sull'AI →