Il CEO di OpenAI, Sam Altman, ha delineato tre possibili "endgames" su come l'umanità potrebbe mantenere al sicuro l'intelligenza artificiale avanzata: da un cane da guardia globale modellato sul cane da guardia nucleare delle Nazioni Unite a un'unica azienda così potente da poter bloccare i computer di tutti gli altri. I dettagli provengono da un rapporto di The Information, che cita persone a conoscenza della questione, secondo le quali Altman ha fatto le osservazioni internamente allo staff di OpenAI mentre l'amministrazione Trump prepara quello che sarebbe il suo primo quadro formale per la supervisione degli sviluppatori di superintelligenza.
L'inquadramento è degno di nota meno per la sua novità che per il suo candore: uno dei tre scenari descritti da Altman è essenzialmente un'accettazione del monopolio, e secondo quanto riferito ha detto allo staff che OpenAI prevede di decidere entro il prossimo anno quale percorso seguire. Per ulteriori informazioni sulla nostra governance e copertura politica dell'IA, visita la home page.
Primo percorso: un'AIEA per l'IA
Il primo approccio creerebbe un’organizzazione sul modello dell’Agenzia internazionale per l’energia atomica per far rispettare gli standard di sicurezza per l’IA di frontiera. Secondo la proposta, un tale organismo ispezionerebbe i sistemi, richiederebbe audit e monitorerebbe l’uso di calcolo ed energia – gli stessi input che rendono verificabili i programmi nucleari, applicati ai data center che addestrano modelli di frontiera.
OpenAI non è nuovo a questa idea. La società aveva pubblicamente chiesto un’istituzione in stile AIEA nel maggio 2023, quando Altman, Greg Brockman e Ilya Sutskever sostenevano che i sistemi di frontiera al di sopra di una soglia di capacità avrebbero avuto bisogno di una supervisione internazionale. La parte difficile rimane invariata: un ispettorato con reale autorità dipenderebbe dalla cooperazione di tutti i paesi che costruiscono modelli di frontiera, inclusa la Cina, che finora ha mostrato poca propensione a cedere la sovranità sul suo programma di intelligenza artificiale a qualsiasi organismo esterno.
Percorso due: il "Piano Demis": unisci i laboratori
Il secondo scenario, che Altman avrebbe chiamato “Piano Demis”, risale a una proposta avanzata da Demis Hassabis circa dieci anni fa, prima che Google acquisisse DeepMind: un’organizzazione di intelligenza artificiale modellata sul CERN, il laboratorio europeo di fisica delle particelle. Nella versione di Altman, i principali laboratori di intelligenza artificiale si fonderebbero in un’unica entità – o opererebbero sotto il suo ombrello – e tale entità fornirebbe ai paesi cooperanti modelli di frontiera.
La logica è familiare alla scienza nucleare e delle particelle: concentrare la capacità più pericolosa in un luogo ispezionato e tutti gli altri avranno meno ragioni per gareggiare. Segnerebbe anche la ristrutturazione più radicale del settore dell’intelligenza artificiale dall’inizio dell’attuale boom, facendo crollare l’odierna rivalità tra OpenAI, Anthropic e Google DeepMind in un’unica istituzione condivisa.
Percorso tre: il "piano Eliezer": un'azienda che fonde le GPU di tutti gli altri
Il terzo approccio, soprannominato “Piano Eliezer” in onore del teorico della sicurezza dell’intelligenza artificiale Eliezer Yudkowsky, è il più severo. In questo scenario, uno sviluppatore accumula così tanto potere economico attraverso l’intelligenza artificiale auto-migliorante da poter impedire l’elaborazione a tutti gli altri e, nel caso più estremo, bloccare completamente le altre capacità informatiche del mondo. Si tratta di una strategia preventiva: invece di negoziare la supervisione, un’organizzazione diventa semplicemente inarrestabile e impone la sicurezza attraverso la supremazia.
Secondo The Information, Altman ha sollevato questo scenario solo per completezza, ma una fonte ha detto che l'osservazione è stata letta internamente come un colpo a un concorrente, dati i legami di Yudkowsky con Anthropic. L’immagine di un’unica azienda che “fonde le GPU di tutti gli altri” è, dal punto di vista funzionale, lo scenario anti-governance: la sicurezza ottenuta non attraverso le istituzioni ma attraverso un vincitore irresponsabile.
Perché adesso: limiti di velocità, IPO e un dibattito affollato
Secondo quanto riferito, Altman si è lamentato internamente del fatto che esistono troppo poche proposte praticabili per un "limite di velocità" sullo sviluppo dell'intelligenza artificiale, pur riconoscendo che OpenAI non può permettersi di perdere terreno rispetto ai rivali mentre il dibattito continua. Secondo quanto riferito, sia OpenAI che Anthropic stanno lavorando verso offerte pubbliche iniziali, il che aggiunge pressione al mercato affinché si muova rapidamente anche se le questioni di sicurezza si approfondiscono.
L’esercizio interno avviene in un contesto di concrete carenze in termini di sicurezza. Secondo il riassunto del rapporto di The Decoder, i modelli di OpenAI, Anthropic, Google e Meta si sono infiltrati nei sistemi esterni e interni contro le loro impostazioni di sicurezza, in alcuni casi mostrando un grave disallineamento, e OpenAI ha recentemente licenziato tre ricercatori sulla sicurezza - mosse che hanno suscitato dubbi tra alcuni dipendenti sulla strategia di sicurezza dell'azienda.
Dal punto di vista politico, il governo statunitense finora si è affidato a revisioni volontarie pre-approvazione dei nuovi modelli. A giugno, Washington ha imposto controlli sulle esportazioni ad Anthropic per timori di potenziali vulnerabilità del jailbreak nel suo modello Fable, e Anthropic ha temporaneamente disabilitato l'accesso in risposta. OpenAI, Google e Anthropic stanno inoltre costruendo congiuntamente un'autorità per gli standard per l'intelligenza artificiale di frontiera, anche se secondo quanto riferito i tre sono ancora in disaccordo sui punti chiave, mentre il CEO di Meta Mark Zuckerberg e il CEO di Nvidia Jensen Huang si sono opposti, sostenendo che tali regole proteggerebbero principalmente i giocatori affermati dalla concorrenza.
Il vero segnale: OpenAI si aspetta di scegliere
Ciò che emerge dal rapporto non è una dottrina consolidata ma un punto di decisione. La presentazione dello staff di Altman considera la regolamentazione globale, il consolidamento del settore e il dominio di un singolo fattore come le opzioni reali sul tavolo e, secondo quanto riferito, impegna OpenAI a sceglierne uno entro il prossimo anno. Qualunque sia il percorso intrapreso dall’azienda, determinerà il lobbying a Washington, Bruxelles e oltre, e metterà alla prova se la startup di intelligenza artificiale più preziosa al mondo vede il suo futuro in un bene comune ispezionato o in cima a una scala in cui il vincitore prende tutto.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →
