Google DeepMind ha lanciato un nuovo istituto dedicato ad ampliare il dibattito sull’intelligenza artificiale generale – e i suoi saggi inaugurali includono una proposta concreta di Demis Hassabis per un organismo guidato dagli Stati Uniti che valuterebbe i modelli di intelligenza artificiale di frontiera prima dell’implementazione.
Il DeepMind Institute, lanciato mercoledì da Google e dai ricercatori di Google DeepMind, elenca il co-fondatore di DeepMind Shane Legg come caporedattore, insieme al dirigente di Google James Manyika e al presidente di Google DeepMind Demis Hassabis come direttori, secondo TechCrunch. Per maggiori informazioni su questa storia, consulta la nostra tendenze IA.
Spazio per dissentire
Lo scopo dichiarato dell'istituto è quello di far emergere un autentico disaccordo, anche all'interno della stessa Google. "Non sempre saranno d'accordo, e probabilmente cambieranno idea, man mano che sempre più dati e informazioni verranno alla luce in una frontiera in rapido movimento", si legge nell'annuncio.
La sua prima raccolta comprende quattro saggi che coprono le politiche economiche per la gestione della potenziale interruzione dell’AGI, preservando il ragionamento del modello leggibile dall’uomo, i principi per la fioritura umana e un quadro per la valutazione dei modelli di intelligenza artificiale di frontiera.
Istituzionalizzare il disaccordo aperto è una mossa insolita per un laboratorio di intelligenza artificiale aziendale, dove la messaggistica pubblica tende ad essere strettamente controllata. In base alla progettazione, l'istituto offre ai ricercatori di Google una sede per discutere posizioni che potrebbero entrare in conflitto con gli interessi commerciali dell'azienda o con quelli degli altri.
Il saggio sulla trasparenza: osserva la "profondità seriale opaca"
Uno dei quattro saggi, dei ricercatori sulla sicurezza di DeepMind Rohin Shah e Anca Dragan, sostiene che la finestra di trasparenza sempre più ridotta dell’intelligenza artificiale – la capacità di vedere e controllare il ragionamento passo dopo passo di un modello – non è inevitabile, anche se le nuove architetture rendono i modelli più potenti più difficili da monitorare.
Gli autori affermano che sviluppatori e regolatori dovrebbero affrontare direttamente i compromessi in termini di sicurezza. Concretamente, ciò potrebbe significare limitare quella che chiamano "profondità seriale opaca" - la quantità di calcoli sequenziali che un modello può eseguire senza produrre una traccia di ragionamento leggibile - o richiedere agli sviluppatori di dimostrare che i sistemi meno trasparenti rimangono altrettanto monitorabili quanto quelli interpretabili.
La proposta è degna di nota perché tratta la perdita di interpretabilità come una scelta progettuale e politica piuttosto che una conseguenza inevitabile della scala, aprendo la porta a requisiti che potrebbero essere inseriti nella regolamentazione.
Proposta di Hassabis: un organismo statunitense per gli standard di frontiera
Il saggio più significativo potrebbe essere quello di Hassabis. Propone un organismo di standardizzazione dell’IA di frontiera guidato dagli Stati Uniti con il compito di valutare i modelli di intelligenza artificiale più avanzati. Secondo il quadro, gli sviluppatori inizialmente sottoporrebbero volontariamente i modelli per la revisione fino a 30 giorni prima del rilascio. Una volta che il sistema di valutazione si sarà dimostrato efficace, superarne i test potrebbe diventare un requisito per l’implementazione di modelli di frontiera negli Stati Uniti.
L’organismo inizierebbe progettando valutazioni in consultazione con le società di intelligenza artificiale, ma alla fine svilupperebbe valutazioni indipendenti e non divulgate – quelli che il saggio chiama test “tenuti” – per impedire ai laboratori di adattare i loro modelli a parametri di riferimento noti, una modalità di fallimento ben documentata dei regimi di valutazione pubblici.
Hassabis ha anche lasciato la porta aperta all’escalation: il quadro potrebbe essere “incrementato se la gravità della situazione lo richiedesse”, includendo potenzialmente un rallentamento coordinato tra gli sviluppatori di intelligenza artificiale di frontiera.
Perché gli altri due saggi sono importanti
I restanti due saggi – sulle politiche economiche per la gestione dell’interruzione dell’AGI e sui principi per la prosperità umana – completano una raccolta che tratta l’AGI come un problema a livello sociale piuttosto che puramente tecnico. Lo spostamento economico è stato a lungo la preoccupazione pubblica più tangibile riguardo all’intelligenza artificiale avanzata, e inquadrarlo insieme alla politica di valutazione e all’interpretabilità suggerisce che l’istituto vuole che i politici vedano i pezzi come un’unica agenda piuttosto che come dibattiti separati.
Questa ampiezza è anche un segnale del posizionamento di Google. L’azienda compete per clienti aziendali e contratti governativi, sostenendo allo stesso tempo che i sistemi di frontiera necessitano di un controllo esterno. Pubblicare la tensione, anziché attenuarla, è la premessa fondamentale dell'istituto.
Dalle preoccupazioni alle proposte concrete
I saggi arrivano mentre il dibattito sulla sicurezza del settore si sposta da ampie dichiarazioni di preoccupazione verso meccanismi specifici: requisiti di divulgazione, controllo esterno e, se le misure di salvaguardia restano indietro, rallentamenti coordinati. Questo cambiamento ha subito un’accelerazione questa settimana quando i leader del settore hanno approvato alcuni elementi dell’appello del CEO di Anthropic, Dario Amodei, a “velocizzare” lo sviluppo dell’intelligenza artificiale di frontiera, secondo TechCrunch.
Il tempismo conta. I governi su entrambe le sponde dell’Atlantico stanno valutando come supervisionare i sistemi le cui capacità stanno avanzando più velocemente delle infrastrutture di valutazione. Una proposta che ha origine all’interno di un importante laboratorio di intelligenza artificiale – e che include una revisione attenta prima del rilascio – offre ai politici un modello che l’industria stessa ha nominalmente approvato, che è stato storicamente un prerequisito per una regolamentazione significativa dell’IA.
Cosa guardare
L'indipendenza editoriale dell'istituto da Google sarà il primo test. Se i saggi continuano a includere posizioni che vanno contro la tabella di marcia commerciale di Google – come probabilmente fa il saggio sulla trasparenza – la sede potrebbe diventare un serio contributo al dibattito politico dell’AGI. Se si sposta verso la messaggistica aziendale, sarà un canale di PR in più in un campo affollato.
In ogni caso, la sostanza è sul tavolo ora: i requisiti di valutazione pre-rilascio, i test di resistenza e persino un rallentamento coordinato vengono sostenuti pubblicamente da una delle figure più potenti dell’intelligenza artificiale. La questione non è più se i modelli di frontiera debbano essere valutati in modo indipendente, ma chi effettua la valutazione e in quale tempistica.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
