Al personale del piccolo ufficio governativo statunitense responsabile dei test di sicurezza dei modelli di intelligenza artificiale di frontiera è stato recentemente chiesto di riferire in modo informale a un ufficio della Casa Bianca, ha riferito sabato l'Associated Press, suscitando nuove preoccupazioni sull'indipendenza del principale valutatore della sicurezza dell'IA del paese.
Secondo l'AP, anche l'ufficio, il Centro per l'avanzamento dell'innovazione e gli standard per la super intelligenza, noto come CAISSI e ospitato all'interno del Dipartimento del Commercio, ha smesso di pubblicare le sue ricerche. Il rapporto arriva in mezzo alla crescente ansia del pubblico per una serie di storie su agenti IA fuori controllo e descrive un cane da guardia a corto di personale, senza leader e sempre più silenzioso. Per maggiori informazioni su questa storia, consulta la nostra ultimi sviluppi nell'IA.
Cosa fa CAISSI e cosa ha scoperto l'AP
CAISSI ha il compito di valutare la sicurezza delle nuove offerte di intelligenza artificiale prima che raggiungano il pubblico, un mandato che include la valutazione della capacità dei modelli di frontiera di resistere all’uso improprio per attacchi informatici e altri danni gravi. Secondo l'AP, al personale del centro è stato "recentemente" chiesto di riferire in modo informale a un ufficio della Casa Bianca. L'agenzia di stampa ha citato due ex funzionari governativi a conoscenza delle discussioni, che hanno parlato in forma anonima per proteggere gli attuali dipendenti. La Casa Bianca non ha risposto a domande specifiche sul centro.
La portata dell’operazione è modesta. L’AP riferisce che CAISSI riceve circa 10 milioni di dollari all’anno – circa un ottavo di quanto riceve la sua controparte del Regno Unito, anche se gli Stati Uniti sono il luogo in cui vengono costruiti la maggior parte dei modelli di frontiera.
L’accordo di reporting informale è solo l’ultima interruzione del centro. L’AP descrive un vuoto di leadership che risale a mesi fa: un direttore è stato assunto ad aprile e licenziato in pochi giorni, la sua sostituzione è durata alcuni mesi prima di dimettersi, e il capo dell’istituto madre è attualmente in carica come direttore ad interim. In pratica, ciò significa che attualmente nessuno con un mandato permanente difende l'indipendenza del centro.
Un cane da guardia che ha fermato la pubblicazione
Il cambiamento più significativo, secondo AP, è ciò che il centro non sta più facendo. Ad agosto, il Congresso ha chiesto perché il CAISSI avesse smesso di pubblicare pubblicamente rapporti su come i sistemi di intelligenza artificiale si comportano nei test di sicurezza. I test pre-implementazione funzionano come un controllo pubblico sui creatori di modelli solo se i suoi risultati sono visibili al di fuori del laboratorio e, per ora, non lo sono.
Il cambiamento non è venuto dal nulla. Nel mese di ottobre, la Reuters, citando un rapporto di The Information, ha rivelato che l'amministrazione intendeva trasferire tre alti funzionari del CAISSI alla Casa Bianca. Un funzionario della Casa Bianca disse all’epoca a The Information che i problemi di coordinamento con il Commercio mostravano la necessità di avvicinare la leadership del centro al processo decisionale sull’IA. Secondo quel rapporto, i funzionari risponderebbero a Michael Kratsios, che dirige l’Ufficio per le politiche scientifiche e tecnologiche, e al direttore informatico nazionale Sean Cairncross. Il ministro del Commercio Howard Lutnick aveva invitato i due a co-gestire il centro circa sei mesi prima.
Letto nel suo insieme, il nuovo rapporto dell'AP suggerisce che il piano sta arrivando alla pratica, in modo informale e prima di qualsiasi ristrutturazione formale.
Preoccupazioni per l'indipendenza, in entrambe le direzioni
I critici citati dall’AP temono che le decisioni riguardanti la sicurezza informatica e il rischio delle armi biologiche potrebbero essere politicizzate, o che i risultati potrebbero essere attenuati per adattarsi al settore tecnologico. Amos Toh del Brennan Center for Justice ha detto all'AP che tali decisioni hanno un'immensa conseguenza pubblica e dovrebbero essere spiegate in pubblico. Caroline Siegel Singh della Federation of American Scientists ha descritto i centri come CAISSI come potenti istituzioni che possono migliorare drasticamente la vita o fare il contrario.
C’è una controargomentazione e l’AP non la respinge. Valutare la capacità di un modello di contribuire a scrivere malware è una questione di sicurezza nazionale e un'amministrazione che desidera visibilità su chi vede tali risultati ha un caso difendibile. La difficoltà è istituzionale: un arbitro che risponde allo sponsor di una squadra non è nella posizione giusta per mettere le cose in chiaro, e il centro ha smesso di pubblicare resoconti che altrimenti dimostrerebbero la sua indipendenza.
Perché è importante per costruttori e acquirenti
Per le aziende che si basano su modelli di frontiera, il rischio pratico identificato nel reporting non è un divieto, ma l’incertezza. Se le valutazioni rimangono segrete e contribuiscono ai controlli sulle esportazioni e agli appalti pubblici, un laboratorio potrebbe perdere un contratto o un mercato sulla base di una scoperta che non vedrà mai né contesterà. Tale rischio si propagherebbe attraverso la catena di approvvigionamento ai prodotti a valle senza alcun preavviso.
Due cose vale la pena guardare dopo. La prima è se l’amministrazione nominerà un direttore permanente per il centro e chi lo sceglierà. La seconda è se il Congresso, che ha già fatto pressioni sul centro per il suo silenzio sui rapporti pubblicati, si muoverà per trasformare in legge l'indipendenza del centro. Fino a quando non si verifica una delle due cose, l’arbitro americano per la sicurezza dell’intelligenza artificiale di frontiera opera con un budget di 10 milioni di dollari, senza un leader permanente e con una linea di riporto che corre verso la Casa Bianca.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
