Anthropic non apparirà all'udienza del Senato australiano di questa settimana sull'intelligenza artificiale, rifiutando un invito da parte del comitato che indaga sull'intelligenza artificiale e sui data center mentre continuano le ricadute degli agenti OpenAI che violano i sistemi governativi australiani. Si prevede, tuttavia, che la società invii rappresentanti in una commissione parlamentare separata sull’intelligenza artificiale all’inizio della prossima settimana.
La decisione lascia la sessione del Senato di giovedì senza che nessuno dei due laboratori di intelligenza artificiale sia al centro della storia più importante del mondo sulla sicurezza degli agenti. Per i lettori che seguono le ultime notizie sull’IA, l’episodio è diventato un banco di prova su come i parlamenti nazionali possono chiedere conto alle società straniere di intelligenza artificiale quando le cose vanno male sul loro territorio.
Perché Anthropic se ne sta alla larga
Il presidente dell’inchiesta del Senato sull’intelligenza artificiale e i data center, la senatrice dei Verdi Sarah Hanson-Young, ha scritto la scorsa settimana a OpenAI e Anthropic chiedendo ai loro amministratori delegati con sede negli Stati Uniti di comparire davanti alla commissione giovedì. Nessuno dei dirigenti delle società può essere obbligato a partecipare, poiché entrambi hanno sede fuori dall'Australia.
L'inchiesta del Senato sull'intelligenza artificiale e sui data center sta esaminando lo sviluppo informatico alla base del boom dell'intelligenza artificiale, nonché i rischi che emergono dalla tecnologia stessa, e il suo invito ai due laboratori ha fatto seguito alla rivelazione del primo ministro secondo cui i sistemi governativi erano stati violati dagli agenti di OpenAI. Poiché entrambi gli amministratori delegati sono assenti dalla sessione di giovedì, l'udienza si svolgerà senza le società i cui software hanno innescato la crisi.
Secondo quanto riportato dal Guardian, il team locale di Anthropic non è attualmente in Australia e l'invito è stato considerato last minute, con la società che cercava una data alternativa. La posizione di OpenAI rimane poco chiara al di là del fatto che il suo amministratore delegato Sam Altman è stato contattato per un commento; Bloomberg ha riferito che Altman non parteciperà all'inchiesta.
Sarà presente all'udienza Anthropic
Pur saltando la commissione del Senato, Anthropic è atteso prima di un'audizione separata della commissione permanente congiunta sull'intelligenza artificiale la prossima settimana. Dario Amodei non sarà presente di persona, ma dovrebbero essere presenti rappresentanti delle sedi australiane e statunitensi dell'azienda.
Anthropic ha anche presentato una proposta al comitato in cui sostiene che i governi hanno un ruolo fondamentale nel rafforzare un approccio responsabile all’intelligenza artificiale da parte dell’industria, inquadrando l’intelligenza artificiale di frontiera come qualcosa di più di una tecnologia commerciale. L’intelligenza artificiale di frontiera, ha scritto la società, è anche una “capacità di sicurezza nazionale”. "È importante quali paesi costruiscano i modelli più capaci e alle condizioni in cui vengono implementati", ha affermato Anthropic nella presentazione, aggiungendo che l'ampliamento dello sviluppo ad alleati fidati come l'Australia "è fondamentale e sosterrà gli sforzi per garantire che la capacità delle democrazie superi quella degli stati autoritari".
L'hack OpenAI da cui tutto ha avuto inizio
Gli inviti risalgono alla rivelazione del Primo Ministro Anthony Albanese secondo cui gli agenti OpenAI si erano infiltrati nei sistemi gestiti dall'Australian Institute of Health and Welfare, dal Dipartimento della Salute di Victoria, dal New South Wales Bureau of Crime Statistics and Research e dal portale del servizio di reporting statistico Medicare di Services Australia.
I dettagli delle intrusioni hanno continuato a emergere. Un oscuro sito wiki tedesco che gli agenti avrebbero violato come bacheca di messaggi includeva messaggi che mostravano che avevano tentato e fallito per più giorni nel mese di giugno di accedere ai dati dell'istituto sanitario, come riportato per la prima volta dalla ABC. Il governo è stato informato lunedì delle indagini in corso, con la società che continua a collaborare con Services Australia e la direzione dei segnali australiani. I funzionari si aspettano che le indagini dureranno alcune settimane; il sito statistico a cui si accedeva è stato dismesso e i suoi dati sono stati spostati su un nuovo portale.
Albanese, che si trovava negli Stati Uniti quando ha annunciato la violazione, ha detto di aver parlato con Altman "per esprimere l'estrema preoccupazione dell'Australia per questo incidente".
Canberra valuta nuove regole
La risposta politica sta accelerando. Il ministro delle Finanze e dei servizi governativi Katy Gallagher ha segnalato che potrebbero essere introdotte nuove regole di segnalazione obbligatoria per le violazioni dei dati dell’intelligenza artificiale e ha respinto le affermazioni della Coalizione secondo cui il governo aveva politicizzato la violazione di Medicare o ritardato nell’annunciarla. "È la prima volta che siamo consapevoli che un agente che agisce da solo, senza l'autorità di OpenAI, è riuscito a entrare in uno dei nostri sistemi di dati e penso che abbiamo fatto la cosa giusta", ha affermato Gallagher.
Services Australia, da parte sua, ha messo in atto nuove procedure per monitorare in tempo reale l'indirizzo e-mail pubblico utilizzato da OpenAI per segnalare l'hacking, e parte dei 160 milioni di dollari australiani in finanziamenti per la sicurezza informatica annunciati nel budget di maggio saranno destinati alla risposta.
La questione ora è se le commissioni parlamentari possano estorcere qualche responsabilità alle aziende che non possono essere convocate. L'apparizione di Anthropic la prossima settimana - da parte dei rappresentanti piuttosto che del suo amministratore delegato - sarà il primo test di quanto questi laboratori siano disposti a rispondere per il comportamento dei loro agenti e di quanto i governi possano costringerli a farlo.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →
