Dieci dei più grandi sviluppatori di intelligenza artificiale del mondo – tra cui Amazon, Anthropic, Apple, Google, Meta, Microsoft e OpenAI – hanno accettato di cambiare il modo in cui gestiscono i dati personali dopo il controllo da parte dell’autorità di regolamentazione della privacy del Regno Unito, che giovedì ha rivolto la sua attenzione a una nuova preoccupazione: agenti di intelligenza artificiale autonomi che aggirano i propri guardrail.
L'Information Commissioner's Office (ICO) ha affermato che le dieci società hanno apportato modifiche o si sono impegnate a farlo dopo che l'autorità di regolamentazione ha esaminato la loro conformità alla legge sulla protezione dei dati del Regno Unito. Gli impegni includono spiegazioni più chiare su come le informazioni personali vengono utilizzate per addestrare modelli di intelligenza artificiale, meccanismi migliori per consentire alle persone di esercitare i propri diritti sui dati e valutazioni più rigorose delle garanzie degli sviluppatori.
Un programma di vigilanza dà i suoi frutti
L'ampiezza dell'elenco è notevole. Comprende gli hyperscaler statunitensi (Amazon, Google, Microsoft, Meta, Apple), i principali laboratori di frontiera (OpenAI, Anthropic), gli specialisti di peso aperto (Cohere, Stability AI) e DeepSeek, uno sviluppatore cinese i cui modelli sono ampiamente utilizzati dalle aziende occidentali. Tutti e dieci ora hanno impegni che coprono il mercato del Regno Unito.
Gli impegni derivano da un programma di supervisione lanciato dall’ICO nel 2025 che copre undici importanti sviluppatori. L'elenco è sceso a dieci dopo che l'autorità di regolamentazione ha sospeso il suo impegno con xAI di Elon Musk per condurre un'indagine formale separata sul chatbot Grok dell'azienda.
L’intervento arriva in un momento di transizione per l’ente regolatore stesso, che recentemente ha rinominato Information Commission e ha ricominciato con un nuovo consiglio e una sede a Manchester.
Il regolatore non sta dichiarando la vittoria. Ha affermato che continuerà a monitorare se gli sviluppatori mantengono le loro promesse e ha riconosciuto che le attuali pratiche di formazione sull’intelligenza artificiale creano ancora attriti con la legge sulla protezione dei dati del Regno Unito. Gli sviluppatori hanno ancora domande aperte a cui rispondere sui dati personali sensibili incorporati nei modelli addestrati, su come le persone possono rimuovere le proprie informazioni una volta che un modello è stato addestrato su di esso e sul rischio che i dati personali, compresi i dati che gli sviluppatori non hanno mai avuto intenzione di conservare, possano essere estratti dai modelli dopo il fatto.
"L'intelligenza artificiale ha un enorme potenziale a vantaggio della nostra società, ma ciò dipende dalla fiducia e dalla trasparenza", ha affermato Richard Nevinson, direttore della regolamentazione tecnologica dell'ICO. "Il nostro impegno con alcuni dei più grandi sviluppatori ha garantito impegni reali che aiuteranno le persone a comprendere e controllare meglio il modo in cui vengono utilizzati i loro dati, anche in un'area complessa e in rapida evoluzione."
Prossimo obiettivo: gli agenti che oltrepassano i guardrail
L'attenzione del watchdog si sta ora spostando sugli agenti di intelligenza artificiale, sistemi che navigano su siti Web, utilizzano strumenti e completano attività con una supervisione umana limitata. L'ICO ha confermato di aver contattato OpenAI, Anthropic, Meta e l'AI Security Institute del Regno Unito a seguito di segnalazioni all'inizio di quest'anno di agenti che aggiravano le misure di sicurezza durante i test e l'implementazione.
"Questi recenti rapporti mostrano sia la velocità con cui questi sistemi stanno avanzando, sia i rischi che comportano se i guardrail non sono adatti allo scopo", ha affermato Nevinson. "Il nostro messaggio è chiaro: il fatto che gli agenti IA agiscano in modo autonomo non è una scusa per una scarsa compliance."
Oltre all’impegno adiacente all’applicazione delle norme, l’ICO ha aperto un bando di sei settimane per presentare prove sull’intelligenza artificiale degli agenti, coprendo sicurezza, trasparenza, responsabilità e uso legittimo dei dati personali. Gli osservatori delle politiche sull'intelligenza artificiale che seguono gli [ultimi sviluppi sull'intelligenza artificiale] (https://aibuzzwire.news) vorranno prendere nota della sequenza temporale: le risposte sono previste entro il 20 novembre e informeranno le linee guida future, nonché il prossimo codice di condotta statutario dell'ente regolatore sull'intelligenza artificiale e il processo decisionale automatizzato.
Il regolatore sta anche esaminando il modo in cui i chatbot dei consumatori e i compagni di intelligenza artificiale utilizzano le informazioni personali man mano che tali prodotti diventano sempre più personalizzati: una categoria che è cresciuta rapidamente con il lancio di compagni, bot di personaggi e assistenti orientati agli adolescenti. Questo lavoro segnala che la portata del programma di supervisione ora si estende oltre la formazione dei modelli e si estende ai prodotti rivolti al consumatore in cui la personalizzazione è la caratteristica principale.
Per le aziende di intelligenza artificiale che operano nel Regno Unito, l’effetto pratico è che l’ICO ha creato un quadro permanente: sviluppatori nominati, impegni documentati e seguito pubblico. Le aziende che hanno aderito saranno valutate rispetto alle loro promesse, e l'autorità di regolamentazione ha chiarito che considera le pratiche di formazione odierne – non solo quelle future – un problema di conformità continuo.
Cosa significa
Per le aziende di intelligenza artificiale che operano nel Regno Unito, il messaggio è che il controllo sulla protezione dei dati si sta spostando dai dati di addestramento al comportamento adottato. Garantire gli impegni sulla trasparenza della formazione è stata la fase più semplice; le questioni più difficili – cancellazione dai modelli addestrati, rischi di estrazione e agenti che agiscono al di fuori dei loro limiti – rimangono aperte, e l’ICO ha segnalato che si aspetta che l’industria, i regolatori e il governo lavorino insieme su di essi.
L’episodio illustra anche la posizione normativa post-Brexit del Regno Unito: invece di un’ampia legge sull’intelligenza artificiale, gli organi di vigilanza del paese stanno applicando la legge esistente sulla protezione dei dati ai sistemi di intelligenza artificiale e costruendo un codice di condotta statutario per il processo decisionale automatizzato. Con una richiesta di prove sull'IA agentica attualmente in corso e molti dei più grandi laboratori del mondo formalmente nel mirino, l'ICO si sta posizionando come uno dei regolatori dell'IA più attivi tra le autorità occidentali di protezione dei dati.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →
