Mercoledì OpenAI ha annunciato che offrirà Zero Data Retention (ZDR) per i suoi modelli di frontiera e ha presentato in anteprima un nuovo sistema chiamato Private Safety Processing, progettato per rilevare abusi in più interazioni senza consentire all'azienda l'accesso ai contenuti dei clienti. La mossa traccia una linea netta nei confronti dei concorrenti: Axios ha riferito che l'annuncio arriva perché Anthropic ora richiede ai clienti di consentire i registri dei dati, e Firstpost ha notato il contrasto con il passaggio di Anthropic alla conservazione dei dati di 30 giorni.
Il tempismo non è sottile. Nel suo annuncio, OpenAI ha osservato che "alcune recenti implementazioni di modelli di frontiera hanno richiesto ai clienti di consentire al proprio fornitore di intelligenza artificiale di conservare contenuti sensibili per il monitoraggio della sicurezza" - requisiti che secondo la società "sono in conflitto con i loro obblighi di sicurezza o impegni nei confronti delle persone che servono". L’azienda sta posizionando la privacy come un’arma competitiva nel concorso per i clienti aziendali regolamentati. Per maggiori informazioni su questa storia, consulta la nostra ultimi sviluppi nell'IA.
Cosa promette Zero Data Retention
Con l'offerta ZDR, i clienti API idonei ottengono ciò che OpenAI descrive come "una promessa chiara": OpenAI non conserva le richieste o le risposte del modello dopo l'elaborazione di una richiesta. I contenuti dei clienti non sono disponibili al personale OpenAI per la revisione e i dati dei clienti aziendali non vengono utilizzati per addestrare i modelli OpenAI a meno che i clienti non acconsentano esplicitamente.
Per le banche, gli ospedali e gli studi legali che valutano l’adozione dell’intelligenza artificiale, tali impegni affrontano il problema più comune: il rischio che il materiale sensibile che scorre attraverso i sistemi di un fornitore di intelligenza artificiale possa essere archiviato, letto o assorbito in modelli futuri. OpenAI rileva che le organizzazioni con cui collabora gestiscono "documenti finanziari, dati sanitari, piani aziendali riservati e ricerche proprietarie".
Il problema della sicurezza si stava risolvendo
L'annuncio ammette anche una vera e propria tensione tecnica. Come lo stesso OpenAI lo descrive, i rischi più gravi per la sicurezza dell’IA non sono sempre visibili in una singola interazione. Le intenzioni dannose possono diventare chiare solo quando più interazioni vengono viste insieme: quando i malintenzionati esaminano ripetutamente le misure di sicurezza, si coordinano tra account, mascherano le minacce come ricerche di routine o quando un agente AI continua ad agire dopo che gli è stato detto di fermarsi.
I sistemi di sicurezza esistenti compatibili con ZDR valutano ogni interazione individualmente, il che significa che i rischi basati su modelli passano inosservati. I fornitori che hanno risposto richiedendo la conservazione hanno risolto un problema creandone un altro, costringendo i clienti a scegliere tra il monitoraggio della sicurezza e i propri obblighi in materia di privacy.
Come funziona il trattamento di sicurezza privata
La soluzione proposta da OpenAI è architettonica. Con l'elaborazione di sicurezza privata, i contenuti del cliente rimangono sull'infrastruttura controllata dal cliente o, in un'opzione ancora in sviluppo, vengono archiviati sull'infrastruttura OpenAI crittografata con chiavi controllate dal cliente. I sistemi automatizzati analizzano quindi i modelli attraverso le interazioni correlate e restituiscono “segnali di sicurezza limitati” – segnalazioni di potenziali usi impropri – senza esporre i suggerimenti o le risposte sottostanti al personale OpenAI.
I clienti esaminano gli avvisi utilizzando le informazioni disponibili nei propri sistemi. Se desiderano presentare ricorso contro una decisione di applicazione della legge, chiarire un'attività legittima o supportare un'indagine su un abuso verificato, possono scegliere di condividere le informazioni pertinenti con OpenAI. La privacy, in altre parole, diventa la norma e la divulgazione una scelta del cliente.
Il sistema è attualmente in fase di test con i primi clienti. OpenAI afferma che prevede di iniziare a implementare il Private Safety Processing e di pubblicare un white paper tecnico a settembre.
La fiducia delle imprese come mercato
L'annuncio è arrivato con la testimonianza di un cliente che sembra un argomento in materia di appalti. "L'adozione dell'intelligenza artificiale aziendale dipende esclusivamente dal controllo dei dati da parte del cliente, senza alcun uso diretto o derivato oltre al servizio scelto", ha affermato Sunil Agrawal, Chief Information Security Officer di Glean, la cui citazione OpenAI ha pubblicato insieme al post. "Man mano che i modelli diventano più capaci, OpenAI dimostra che la sicurezza può progredire senza compromettere la privacy e il controllo che sostengono la fiducia delle imprese."
OpenAI inquadra l'anteprima come una risposta alla domanda, affermando di aver sentito dai clienti "forte e chiaro che hanno bisogno di prevedibilità su come i loro contenuti saranno protetti man mano che i sistemi di intelligenza artificiale diventeranno più capaci". L'azienda aggiunge che l'approccio viene modellato dai clienti "di tutti i settori, regioni e dimensioni aziendali" e che manterrà i clienti informati con tempi di consegna sufficienti per pianificare le implementazioni in base ai cambiamenti.
Il dibattito che ciò scatenerà
I ricercatori sulla sicurezza sostengono da tempo che la visibilità dei modelli di utilizzo è essenziale per individuare gli abusi prima che causino danni, e alcuni si chiedono se l’analisi automatizzata e crittografata possa eguagliare la qualità di rilevamento della revisione umana. I difensori della privacy, nel frattempo, accoglieranno favorevolmente un’architettura che tratti l’accesso ai dati dei clienti come una decisione del cliente piuttosto che come una prerogativa del fornitore.
Ciò che è chiaro è che la governance dei dati si è spostata dalle clausole scritte in piccolo al centro della competizione sull’intelligenza artificiale. Poiché i modelli di frontiera assumono compiti più lunghi e autonomi nei settori regolamentati, la questione di chi riesce a vedere le tracce che questi sistemi lasciano dietro di sé (il cliente, il fornitore o nessuno) sta diventando un asse primario su cui si vincono e si perdono gli accordi aziendali sull’intelligenza artificiale. OpenAI ora ha reso esplicita la sua risposta e ha messo i suoi rivali nella posizione di difendere la propria.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
