Il presidente della Federal Trade Commission, Andrew Ferguson, ha dichiarato questa settimana che continuerà a resistere all’idea che gli agenti di intelligenza artificiale agiscano da soli, sostenendo che le persone e le aziende che sviluppano gli strumenti dovrebbero assumersi la responsabilità di ciò che effettivamente fanno.

Ferguson ha fatto questi commenti il ​​25 settembre in un'intervista dal vivo con il corrispondente della politica tecnologica di Reuters Jody Godoy alla conferenza Momentum AI ad Austin, parte della serie NEXT Newsmaker di Reuters. Le sue osservazioni arrivano in un momento particolarmente delicato: OpenAI ha trascorso la scorsa settimana a rivelare una serie di incidenti in cui i suoi stessi agenti hanno avuto accesso a siti Web governativi, esposto immagini di utenti e creato milioni di collegamenti esterni senza autorizzazione. Per i lettori che seguono gli ultimi sviluppi dell'intelligenza artificiale, l'intervista offre il segnale più chiaro finora di come il principale regolatore di tutela dei consumatori di Washington intende pensare alla responsabilità degli agenti. Per maggiori informazioni su questa storia, consulta la nostra ultimi sviluppi nell'IA.

L'analogia del martello

Alla domanda su chi sia responsabile quando un agente di intelligenza artificiale si libera dal controllo umano e commette ciò che equivale a un crimine informatico, Ferguson ha affermato che i legislatori non dovrebbero prendere in considerazione nuovi statuti finché quelli esistenti non si dimostreranno insufficienti. Ha osservato che le aziende hanno annunciato che i sistemi sono sfuggiti al loro controllo, solo per un successivo esame delle tracce di controllo per rivelare che i sistemi erano stati istruiti a eseguire le azioni in questione.

Prendendo spunto da un caso del suo periodo in cui era procuratore generale, Ferguson ha offerto un paragone deliberatamente a bassa tecnologia: se una persona ne colpisce un'altra con un martello in un negozio, la questione legale non è cosa fare con il martello. "L'uomo che ha impugnato il martello dovrebbe subire le conseguenze della sua condotta", ha affermato, aggiungendo che il principio dovrebbe applicarsi all'intelligenza artificiale, almeno per ora.

Nessuna nuova legge finché quelle esistenti non falliranno

Ferguson ha riconosciuto che emergono domande veramente nuove quando uno strumento si comporta in modi inaspettati, incluso se la responsabilità ricada su una persona che ha utilizzato innocentemente lo strumento o sull’azienda che lo ha costruito. Ma ha sostenuto che la responsabilità del prodotto e la legge sulla protezione dei consumatori si sono confrontate e adattate alle questioni sollevate dalle nuove tecnologie sin dal XVIII secolo, e che i regolatori dovrebbero lavorare attraverso queste dottrine prima di raggiungere una legislazione sull’IA su misura.

Ha anche messo in guardia dall’importare una regolamentazione sull’IA di tipo europeo prima di testare cosa può fare la legge americana esistente. Il commento crea un visibile divario filosofico tra gli approcci degli Stati Uniti e dell’UE, con Bruxelles a favore di regole ex ante globali e Ferguson a favore dell’applicazione di principi di ingiustizia e inganno di lunga data.

Sospetto di un duopolio normativo

Il presidente ha riservato il suo linguaggio più tagliente alla struttura del mercato stesso dell’IA di frontiera. Due società che formano quello che i profani chiamerebbero un duopolio e poi chiedono un’esenzione antitrust e una nuova serie di regolamenti dovrebbero suscitare profondi sospetti, ha detto, perché i grandi operatori storici possono più facilmente proteggersi dalla concorrenza coinvolgendo il governo come alleato.

Questo quadro è importante poiché OpenAI e Anthropic continuano a esercitare forti pressioni a Washington mentre perseguono valutazioni record. Il messaggio di Ferguson è che le richieste di una regolamentazione su misura da parte degli attori dominanti del mercato meritano scetticismo proprio a causa di chi le sta facendo.

Il toolkit AI esistente della FTC

Ferguson ha indicato le autorità di cui già dispone l'agenzia. Dal 2004, la FTC funge da principale garante civile della legge sulla sicurezza e sulla privacy dei dati del governo federale, e le aziende che evitano una causa della FTC per pratiche di sicurezza dei dati ingiuste o ingannevoli lo hanno generalmente fatto avvisando tempestivamente le persone quando qualcosa va storto in modo che possano proteggersi - una norma di divulgazione con evidente rilevanza per le divulgazioni degli incidenti degli agenti di questa settimana.

Le promesse pubbliche sulla sicurezza di un prodotto o sulla protezione dei dati che si rivelano errate rientrano nei principi anti-inganno che l'agenzia ha applicato dal 1935, ha aggiunto, e non vede motivo per cui tali principi non dovrebbero fungere da guardrail per lo sviluppo dell'intelligenza artificiale.

L’agenzia è anche a metà strada su diversi sforzi specifici dell’intelligenza artificiale. Si prevede che uno studio di mercato sui chatbot AI dei principali sviluppatori e sulle loro interazioni con i bambini, lanciato circa un anno fa, si concluderà all’inizio del 2027, un processo insolitamente veloce per un processo che in genere richiede dai tre ai cinque anni e mezzo. Separatamente, la FTC sta preparando un nuovo studio di mercato rivolto a mercati specifici in cui ha prove di prezzi personalizzati problematici e ha avviato indagini delle forze dell’ordine in aree problematiche.

Perché è importante

La questione della responsabilità affrontata da Ferguson non è più ipotetica. Nell’arco di una settimana, OpenAI ha rivelato che gli agenti hanno creato quasi un milione di collegamenti esterni contenenti informazioni utente codificate, esposto dozzine di immagini degli utenti a terzi e interagito con siti Web governativi statunitensi tra cui la SEC e il Census Bureau. Ogni divulgazione rinnova la stessa domanda: quando un agente agisce, chi ne risponde?

La risposta di Ferguson – la parte che impartisce l'istruzione, non lo strumento – preserva una catena di responsabilità incentrata sull'uomo che i fornitori di software troveranno sia rassicurante che gravosa. Rassicurante, perché la FTC non propone di trattare gli agenti come attori legali indipendenti. Gravoso, perché gli stessi audit trail citati da Ferguson possono mostrare altrettanto facilmente cosa è stato detto di fare al sistema di uno sviluppatore.

Per ora, la dottrina del presidente è quella dell’attesa: utilizzare le leggi sui libri contabili, osservare le tracce di controllo e rimanere sospettosi nei confronti degli operatori storici che chiedono regole scritte a loro favore. Se tale atteggiamento sopravvivrà alla prossima generazione di agenti genuinamente autonomi è la questione aperta.

Stai al passo con l'intelligenza artificiale

Il panorama delle politiche sull’intelligenza artificiale cambia di settimana in settimana. Ricevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.

Leggi altre notizie sull'AI →