Gli utenti dello strumento da riga di comando Claude Code di Anthropic hanno scoperto questa settimana che l'agente di codifica inviava i loro indirizzi email ai siti web visitati, nascosti nell'intestazione "User-Agent" delle richieste web effettuate durante le attività di ricerca. Il bug, documentato in GitHub issue #107757 il 5 novembre, ha rapidamente attirato centinaia di migliaia di visualizzazioni e una rapida risposta da parte di Anthropic, insieme a critiche puntuali su come è stata fornita la correzione. Si tratta dell'ultimo ostacolo alla privacy per gli agenti di codifica dell'intelligenza artificiale, una categoria che osserviamo attentamente nella nostra copertura sugli strumenti di intelligenza artificiale.

"Decine di email truffa al giorno"

Il giornalista, che utilizzava la versione 2.1.318 di Claude Code su macOS, ha scritto di aver iniziato a ricevere "dozzine di email truffa al giorno" dopo che lo strumento "ha divulgato la mia email a terze parti arbitrarie nell'intestazione della richiesta `User-Agent` mentre conduceva ricerche sul web." Ha sostenuto che il comportamento non dovrebbe affatto esistere come impostazione di opt-in o opt-out: non fa nulla per i servizi che non amano il traffico automatizzato, non preserva l'anonimato dell'utente e "è una miniera d'oro per i truffatori". Un altro commentatore ha segnalato in modo indipendente un'improvvisa ondata di bizzarro spam arrivato a un vecchio indirizzo email solitamente silenzioso nello stesso periodo.

Il problema è stato contrassegnato dai manutentori di Anthropic con etichette tra cui bug, area:security e area:tools, e ha attirato dozzine di commenti nel giro di poche ore dalla presentazione.

Come è avvenuta la fuga di notizie

In un commento sulla questione, un collaboratore di Anthropic ha spiegato il meccanismo e ha sottolineato che nessuno aveva implementato deliberatamente la condivisione della posta elettronica. Lo scenario, come descritto: alcuni siti, Wikipedia tra cui, pubblicano policy che chiedono ai client con script di identificarsi con un'e-mail di contatto nell'intestazione User-Agent. Quando un utente ha chiesto a Claude Code di effettuare ricerche su un argomento su un sito del genere, il modello, tentando di rispettare tale politica, ha inserito l'indirizzo email dell'utente nell'intestazione della sua chiamata "curl".

In altre parole, il modello ha cercato di comportarsi da cittadino del web educato e nel frattempo ha fatto trapelare dati privati. "I modelli possono essere altamente imprevedibili", ha scritto il collaboratore. "Ecco perché i controlli deterministici sul comportamento del modello sono così importanti e perché dobbiamo risolvere l'allineamento."

La soluzione di Anthropic: un plugin

La risposta di Anthropic è arrivata rapidamente. Secondo lo stesso commento, un mod integrato chiamato `cc-plugin-privacy` è stato introdotto nella versione 2.1.317 e successive per "bloccare in modo deterministico questo comportamento". La mod è abilitata per impostazione predefinita e può essere disattivata tramite il comando "/plugins" e la sua fonte è stata resa disponibile insieme alle altre mod integrate di Anthropic nel repository Claude Code. L'azienda ha chiesto agli utenti di segnalare immediatamente eventuali lacune nei controlli.

La correzione ha suscitato due immediate critiche. Innanzitutto, alcuni utenti hanno messo in dubbio il meccanismo di consegna stesso: "La privacy non dovrebbe essere un plugin. Dovrebbe essere un'invariante", ha scritto un commentatore, chiedendo cosa sarebbe successo dopo: "cc-plugin-dont-leak-my-API-key?" In secondo luogo, e cosa più importante, i commentatori hanno chiesto perché la modella ha accesso all'indirizzo email dell'utente. Se l'indirizzo non viene mai inserito nel contesto dell'agente, nessun comportamento scorretto del modello potrà trapelarlo. Come ha affermato un utente, il plug-in sembra un cerotto per una decisione progettuale che potrebbe essere completamente rimosso.

Ci sono state anche segnalazioni di attriti con l'implementazione: un utente che utilizzava la versione 2.1.318 ha detto di non riuscire a trovare "cc-plugin-privacy" elencato nel suo menu "/plugins", suggerendo che la correzione non aveva raggiunto tutte le installazioni a cui era destinata. Un altro commentatore ha notato che un rapporto simile sul comportamento dello User-Agent era stato archiviato nel repository già a luglio e ha criticato il progetto per aver agito solo quando un problema diventa virale.

Il quadro più ampio per la sicurezza degli agenti

L’incidente arriva in un momento delicato per Anthropic, che si sta preparando per un’IPO ampiamente pubblicizzata e sta posizionando i suoi agenti per uso aziendale. Si inserisce anche in un dibattito più ampio sulla progettazione del cablaggio dell'agente: quale contesto viene dato a un agente, quali barriere deterministiche lo avvolgono e chi è responsabile quando un modello improvvisa.

La lezione principale che molti sviluppatori hanno tratto dal thread è l'architettura. I moderni agenti di codifica agiscono con un grado di autonomia che rende le salvaguardie basate sulle intenzioni (le politiche che il modello deve seguire) strutturalmente inaffidabili. Tutto ciò che è sensibile deve essere tenuto fuori dalla portata del modello in primo luogo, con controlli deterministici che impongono comportamenti che il modello non può aggirare. La stessa impostazione di Anthropic nella questione ammette il punto: i modelli imprevedibili richiedono controlli deterministici.

Per gli utenti, la guida pratica è semplice. Se esegui Claude Code, aggiorna alla versione 2.1.317 o successiva e conferma che la modalità privacy è attiva. E considera quale altro contesto porta con sé il tuo agente (credenziali, dettagli di contatto, nomi host interni) che un modello ben intenzionato potrebbe un giorno decidere di condividere con uno sconosciuto.

Stai al passo con l'intelligenza artificiale

Gli strumenti di intelligenza artificiale vengono spediti più velocemente di quanto le loro revisioni sulla sicurezza riescano a tenere il passo. Segui ogni sviluppo nella nostra copertura delle notizie sull'intelligenza artificiale.

Leggi altre notizie sull'AI →