Alcuni giorni dopo che Anthropic ha iniziato a implementare filigrane invisibili sugli output di testo e immagini di Claude, la funzionalità sta generando esattamente il tipo di attrito previsto dai critici: gli utenti temono che i marchi li esporranno per l'utilizzo dell'intelligenza artificiale al lavoro o in classe, gli sviluppatori documentano come si comporta la filigrana all'interno dei flussi di lavoro di codifica reali e un piccolo ma visibile mercato di strumenti che promettono di eliminarla.
Anthropic afferma che il cambiamento allinea Claude alla legge sull'intelligenza artificiale dell'Unione Europea, le cui regole di trasparenza sono diventate applicabili per i nuovi modelli dopo il 2 agosto 2026. L'articolo 50 della legge impone ai fornitori di sistemi di intelligenza artificiale di rendere l'output generato dalla macchina "rilevabile come generato artificialmente". Anthropic ha confermato che tutti i nuovi modelli offerti a livello globale – non solo nell’UE – contrassegneranno i contenuti generati dall’intelligenza artificiale “dal primo giorno”, con un periodo di grazia fino a dicembre 2026 per l’aggiornamento dei modelli precedentemente rilasciati. Per maggiori informazioni su questa storia, consulta la nostra aggiornamenti sull'intelligenza artificiale.
I segni stessi sono invisibili. Gli output di testo "portano filigrane incorporate", mentre i file generati includono metadati di provenienza firmati digitalmente laddove il formato lo supporta, secondo un articolo di supporto di Anthropic. I precedenti modelli Claude verranno aggiornati per contrassegnare anche il testo, il che significa che l'intera flotta alla fine timbrerà il proprio output.
La filigrana copre il testo modificato, non solo il testo generato
Il dettaglio che ha trasformato la curiosità tecnica in una reazione negativa è stato rivelato da Ars Technica il 13 agosto: la filigrana si applica al contenuto che Claude elabora, non solo al contenuto che genera da zero. Ars ha definito l'approccio "nuke it from orbit", perché Anthropic contrassegna tutti i contenuti elaborati laddove supportati anche se le linee guida dell'UE non lo richiedono laddove un sistema di intelligenza artificiale svolge "una funzione assistiva per la modifica standard" - l'esempio del regolamento è la correzione grammaticale - o dove non "altera sostanzialmente" il testo di un utente.
Questa distinzione è importante perché una filigrana applicata a livello di modello non può distinguere la generazione all'ingrosso a parte una correzione della virgola. Ashley Belanger di Ars Technica ha notato che Claude potrebbe finire per imprimere esattamente il tipo di scrittura umana leggermente ritoccata che la legge è stata scritta per lasciare intatta. In pratica, il marchio segnala qualsiasi cosa elaborata da Claude, anche un documento scritto da un essere umano e chiesto a Claude solo di lucidarlo.
Gli utenti temono di essere scoperti al lavoro e a scuola
La reazione degli utenti è stata rapida. TechCrunch ha riferito il 13 agosto che alcuni utenti di Claude "sono arrabbiati perché le nuove filigrane di Anthropic li sorprenderanno a usarlo al lavoro, a lezione". I dipendenti che si affidano silenziosamente a Claude per redigere e-mail, rapporti o presentazioni - e gli studenti che lo utilizzano durante i compiti - ora si trovano di fronte alla possibilità che un capo o un istruttore possa verificare il coinvolgimento dell'IA con uno strumento di rilevamento.
Ars Technica ha inquadrato la dinamica come una “Lettera Scarlatta” – un distintivo invisibile dell’uso dell’intelligenza artificiale che il lettore non può vedere ma che presto le istituzioni potrebbero vedere. Poiché la filigrana viaggia con il testo attraverso copia-incolla e modifiche al formato, la solita difesa di "l'ho appena modificato un po'" non lascia più dietro di sé le impronte digitali dell'intelligenza artificiale.
Un mercato dei traslochi sta già emergendo
Dove c'è una filigrana, segue un'industria di rimozione. SC Media ha riferito che un mercato per gli strumenti di rimozione della filigrana AI sta già emergendo nei giorni successivi all'aggiornamento di Claude. Decrypt ha documentato che gli sviluppatori stanno attivamente cercando di infrangere lo schema di marcatura, sondando come si comporta in caso di parafrasi, traduzione e riformattazione.
I primi test suggeriscono che la filigrana è resistente alla manipolazione casuale ma perde in condizioni professionali. La copertura di New Stack ha concluso che il marchio "sopravvive al copia-incolla, ma non al flusso di lavoro di sviluppo reale" - il che significa che gli sviluppatori di software che rielaborano sostanzialmente il codice suggerito dall'intelligenza artificiale come parte della normale ingegneria possono cancellare il marchio senza mai volerlo.
Come funziona realmente il marchio
Una spiegazione visiva ampiamente condivisa pubblicata su declaude.org analizza il meccanismo. Il testo non ha pixel in cui nascondere i dati e nessun metadato sopravvive al copia-incolla, quindi la filigrana risiede nelle "scelte tra le parole". Mentre un modello scrive, seleziona ripetutamente tra diverse parole successive ugualmente plausibili; una chiave crittografica segreta orienta silenziosamente tali selezioni verso uno schema che solo il detentore della chiave può rilevare.
La tecnica risale alla ricerca di Kirchenbauer et al. dal 2023, che ha suddiviso le parole candidate in elenchi “verdi” e “rossi” e ha orientato la generazione verso i token verdi. Il SynthID di Google raggiunge una destinazione simile attraverso un percorso più sottile e Google ha filigranato il testo dell'app Gemini e dell'esperienza web dal 2024: la sua API è stata un'eccezione documentata. A partire dall’agosto 2026, i nuovi modelli Claude contrassegnano il testo a livello di modello, mentre i modelli precedenti seguiranno.
Gli scettici affermano che la rimozione resta banale
Non tutti sono convinti che la corsa agli armamenti favorisca Anthropic. In un saggio ampiamente diffuso, l'ingegnere Sean Goedecke ha sostenuto che le filigrane di testo "saranno sempre banali da rimuovere" perché il testo è un mezzo estremamente compresso: qualsiasi cambiamento abbastanza forte da sopravvivere alla rimozione determinata è un cambiamento che un lettore umano noterebbe. Gli strumenti di parafrasi, i viaggi di traduzione e la riformulazione deliberata minacciano tutti di cancellare i modelli statistici senza degradarne il significato.
Il dibattito si sta svolgendo nelle comunità di sviluppatori: due diversi spiegatori di watermarking si sono classificati tra le storie più discusse su Hacker News questa settimana, disegnando centinaia di punti di coinvolgimento tra di loro.
Cosa succede dopo
Anthropic ha affermato che alla fine condividerà i dettagli su come rilevare i marchi – supporto tecnico richiesto dal regolamento UE – ma fino a quando non verrà spedito uno strumento di rilevamento pubblico, le parti esterne non potranno verificare quanto sia effettivamente accurato il marchio. La società ha inoltre riconosciuto che le filigrane non funzioneranno su "alcune piattaforme o funzionalità" che non le supportano.
Con i modelli più vecchi che devono affrontare una scadenza per conformarsi a dicembre 2026 e i laboratori rivali che guardano per vedere se gli utenti puniscono Anthropic per la trasparenza, i prossimi mesi metteranno alla prova una proposta che il settore ha evitato per anni: se i fornitori di intelligenza artificiale possono rendere tracciabile il loro output senza renderlo tossico per le persone che fanno affidamento su di esso.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
