Anthropic inizierà ad applicare filigrane invisibili al testo generato dai suoi modelli Claude, ha confermato la società questa settimana, diventando l’ultimo fornitore di intelligenza artificiale ad aggiungere segnali di provenienza leggibili dalla macchina in risposta alle nuove norme europee sulla trasparenza.
La modifica, dettagliata in una pagina di supporto aggiornata, significa che il contenuto prodotto da Claude porterà una firma nascosta progettata per sopravvivere se copiata e incollata altrove. Si tratta di una risposta diretta al Codice di trasparenza della legge sull’intelligenza artificiale dell’Unione europea, entrato in vigore il 2 agosto e che impone alle società di intelligenza artificiale di contrassegnare i contenuti generati o modificati in modo che altri sistemi possano rilevarli.
Come funziona la filigrana
Anthropic ha affermato che tutti i modelli rilasciati dopo il 2 agosto includeranno automaticamente la tecnologia per filigranare sia i testi che i file generati dal computer. Per i file, l'azienda sta adottando lo standard aperto C2PA, un framework di credenziali di contenuto già utilizzato da alcuni produttori di fotocamere e strumenti di editing di immagini per registrare come è stato creato un pezzo di media.
La filigrana del testo è incorporata a livello di modello anziché applicata in un secondo momento. Secondo la documentazione di supporto di Anthropic, "poiché la filigrana è parte del testo, viaggerà con il testo quando viene copiata e incollata altrove e potrebbe persistere attraverso alcune modifiche. La filigrana verrà applicata a livello di modello, il che significa che sarà presente indipendentemente dal prodotto Claude o dalla superficie da cui proviene il testo."
La società ha aggiunto che prevede di estendere il supporto della filigrana anche ai modelli più vecchi. La funzionalità verrà applicata a tutta la linea di prodotti Anthropic, tra cui l'API della piattaforma Claude, l'app di chat Claude, Claude Code, Claude Cowork e Claude Tag.
Non è del tutto chiaro quante modifiche un utente dovrebbe fare per rimuovere il marchio e Anthropic non ha pubblicamente dettagliato la tecnica. La filigrana del testo è tecnicamente difficile perché piccole modifiche alla formulazione possono rompere fragili modelli statistici, una sfida di lunga data per i ricercatori del settore.
Nessuna rinuncia per gli utenti
In particolare, gli utenti di Claude non potranno disattivare la filigrana. L'impostazione viene applicata dal modello stesso anziché essere attivata/disattivata per richiesta, il che significa che chiunque generi testo tramite una superficie Claude lo avrà contrassegnato se lo desidera o meno.
È probabile che questa posizione susciti resistenze da parte di alcuni utenti professionali. Scrittori, sviluppatori e aziende che utilizzano Claude per redigere contenuti si sono abituati a un output pulito e non contrassegnato e alcuni potrebbero sentirsi a disagio con una firma invisibile che segue il loro testo su Internet. Anthropic sembra aver concluso che la conformità normativa supera tale preferenza.
Parte di una corsa industriale più ampia
Antropico non agisce da solo. I requisiti di trasparenza dell'UE hanno dato il via a una corsa tra l'intelligenza artificiale e le piattaforme di contenuti per aggiungere segnali di provenienza prima che i regolatori bussino alla porta.
Proprio la scorsa settimana, la piattaforma musicale AI Suno ha dichiarato che avrebbe iniziato a contrassegnare le tracce create sul suo servizio dopo un’ondata di sfide legali sull’audio generato dall’intelligenza artificiale. Il mese scorso, la piattaforma di newsletter Substack ha collaborato con la società di rilevamento Pangram per segnalare i contenuti generati dall'intelligenza artificiale, con il CEO di Substack Chris Best che ha pubblicamente chiamato "Claudefishing", il suo termine per indicare le persone che utilizzano l'intelligenza artificiale per inondare le piattaforme con materiale di bassa qualità.
La pressione si estende ben oltre i diretti concorrenti di Anthropic. Black Forest Labs, Google, Meta, Microsoft, OpenAI e Synthesia si sono tutti impegnati ad aderire al codice di trasparenza dell'UE, secondo un rapporto di TechCrunch, segnalando che il watermarking sta rapidamente diventando un'aspettativa di base del settore piuttosto che un elemento di differenziazione.
Perché la provenienza è improvvisamente urgente
La spinta verso le filigrane riflette due ansie convergenti. Il primo è normativo: la legge UE sull’intelligenza artificiale è ora in vigore e le aziende che non lo rispettano rischiano sanzioni significative. Mettere in atto tempestivamente le infrastrutture di provenienza è più economico che riadattarle sotto la pressione delle forze dell’ordine.
Il secondo è reputazionale. Mentre testo, immagini, audio e video generati dall'intelligenza artificiale hanno invaso le piattaforme social, gli editori e le piattaforme si trovano ad affrontare una crescente reazione negativa nei confronti dello "slop dell'intelligenza artificiale", contenuti sintetici di bassa qualità che escludono il lavoro umano ed erodono la fiducia. Le filigrane invisibili offrono una risposta tecnica a una domanda che la moderazione da sola non può risolvere: è stato scritto da una macchina?
Per Anthropic, che ha costruito il proprio marchio attorno alla sicurezza dell’intelligenza artificiale, l’adozione delle filigrane è anche una mossa di credibilità. Un’azienda che si presenta come un’alternativa responsabile ha forti incentivi a guidare la trasparenza piuttosto che essere vista con i piedi per terra.
Le domande più difficili rimangono irrisolte. Le filigrane aiutano solo se gli strumenti di rilevamento le cercano effettivamente e se i marchi si dimostrano abbastanza robusti da sopravvivere alle modifiche, alla riformattazione e al riciclaggio che si verificano mentre i contenuti si spostano nel web aperto. La scommessa di Anthropic è che incorporare il segnale a livello di modello è l'approccio più duraturo. Se reggerà nella pratica sarà testato rapidamente e pubblicamente nei prossimi mesi.
Per una copertura continua della politica sull'intelligenza artificiale e degli strumenti che stanno rimodellando il settore, aggiungi ai preferiti la copertura delle ultime notizie sull'intelligenza artificiale di AI Buzz Wire.
