Anthropic va începe să aplice filigrane invizibile textului generat de modelele sale Claude, a confirmat compania săptămâna aceasta, devenind cel mai recent furnizor de IA care a adăugat semnale de proveniență care pot fi citite de mașină ca răspuns la noile reguli europene de transparență.
Schimbarea, detaliată într-o pagină de asistență actualizată, înseamnă că conținutul produs de Claude va purta o semnătură ascunsă menită să supraviețuiască copierii și lipirii în altă parte. Este un răspuns direct la Codul de transparență al Legii AI al Uniunii Europene, care a intrat în vigoare la 2 august și solicită companiilor AI să marcheze conținutul generat sau editat într-un mod pe care alte sisteme îl pot detecta.
Cum funcționează filigranul
Anthropic a spus că toate modelele lansate după 2 august vor include automat tehnologie de filigranare atât a textului, cât și a fișierelor generate de computer. Pentru fișiere, compania adoptă standardul deschis C2PA, un cadru de acreditări de conținut deja folosit de unii producători de camere și instrumente de editare a imaginilor pentru a înregistra modul în care a fost creată o bucată de conținut media.
Filigranul de text este încorporat la nivel de model, mai degrabă decât aplicat ca o idee ulterioară. Conform documentației de asistență Anthropic, „deoarece filigranul face parte din text, acesta va călători cu textul atunci când este copiat și lipit în altă parte și poate persista prin unele editări. Filigranul va fi aplicat la nivel de model, ceea ce înseamnă că va fi prezent indiferent de ce produs Claude sau de la ce suprafață provine textul”.
Compania a adăugat că intenționează să extindă suportul pentru watermarking și la modelele mai vechi. Funcția se va aplica în întreaga linie de produse Anthropic, inclusiv API-ul platformei Claude, aplicația de chat Claude, Claude Code, Claude Cowork și Claude Tag.
Cât de multă editare ar trebui să facă un utilizator pentru a elimina marcajul nu este complet clar, iar Anthropic nu a detaliat public tehnica. Filigranarea textului este dificilă din punct de vedere tehnic, deoarece micile modificări ale textului pot rupe tiparele statistice fragile, o provocare de lungă durată pentru cercetătorii din domeniu.
Fără renunțare pentru utilizatori
În special, utilizatorii Claude nu vor putea dezactiva filigranul. Setarea este impusă de modelul în sine, mai degrabă decât comutată la cerere, ceea ce înseamnă că oricine generează text printr-o suprafață Claude îl va avea marcat dacă dorește sau nu.
Este posibil ca această poziție să atragă respingere din partea unor utilizatori profesioniști. Scriitorii, dezvoltatorii și companiile care îl folosesc pe Claude pentru a redacta conținut s-au obișnuit cu rezultate curate, nemarcate, iar unii ar putea fi incomozi cu o semnătură invizibilă care urmează textul lor pe internet. Anthropic pare să fi ajuns la concluzia că conformitatea cu reglementările depășește această preferință.
Parte a unei lupte mai ample din industrie
Antropic nu înseamnă acționare singur. Cerințele UE în materie de transparență au declanșat o cursă între AI și platformele de conținut pentru a adăuga semnale de proveniență înainte ca autoritățile de reglementare să bată.
Chiar săptămâna trecută, platforma muzicală AI Suno a declarat că va începe să marcheze melodiile create pe serviciul său după un val de provocări legale legate de sunetul generat de AI. Luna trecută, platforma de buletine informative Substack a colaborat cu firma de detectare Pangram pentru a semnala conținutul generat de AI, CEO-ul Substack, Chris Best, strigând public „Claudefishing”, termenul său pentru persoanele care folosesc AI pentru a inunda platformele cu materiale de calitate scăzută.
Presiunea se extinde cu mult dincolo de concurenții direcți ai Anthropic. Black Forest Labs, Google, Meta, Microsoft, OpenAI și Synthesia s-au angajat cu toții să adere la codul de transparență al UE, conform rapoartelor TechCrunch, semnalând că watermarking-ul devine rapid o așteptare de bază a industriei, mai degrabă decât un factor de diferențiere.
De ce proveniența este brusc urgentă
Impingerea pentru filigrane reflectă două anxietăți convergente. Primul este de reglementare: Actul UE AI este acum în vigoare, iar companiile care nu se conformează se confruntă cu perspectiva unor sancțiuni semnificative. Punerea în aplicare devreme a infrastructurii de proveniență este mai ieftină decât modernizarea acesteia sub presiunea aplicării legii.
Al doilea este reputația. Pe măsură ce textul, imaginile, sunetul și videoclipurile generate de inteligență artificială au inundat platformele sociale, editorii și platformele se confruntă cu o reacție crescândă din cauza „slopului AI”, conținut sintetic de calitate scăzută care îndepărtează munca umană și erodează încrederea. Filigranele invizibile oferă un răspuns tehnic la o întrebare pe care moderarea singură nu o poate rezolva: a fost scris de o mașină?
Pentru Anthropic, care și-a construit marca în jurul siguranței AI, adoptarea filigranelor este, de asemenea, o mișcare de credibilitate. O companie care se comercializează ca alternativă responsabilă are stimulente puternice să conducă la transparență, mai degrabă decât să fie văzută trăgând picioarele.
Întrebările mai grele rămân nerezolvate. Filigranele ajută doar dacă instrumentele de detectare le caută cu adevărat și dacă semnele se dovedesc suficient de robuste pentru a supraviețui editării, reformatării și spălării care au loc pe măsură ce conținutul se deplasează pe web deschis. Pariul lui Anthropic este că încorporarea semnalului la nivel de model este cea mai durabilă abordare. Dacă va rezista în practică, va fi testat rapid și public în lunile următoare.
Pentru acoperirea continuă a politicii AI și a instrumentelor care remodelează industrie, marcați Acoperirea știrilor AI Buzz Wire de ultimă oră.
