Pe măsură ce media generată de inteligență artificială inundă internetul, tehnologia de filigranare SynthID de la Google a apărut ca unul dintre cele mai proeminente instrumente pentru a distinge conținutul autentic de imaginile sintetice. Un nou test riguros de stres confirmă că filigranul invizibil este remarcabil de durabil, supraviețuind sutelor de runde de compresie, redimensionare și chiar capturi de ecran, dar rezultatele subliniază, de asemenea, un adevăr mai dur: etichetele tehnice singure nu vor rezolva criza tot mai mare a dezinformarii AI. Pentru raportarea în curs de desfășurare cu privire la cele mai recente evoluții AI, constatările marchează un punct de control important în dezbaterea conținutului-proveniență.

Amploarea problemei este greu de supraestimat. Starling Lab, o colaborare de cercetare între Universitatea Stanford și Universitatea din California de Sud, estimează că a durat până în 1975, la 149 de ani de la inventarea camerei, omenirea să producă 1,5 miliarde de imagini. Inteligența artificială generativă a egalat această producție în doar 18 luni. La conferința I/O din acest an, Google a anunțat că numai instrumentele sale au fost folosite pentru a crea peste 100 de miliarde de imagini și videoclipuri AI în câțiva ani.

Cum funcționează SynthID

În prezent, există două abordări principale pentru etichetarea conținutului generat de AI: filigrane invizibile precum SynthID și scheme de metadate, cum ar fi standardul Coalition for Content Provenance and Authenticity (C2PA). Google le folosește pe ambele. C2PA este sigur din punct de vedere criptografic și nu poate fi falsificat, dar este trivial de ușor de îndepărtat. Simpla editare și salvare a unei imagini sau realizarea unei capturi de ecran poate elimina complet metadatele C2PA.

SynthID adoptă o abordare diferită. În loc să se bazeze pe metadate care se află alături de un fișier, filigranul este codificat direct în pixelii unei imagini sau ai unui videoclip sau în forma de undă a unui clip audio. Deoarece semnalul este țesut în conținutul în sine, Google a susținut că ar trebui să supraviețuiască transformărilor, compresiei, decupării și recodării care se întâmplă în mod natural pe măsură ce media este transmisă pe internet.

Un test de stres pentru semnalul la nivel de pixel

Ars Technica a pus aceste afirmații la încercare folosind un script Python construit pe biblioteca de imagini Pillow. Scriptul a simulat pierderea de date din partajarea și descărcarea repetată la o rată foarte accelerată, aplicând compresie aleatorie și valori de redimensionare unei imagini de testare și reintroducând fiecare rezultat ca bază pentru următoarea iterație. Două imagini generate de AI de la modelul Google Nano Banana Pro, una creată în întregime de la zero și o fotografie originală editată de AI, au servit drept subiecte de testare.

După 300 de generații de partajare simulată, timp în care originalele clare au fost degradate în bloburi abia de recunoscut, filigranul SynthID a fost încă înregistrat pe ambele imagini. Filigranul a supraviețuit chiar și capturilor de ecran complete, deoarece pixelii de marcare speciali se transferă în noul fișier. La fiecare 50 de generații, testerul a produs și versiuni decupate pentru a slăbi și mai mult detectarea.

Unde SynthID se rupe în sfârșit

Limitele tehnologiei au apărut doar în condiții extreme. După 300 de cicluri de compresie, eliminarea unui pumn de pixeli de la marginea imaginilor de test degradate a spart în cele din urmă SynthID atât pe imaginile complet generate, cât și pe cele editate prin AI. Deoarece semnalul filigranului este distribuit pe toți pixelii, acesta rezistă tăierii ocazionale, dar odată ce se acumulează suficientă degradare, detectorul poate fi înfrânt.

Omul de știință Google DeepMind, Pushmeet Kohli, i-a spus lui Ars că echipa a proiectat sistemul așteptându-se să fie atacat. „De-a lungul întregului proces de dezvoltare, am presupus că o tehnologie ca aceasta va fi atacată”, a spus Kohli. „Așa că am făcut o mulțime de cercetări pentru a face SynthID robust pentru diferite tipuri de transformări. Indiferent dacă oamenii adaugă un fel de filtru sau decupează imaginea, am folosit aceste transformări și ne-am asigurat că detectorul este robust împotriva lor”.

Filigranele se extind în întreaga industrie

Testul vine pe măsură ce adoptarea SynthID se extinde dincolo de propriile produse Google. Compania a încheiat parteneriate pentru a extinde utilizarea filigranului, OpenAI, Runway și Nvidia printre cei care au început să integreze tehnologia în instrumentele lor generative. Google a fost reticent în a publica multe detalii tehnice dincolo de lucrarea de cercetare originală, motiv pentru care testele independente de tipul pe care le-a efectuat Ars contează, deoarece filigranul proliferează în peisajul AI.

Numai etichetele nu sunt suficiente

Tensiunea centrală pe care o expune experimentul este că chiar și un filigran robust este la fel de util ca și dorința platformelor și a oamenilor de a-l verifica. Detectarea SynthID nu este încă integrată pe scară largă în rețelele sociale și aplicațiile de mesagerie în care se răspândesc de fapt majoritatea media manipulate. Un filigran care supraviețuiește la 300 de cicluri de compresie oferă puțină protecție dacă nimeni de la capătul receptor nu îl scanează.

Rezultatele durabilității sunt cu adevărat încurajatoare pentru domeniul autenticității conținutului. Ei sugerează că filigranul invizibil, la nivel de pixel, poate servi ca o bază tehnică de încredere pentru proveniență. Dar întrebarea mai largă, dacă societatea poate construi normele, infrastructura și stimulentele pentru a acționa efectiv pe acele semnale, rămâne nerezolvată. Pe măsură ce volumul mass-media sintetice continuă să treacă peste pragul de 100 de miliarde de imagini, decalajul dintre ceea ce poate marca tehnologia și ceea ce platformele vor modera devine provocarea definitorie.

Rămâi înaintea AI

Rămâneți la curent cu știrile de ultimă oră AI care modelează politica, cercetările și platformele care remodelează internetul.

Citiți mai multe știri AI