Het SynthID-watermerk van Google overleeft de brute stresstest, maar kan desinformatie over AI niet oplossen

Terwijl door AI gegenereerde media het internet overspoelen, is de SynthID-watermerktechnologie van Google uitgegroeid tot een van de meest prominente hulpmiddelen om authentieke inhoud van synthetische beelden te onderscheiden. Een rigoureuze nieuwe stresstest bevestigt dat het onzichtbare watermerk opmerkelijk duurzaam is en honderden compressierondes, formaatwijzigingen en zelfs screenshots overleeft, maar de resultaten onderstrepen ook een hardere waarheid: het is onwaarschijnlijk dat technische labels alleen de groeiende crisis van AI-desinformatie kunnen oplossen. Voor voortdurende berichtgeving over de [laatste AI-ontwikkelingen] (https://aibuzzwire.news) markeren de bevindingen een belangrijk ijkpunt in het debat over de herkomst van de inhoud.

De omvang van het probleem is moeilijk te overschatten. Starling Lab, een onderzoekssamenwerking tussen Stanford University en de University of Southern California, schat dat het tot 1975, 149 jaar na de uitvinding van de camera, duurde voordat de mensheid 1,5 miljard beelden produceerde. Generatieve AI evenaarde die output in slechts 18 maanden. Op zijn I/O-conferentie dit jaar maakte Google bekend dat alleen al zijn tools zijn gebruikt om in een paar jaar tijd meer dan 100 miljard AI-afbeeldingen en -video's te maken.

Hoe SynthID werkt

Er zijn momenteel twee belangrijke benaderingen voor het labelen van door AI gegenereerde inhoud: onzichtbare watermerken zoals SynthID en metadataschema's zoals de Coalition for Content Provenance and Authenticity (C2PA) standaard. Google gebruikt beide. C2PA is cryptografisch veilig en kan niet worden nagemaakt, maar is wel heel eenvoudig te verwijderen. Door simpelweg een afbeelding te bewerken en op te slaan, of een screenshot te maken, kunnen C2PA-metagegevens volledig worden verwijderd.

SynthID hanteert een andere aanpak. In plaats van te vertrouwen op metadata die naast een bestand staan, wordt het watermerk rechtstreeks gecodeerd in de pixels van een afbeelding of video, of in de golfvorm van een audiofragment. Omdat het signaal in de inhoud zelf is verweven, heeft Google betoogd dat het de transformaties, compressie, bijsnijden en hercodering moet overleven die op natuurlijke wijze plaatsvinden wanneer media op internet worden verspreid.

Een stresstest voor het signaal op pixelniveau

Ars Technica heeft deze beweringen op de proef gesteld met behulp van een Python-script dat is gebouwd op de Pillow-beeldbibliotheek. Het script simuleerde gegevensverlies door herhaaldelijk delen en downloaden met een enorm versnelde snelheid, waarbij gerandomiseerde compressie en het wijzigen van de grootte van waarden op een testimage werden toegepast en elke uitvoer werd teruggevoerd als basis voor de volgende iteratie. Twee door AI gegenereerde afbeeldingen van het Nano Banana Pro-model van Google, één volledig opnieuw gemaakt en één originele foto bewerkt door AI, dienden als proefpersonen.

Na 300 generaties gesimuleerd delen, waarbij de scherpe originelen werden gedegradeerd tot nauwelijks herkenbare klodders, bleef het SynthID-watermerk op beide afbeeldingen geregistreerd. Het watermerk overleefde zelfs volledige schermafbeeldingen, omdat de speciale markeringspixels werden overgebracht naar het nieuwe bestand. Elke 50 generaties produceerde de tester ook bijgesneden versies om de detectie verder te verzwakken.

Waar SynthID eindelijk kapot gaat

De grenzen van de technologie kwamen pas onder extreme omstandigheden naar boven. Na 300 compressiecycli brak het verwijderen van een handvol pixels uit de rand van de gedegradeerde testafbeeldingen uiteindelijk SynthID op zowel de volledig gegenereerde als de AI-bewerkte afbeeldingen. Omdat het watermerksignaal over de pixels wordt verdeeld, is het bestand tegen toevallige bijsnijdingen, maar zodra er voldoende degradatie is opgebouwd, kan de detector worden verslagen.

Google DeepMind-wetenschapper Pushmeet Kohli vertelde Ars dat het team het systeem had ontworpen in de verwachting dat het zou worden aangevallen. "Tijdens het hele ontwikkelingsproces zijn we er min of meer van uitgegaan dat een technologie als deze zal worden aangevallen", zegt Kohli. "We hebben dus veel onderzoek gedaan om SynthID robuust te maken voor verschillende soorten transformaties. Of mensen nu een soort filter toevoegen of de afbeelding bijsnijden, we hebben deze transformaties gebruikt en ervoor gezorgd dat de detector er robuust tegen was."

Watermerken breiden zich uit over de hele sector

De test komt op het moment dat de adoptie van SynthID zich uitbreidt tot buiten de eigen producten van Google. Het bedrijf is partnerschappen aangegaan om het gebruik van het watermerk uit te breiden, waarbij OpenAI, Runway en Nvidia onder meer de technologie in hun generatieve tools beginnen te integreren. Google is terughoudend om veel technische details vrij te geven die verder gaan dan het oorspronkelijke onderzoeksrapport. Daarom zijn onafhankelijke tests van het soort dat Ars uitvoerde van belang nu het watermerk zich in het AI-landschap verspreidt.

Labels alleen zijn niet genoeg

De centrale spanning die het experiment blootlegt, is dat zelfs een robuust watermerk slechts zo nuttig is als de bereidheid van platforms en mensen om erop te controleren. SynthID-detectie is nog niet breed ingebouwd in de sociale netwerken en berichtenapps waar de meeste gemanipuleerde media zich daadwerkelijk verspreiden. Een watermerk dat 300 compressiecycli overleeft, biedt weinig bescherming als niemand aan de ontvangende kant ernaar zoekt.

De duurzaamheidsresultaten zijn werkelijk bemoedigend voor het gebied van inhoudauthenticiteit. Ze suggereren dat onzichtbare watermerken op pixelniveau kunnen dienen als een betrouwbare technische ruggengraat voor de herkomst. Maar de bredere vraag, of de samenleving de normen, infrastructuur en prikkels kan opbouwen om daadwerkelijk op deze signalen te reageren, blijft onopgelost. Terwijl het volume aan synthetische media de mijlpaal van 100 miljard afbeeldingen blijft overschrijden, wordt de kloof tussen wat de technologie kan markeren en welke platforms zullen modereren de bepalende uitdaging.

Blijf AI een stap voor

Blijf op de hoogte van het breaking AI news dat vormgeeft aan beleid, onderzoek en de platforms die het internet opnieuw vormgeven.

Lees meer AI-nieuws