W miarę zalewania Internetu przez media generowane przez sztuczną inteligencję technologia znaków wodnych SynthID firmy Google stała się jednym z najważniejszych narzędzi umożliwiających odróżnienie autentycznych treści od syntetycznych obrazów. Nowy, rygorystyczny test warunków skrajnych potwierdza, że ​​niewidzialny znak wodny jest niezwykle trwały i wytrzymuje setki rund kompresji, zmiany rozmiaru, a nawet zrzutów ekranu, ale wyniki podkreślają również trudniejszą prawdę: samo etykiety techniczne raczej nie rozwiążą narastającego kryzysu dezinformacji AI. Jeśli chodzi o bieżące raportowanie na temat najnowszych osiągnięć w zakresie sztucznej inteligencji, ustalenia te stanowią ważny punkt kontrolny w debacie na temat pochodzenia treści.

Skalę problemu trudno przecenić. Starling Lab, partnerstwo badawcze pomiędzy Uniwersytetem Stanforda i Uniwersytetem Południowej Kalifornii, szacuje, że ludzkość potrzebowała aż do 1975 roku, 149 lat po wynalezieniu aparatu, aby wykonać 1,5 miliarda zdjęć. Generatywna sztuczna inteligencja osiągnęła ten wynik w zaledwie 18 miesięcy. Na tegorocznej konferencji I/O Google ogłosił, że w ciągu kilku lat same jego narzędzia zostały wykorzystane do stworzenia ponad 100 miliardów obrazów i filmów opartych na sztucznej inteligencji.

Jak działa SynthID

Obecnie istnieją dwa główne podejścia do etykietowania treści generowanych przez sztuczną inteligencję: niewidoczne znaki wodne, takie jak SynthID, oraz schematy metadanych, takie jak standard Coalition for Content Provenance and Authenticity (C2PA). Google używa obu. C2PA jest kryptograficznie bezpieczny i nie można go sfałszować, ale banalnie łatwo go usunąć. Zwykła edycja i zapisanie obrazu lub zrobienie zrzutu ekranu może całkowicie usunąć metadane C2PA.

SynthID przyjmuje inne podejście. Zamiast polegać na metadanych znajdujących się obok pliku, znak wodny jest kodowany bezpośrednio w pikselach obrazu lub wideo lub w kształcie fali klipu audio. Google twierdzi, że ponieważ sygnał jest wpleciony w samą treść, powinien on przetrwać przekształcenia, kompresję, kadrowanie i ponowne kodowanie, które zachodzą naturalnie w miarę przesyłania multimediów w Internecie.

Test obciążenia dla sygnału na poziomie pikseli

Ars Technica przetestowała te twierdzenia, używając skryptu Pythona zbudowanego na bibliotece obrazowania Pillow. Skrypt symulował utratę danych w wyniku wielokrotnego udostępniania i pobierania ze znacznie większą szybkością, stosując losową kompresję i wartości zmiany rozmiaru do obrazu testowego i przekazując każdy wynik z powrotem jako podstawę do następnej iteracji. Jako obiekty testowe posłużyły dwa obrazy wygenerowane przez sztuczną inteligencję z modelu Google Nano Banana Pro, jedno stworzone całkowicie od podstaw i jedno oryginalne zdjęcie edytowane przez sztuczną inteligencję.

Po 300 pokoleniach symulowanego udostępniania, podczas których wyraźne oryginały zostały zamienione w ledwo rozpoznawalne plamy, znak wodny SynthID nadal był zarejestrowany na obu obrazach. Znak wodny przetrwał nawet pełne zrzuty ekranu, ponieważ specjalne piksele znacznika przenoszą się do nowego pliku. Co 50 pokoleń tester tworzył także przycięte wersje, aby jeszcze bardziej osłabić wykrywanie.

Gdzie SynthID wreszcie się psuje

Ograniczenia technologii pojawiły się dopiero w ekstremalnych warunkach. Po 300 cyklach kompresji usunięcie kilku pikseli z krawędzi zdegradowanych obrazów testowych ostatecznie złamało SynthID zarówno na obrazach w pełni wygenerowanych, jak i edytowanych przez sztuczną inteligencję. Ponieważ sygnał znaku wodnego jest rozprowadzany w pikselach, jest on odporny na przypadkowe przycięcie, ale gdy dojdzie do wystarczającej degradacji, detektor może zostać pokonany.

Naukowiec z Google DeepMind, Pushmeet Kohli, powiedział Arsowi, że zespół zaprojektował system, spodziewając się, że zostanie zaatakowany. „W całym procesie rozwoju zakładaliśmy, że taka technologia zostanie zaatakowana” – powiedział Kohli. „Dlatego przeprowadziliśmy wiele badań, aby uczynić SynthID odpornym na różne rodzaje transformacji. Niezależnie od tego, czy ludzie dodają jakiś filtr, czy przycinają obraz, wykorzystaliśmy te transformacje i upewniliśmy się, że detektor jest na nie odporny”.

Znaki wodne rozszerzają się w całej branży

Test pojawia się w momencie, gdy zastosowanie SynthID wykracza poza produkty Google. Firma nawiązała współpracę w celu rozszerzenia wykorzystania znaku wodnego, a wśród tych, które zaczynają integrować tę technologię ze swoimi narzędziami generatywnymi, są OpenAI, Runway i Nvidia. Firma Google niechętnie ujawniała wiele szczegółów technicznych wykraczających poza oryginalny artykuł badawczy, dlatego też niezależne testy, takie jak przeprowadzane przez firmę Ars, mają znaczenie w miarę rozprzestrzeniania się znaku wodnego w środowisku sztucznej inteligencji.

Same etykiety nie wystarczą

Eksperyment ujawnia główne napięcie polegające na tym, że nawet solidny znak wodny jest tak użyteczny, jak chęć platform i ludzi do jego sprawdzenia. Wykrywanie SynthID nie jest jeszcze powszechnie wbudowane w sieci społecznościowe i aplikacje do przesyłania wiadomości, w których faktycznie rozprzestrzenia się większość zmanipulowanych mediów. Znak wodny, który przetrwa 300 cykli kompresji, zapewnia niewielką ochronę, jeśli nikt po stronie odbiorcy go nie skanuje.

Wyniki trwałości są naprawdę zachęcające w dziedzinie autentyczności treści. Sugerują, że niewidoczny znak wodny na poziomie pikseli może służyć jako niezawodny szkielet techniczny określający pochodzenie. Jednak szersze pytanie, czy społeczeństwo może zbudować normy, infrastrukturę i zachęty, aby faktycznie działać w oparciu o te sygnały, pozostaje nierozwiązane. W miarę jak ilość mediów syntetycznych w dalszym ciągu przekracza próg 100 miliardów obrazów, rozbieżność między tym, co może oznaczać technologia, a tym, co platformy będą moderować, staje się decydującym wyzwaniem.

Wyprzedź sztuczną inteligencję

Bądź na bieżąco z najświeższymi wiadomościami o sztucznej inteligencji kształtującymi politykę, badania i platformy zmieniające kształt internetu.

Przeczytaj więcej aktualności na temat sztucznej inteligencji