Kilka dni po tym, jak firma Anthropic zaczęła umieszczać niewidoczne znaki wodne na wynikach tekstowych i obrazach Claude'a, funkcja ta wywołuje dokładnie takie tarcia, jakie przewidywali krytycy: użytkownicy obawiali się, że znaki narażą ich na używanie sztucznej inteligencji w pracy lub na zajęciach, programiści dokumentujący, jak znak wodny zachowuje się w rzeczywistych procesach kodowania, a także mały, ale widoczny rynek narzędzi obiecujących jego usunięcie.

Anthropic twierdzi, że ta zmiana dostosowuje Claude do unijnej ustawy o sztucznej inteligencji, której zasady przejrzystości zaczęły obowiązywać w przypadku nowych modeli po 2 sierpnia 2026 r. Artykuł 50 tej ustawy wymaga od dostawców systemów sztucznej inteligencji, aby dane wyjściowe generowane maszynowo były „wykrywalne jako wygenerowane sztucznie”. Firma Anthropic potwierdziła, że ​​wszystkie nowe modele oferowane na całym świecie – nie tylko w UE – będą oznaczać treści generowane przez sztuczną inteligencję „od pierwszego dnia” z okresem karencji do grudnia 2026 r. na aktualizację wcześniej wydanych modeli. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.

Same znaki są niewidoczne. Jak wynika z artykułu wsparcia Anthropic, dane wyjściowe tekstowe „noszą osadzone znaki wodne”, podczas gdy wygenerowane pliki zawierają podpisane cyfrowo metadane pochodzenia, jeśli format je obsługuje. Wcześniejsze modele Claude zostaną zaktualizowane, aby oznaczać również tekst, co oznacza, że ​​cała flota ostatecznie będzie stemplować swoje wydruki.

Znak wodny obejmuje edytowany tekst, a nie tylko tekst wygenerowany

Szczegół, który zamienił ciekawość techniczną w sprzeciw, został ujawniony przez Ars Technica 13 sierpnia: znak wodny dotyczy treści przetwarzanych przez Claude'a, a nie tylko treści generowanych przez niego od zera. Ars scharakteryzował to podejście jako „wystrzelenie go z orbity”, ponieważ Anthropic oznacza całą przetworzoną treść, jeśli jest obsługiwana, mimo że własne wytyczne UE tego nie wymagają, gdy system sztucznej inteligencji pełni „funkcję pomocniczą przy standardowym edytowaniu” – przykładem rozporządzenia jest korekta gramatyczna – lub gdy nie „zmienia w istotny sposób” tekstu użytkownika.

To rozróżnienie ma znaczenie, ponieważ znak wodny zastosowany na poziomie modelu nie odróżnia generacji hurtowej od znaku przecinka. Ashley Belanger z Ars Technica zauważyła, że ​​Claude może skończyć się stemplowaniem dokładnie tego rodzaju lekko poprawionego ludzkiego pisma, które prawo miało zostawić w spokoju. W praktyce znak oznacza wszystko, co Claude przetworzył – nawet dokument, który napisał człowiek i który poprosił Claude’a jedynie o dopracowanie.

Użytkownicy boją się, że zostaną przyłapani w pracy lub szkole

Reakcja użytkowników była szybka. 13 sierpnia serwis TechCrunch poinformował, że niektórzy użytkownicy Claude „są wściekli, że nowe znaki wodne Anthropic przyłapią ich na używaniu go w pracy i na zajęciach”. Pracownicy, którzy po cichu korzystają z pomocy Claude’a przy sporządzaniu e-maili, raportów lub prezentacji slajdów – a także uczniowie, którzy korzystają z niego podczas wykonywania zadań – stają teraz w obliczu możliwości, że szef lub instruktor mógłby zweryfikować zaangażowanie sztucznej inteligencji za pomocą narzędzia do wykrywania.

Ars Technica określił tę dynamikę jako „szkarłatną literę” – niewidzialną oznakę wykorzystania sztucznej inteligencji, której czytelnik nie może zobaczyć, ale wkrótce mogą to zobaczyć instytucje. Ponieważ znak wodny przemieszcza się wraz z tekstem poprzez kopiowanie i wklejanie oraz zmiany formatu, zwykła obrona typu „tylko trochę to edytowałem” nie pozostawia już odcisków palców sztucznej inteligencji.

Rynek przeprowadzek już się pojawia

Tam, gdzie znajduje się znak wodny, następuje branża usuwania. SC Media poinformowało, że rynek narzędzi do usuwania znaków wodnych AI pojawia się już kilka dni po aktualizacji Claude. Odszyfruj udokumentowane, że konstruktorzy aktywnie próbują złamać schemat oznaczania, sprawdzając, jak zachowuje się on podczas parafrazowania, tłumaczenia i ponownego formatowania.

Wczesne testy sugerują, że znak wodny jest odporny na przypadkowe obchodzenie się z nim, ale jest nieszczelny w profesjonalnych warunkach. Z relacji New Stack wynika, że ​​znak „wytrzymuje kopiowanie i wklejanie, ale nie rzeczywisty przepływ pracy programistów” – co oznacza, że ​​twórcy oprogramowania, którzy w znacznym stopniu przerabiają kod sugerowany przez sztuczną inteligencję w ramach normalnej inżynierii, mogą zatrzeć znak, nawet tego nie planując.

Jak właściwie działa znak

Szeroko rozpowszechnione wizualne wyjaśnienie opublikowane na declaude.org omawia ten mechanizm. Tekst nie zawiera pikseli, w których można by ukryć dane, ani metadanych, które nie przetrwają kopiowania i wklejania, więc znak wodny istnieje w „wyborze między słowami”. Jak pisze model, wielokrotnie wybiera spośród kilku równie prawdopodobnych kolejnych słów; tajny klucz kryptograficzny po cichu kieruje te wybory w stronę wzorca, który może wykryć tylko posiadacz klucza.

Technika ta wywodzi się z badań Kirchenbauera i in. z 2023 r., w którym podzielono słowa kandydujące na listy „zielone” i „czerwone” i skierowano generację w stronę zielonych tokenów. SynthID firmy Google dociera do podobnego celu subtelniejszą drogą, a od 2024 r. Google umieszcza znak wodny w tekstach w aplikacji Gemini i w internecie — jego interfejs API stanowi udokumentowany wyjątek. Od sierpnia 2026 r. nowe modele Claude oznaczają tekst na poziomie modelu, a wcześniejsze modele zostaną wprowadzone w życie.

Sceptycy twierdzą, że usunięcie pozostaje trywialne

Nie wszyscy są przekonani, że wyścig zbrojeń sprzyja firmie Anthropic. W szeroko rozpowszechnionym eseju inżynier Sean Goedecke argumentował, że tekstowe znaki wodne „zawsze będą łatwe do usunięcia”, ponieważ tekst jest niezwykle skompresowanym nośnikiem — każda zmiana wystarczająco silna, aby przetrwać zdecydowane usunięcie, jest zmianą, którą zauważy ludzki czytelnik. Narzędzia do parafrazowania, powtarzające się tłumaczenia i celowe przeredagowywanie grożą wymazaniem wzorców statystycznych bez pogorszenia znaczenia.

Debata toczy się w społecznościach programistów: dwaj oddzielni objaśniacze znaków wodnych są jednymi z najczęściej omawianych w tym tygodniu artykułów w Hacker News i przyciągają między sobą setki punktów wspólnych.

Co stanie się dalej

Firma Anthropic oświadczyła, że ostatecznie udostępni szczegółowe informacje na temat sposobu wykrywania znaków – wsparcia technicznego wymaganego przez rozporządzenie UE – ale dopóki nie zostanie udostępnione publiczne narzędzie do wykrywania, strony zewnętrzne nie będą w stanie zweryfikować, jak dokładne jest oznakowanie. Firma przyznała również, że znaki wodne nie będą działać na „niektórych platformach lub funkcjach”, które ich nie obsługują.

Ponieważ starszym modelom grozi termin zgodności z przepisami wyznaczony na grudzień 2026 r., a konkurencyjne laboratoria obserwują, czy użytkownicy ukarają Anthropic za przejrzystość, w ciągu najbliższych kilku miesięcy przetestuje propozycję, której branża unikała od lat: czy dostawcy sztucznej inteligencji mogą zapewnić identyfikowalność swoich wyników bez narażania ich na toksyczność dla osób, które na nich polegają.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →