Anthropic rozpocznie nakładanie niewidocznych znaków wodnych na tekst generowany przez modele Claude, jak potwierdziła firma w tym tygodniu, stając się najnowszym dostawcą sztucznej inteligencji, który w odpowiedzi na nowe europejskie zasady przejrzystości doda sygnały pochodzenia odczytywalne maszynowo.
Zmiana, opisana szczegółowo na zaktualizowanej stronie pomocy, oznacza, że treści utworzone przez Claude'a będą opatrzone ukrytym podpisem, który ma przetrwać kopiowanie i wklejanie w innym miejscu. Jest to bezpośrednia odpowiedź na unijny Kodeks przejrzystości ustawy o sztucznej inteligencji, który wszedł w życie 2 sierpnia i nakłada na firmy zajmujące się sztuczną inteligencją obowiązek oznaczania wygenerowanych lub edytowanych treści w sposób możliwy do wykrycia przez inne systemy.
Jak działa znak wodny
Anthropic twierdzi, że wszystkie modele wypuszczone po 2 sierpnia będą automatycznie wyposażone w technologię znakowania wodnego zarówno w tekstach, jak i plikach generowanych komputerowo. W przypadku plików firma stosuje otwarty standard C2PA – platformę poświadczeń treści używaną już przez niektórych producentów aparatów fotograficznych oraz narzędzia do edycji obrazu w celu rejestrowania sposobu utworzenia pliku multimedialnego.
Tekstowy znak wodny jest osadzany na poziomie modelu, a nie nakładany po namyśle. Zgodnie z dokumentacją pomocniczą Anthropic „ponieważ znak wodny jest częścią tekstu, będzie przemieszczał się wraz z tekstem, gdy zostanie skopiowany i wklejony w innym miejscu, i może pozostać w trakcie edycji. Znak wodny zostanie zastosowany na poziomie modelu, co oznacza, że będzie obecny niezależnie od produktu Claude i powierzchni, z której pochodzi tekst”.
Firma dodała, że planuje rozszerzyć obsługę znaku wodnego również na starsze modele. Ta funkcja będzie obowiązywać w całej linii produktów Anthropic, w tym w interfejsie API platformy Claude, aplikacji do czatowania Claude, Claude Code, Claude Cowork i Claude Tag.
Nie jest do końca jasne, ile edycji musiałby dokonać użytkownik, aby usunąć ślad, a firma Anthropic nie podała publicznie szczegółów tej techniki. Tekstowe znakowanie wodne jest trudne technicznie, ponieważ niewielkie zmiany w brzmieniu mogą złamać delikatne wzorce statystyczne, co od dawna stanowi wyzwanie dla badaczy w tej dziedzinie.
Brak możliwości rezygnacji dla użytkowników
Warto zauważyć, że użytkownicy Claude nie będą mogli wyłączyć znaku wodnego. To ustawienie jest wymuszane przez sam model, a nie przełączane na żądanie, co oznacza, że każdy, kto generuje tekst za pomocą powierzchni Claude, zostanie oznaczony, czy tego chce, czy nie.
Takie stanowisko prawdopodobnie wywoła sprzeciw niektórych profesjonalnych użytkowników. Pisarze, programiści i firmy korzystające z narzędzia Claude do tworzenia projektów treści przyzwyczaili się do czystych, nieoznaczonych wyników i niektórzy mogą czuć się niekomfortowo, gdy ich tekst pojawia się w Internecie niewidocznym podpisem. Wydaje się, że firma Anthropic doszła do wniosku, że zgodność z przepisami przeważa nad tą preferencją.
Część szerszego zamieszania branżowego
Anthropic nie działa samotnie. Unijne wymogi dotyczące przejrzystości zapoczątkowały wyścig wśród sztucznej inteligencji i platform treści w zakresie dodawania sygnałów pochodzenia, zanim zapukają organy regulacyjne.
Nie dalej jak w zeszłym tygodniu platforma muzyczna AI, Suno, oznajmiła, że rozpocznie oznaczanie utworów utworzonych w jej serwisie po fali skarg prawnych dotyczących dźwięku generowanego przez sztuczną inteligencję. W zeszłym miesiącu platforma biuletynów Substack nawiązała współpracę z firmą wykrywającą Pangram, aby oznaczyć treści generowane przez sztuczną inteligencję, a dyrektor generalny Substack, Chris Best, publicznie nazwał „Claudefishing” – jego termin określający osoby używające sztucznej inteligencji do zalewania platform materiałami niskiej jakości.
Presja wykracza daleko poza bezpośrednich konkurentów Anthropic. Jak wynika z raportów TechCrunch, laboratoria Black Forest Labs, Google, Meta, Microsoft, OpenAI i Synthesia zobowiązały się do przestrzegania unijnego kodeksu przejrzystości, co sygnalizuje, że znak wodny szybko staje się podstawowym oczekiwaniem branży, a nie wyróżnikiem.
Dlaczego pochodzenie jest nagle pilne
Nacisk na znaki wodne odzwierciedla dwa zbiegające się niepokoje. Pierwszy ma charakter regulacyjny: unijna ustawa o sztucznej inteligencji już obowiązuje, a firmy, które nie zastosują się do jej przepisów, grożą wysokimi karami. Wczesne uruchomienie infrastruktury pochodzenia jest tańsze niż jej modernizacja pod presją egzekwowania prawa.
Drugie to reputacja. W miarę jak tekst, obrazy, dźwięk i wideo generowane przez sztuczną inteligencję zalewają platformy społecznościowe, wydawcy i platformy spotykają się z rosnącą reakcją na „niewykorzystanie sztucznej inteligencji” – syntetyczne treści niskiej jakości, które wypierają ludzką pracę i podważają zaufanie. Niewidoczne znaki wodne oferują techniczną odpowiedź na pytanie, którego sama moderacja nie jest w stanie rozwiązać: czy to zostało napisane przez maszynę?
Dla Anthropic, która zbudowała swoją markę wokół bezpieczeństwa sztucznej inteligencji, przyjęcie znaków wodnych to także krok w stronę wiarygodności. Firma, która reklamuje się jako odpowiedzialna alternatywa, ma silną motywację, aby kierować się przejrzystością, zamiast dać się ociągać.
Trudniejsze pytania pozostają nierozwiązane. Znaki wodne są pomocne tylko wtedy, gdy narzędzia do wykrywania faktycznie je wyszukują i jeśli okażą się wystarczająco solidne, aby przetrwać edycję, ponowne formatowanie i pranie, które ma miejsce w miarę przenoszenia treści w otwartej sieci. Anthropic zakłada, że osadzenie sygnału na poziomie modelu jest najtrwalszym podejściem. To, czy sprawdzi się w praktyce, zostanie szybko i publicznie przetestowane w nadchodzących miesiącach.
Aby na bieżąco omawiać politykę dotyczącą sztucznej inteligencji i narzędzia zmieniające kształt branży, kliknij zakładkę najświeższe wiadomości AI Buzz Wire dotyczące AI.
