Pangram, firma zajmująca się wykrywaniem sztucznej inteligencji, najbardziej znana z oznaczania tekstu generowanego maszynowo, oficjalnie wprowadziła na rynek Pangram Image 1.0 i Pangram Image Flash 1.0 – dwa modele, które według firmy wyznaczają nowy stan techniki w wykrywaniu obrazów i filmów generowanych przez sztuczną inteligencję i edytowanych przez nią. Ogłoszenie, opublikowane 4 listopada na blogu Pangram i odebrane przez Engadget, Unite.AI i Yahoo Tech, przekształca zapowiedź badania opublikowaną przez firmę kilka miesięcy temu w ogólnodostępny produkt ze wsparciem API.

Premiera następuje w czasie, gdy media syntetyczne stają się naprawdę trudne do odróżnienia od autentycznych treści, zarówno dla zwykłych osób przewijających, jak i dla systemów moderacji, na których opierają się platformy. Pangram zakłada, że ​​dedykowane modele wykrywania, wyszkolone specjalnie pod kątem wyjść współczesnych generatorów granicznych, będą w stanie przywrócić część utraconego sygnału.

Wykrywanie obrazu granicznego z dokładnością 99,96%.

Flagowy model Pangram Image 1.0 został oceniony na podstawie wzorca, który sama zbudowała firma: 100 prawdziwych zdjęć, z których każda została odzwierciedlona w syntetycznych wersjach wyprodukowanych przez 12 pionierskich generatorów obrazów AI przy użyciu podpowiedzi ściśle dopasowanych do oryginalnego zdjęcia, co daje w sumie 1200 syntetycznych obrazów. W przypadku tego zestawu ewaluacyjnego Pangram podaje dokładność na poziomie 99,96% — wartość, która, jeśli potwierdzi się w niezależnej analizie, postawiłaby model znacznie przed detektorami komercyjnymi i akademickimi, z którymi firma go porównała.

Poza prostą oceną, czy jest ona prawdziwa czy fałszywa, model generuje mapy cieplne, które dokładnie lokalizują miejsca, w których na obrazie pojawia się zawartość AI. Ma to znaczenie w przypadku coraz bardziej powszechnego środka pomiędzy w pełni syntetycznymi obrazami a nietkniętymi fotografiami: obrazy marketingowe z tłem wygenerowanym przez sztuczną inteligencję, zdjęcia retuszowane za pomocą narzędzi generatywnych lub kompozyty łączące rzeczywiste obiekty z wygenerowanymi elementami.

Pangram twierdzi również, że nowy model jest odporny na rodzaje transformacji, które niezawodnie pokonują naiwne detektory – kompresję w mediach społecznościowych, celowe rozmycie i szum oraz niską rozdzielczość przesyłania. Firma twierdzi, że poprzednia wersja badawcza wymagała obrazów o rozdzielczości co najmniej 512 x 512 pikseli, podczas gdy Obraz 1.0 akceptuje obrazy o rozdzielczości do 256 x 256, z zastrzeżeniem dotyczącym obniżonej pewności wyświetlanym poniżej starego progu.

Wykrywanie wideo i 29-punktowy skok w DF26

Model towarzyszący, Pangram Image Flash 1.0, jest przeznaczony do wideo i to tutaj twierdzenia firmy są najbardziej uderzające. Pangram cytuje niedawne badanie akademickie DF26, które wykazało, że ludzie są niewiele lepsi od przypadkowych osób w odróżnianiu prawdziwych filmów przedstawiających osoby rozmawiające od filmów wygenerowanych przez sztuczną inteligencję oraz że istniejące automatyczne detektory nie są dużo lepsze. W tym samym teście porównawczym DF26 Pangram odnotował wynik 98,7%, który opisuje jako 29-punktowy przeskok w stosunku do kolejnego najlepszego detektora.

Aby porównać je z rynkiem komercyjnym, a nie środowiskiem akademickim, Pangram skonstruował trudny zestaw porównawczy na podstawie 129 prawdziwych filmów z mediów społecznościowych, generując syntetyczne lustrzane kopie każdego z nich przy użyciu 14 różnych pionierskich generatorów wideo — 100 filmów na generator, zaszczepionych pierwszą rzeczywistą klatką każdego źródłowego filmu wideo i opartych na wygenerowanych opisach akcji. W powstałych 1529 filmach firma porównała Flash 1.0 z wieloma głównymi usługami wykrywania wideo AI. Metodologia lustrzana ma na celu wyeliminowanie stronniczości związanej z treścią: każdy prawdziwy film i jego syntetyczny bliźniak mają tę samą scenę i temat, więc detektor nie może oszukać testu, dowiadując się, które tematy lub estetyka korelują z treścią sztucznej inteligencji.

Model Flash przeprowadza również analizę klatka po klatce, co pozwala oznaczyć segmenty edytowane przez sztuczną inteligencję w skądinąd autentycznym materiale — jest to funkcja mająca na celu rozwiązanie rosnącego problemu częściowo zmanipulowanych filmów, a nie w pełni syntetycznych klipów.

Od wykrywania tekstu do stosu w pełni syntetycznych mediów

Pangram zbudował swoją reputację na wykrywaniu tekstu przez sztuczną inteligencję, gdzie jego klasyfikatory są szeroko stosowane w edukacji i publikacjach, a relacja Yahoo Tech z premiery określiła firmę jako złoty standard w tej kategorii. Rozszerzenie na obrazy i wideo jest naturalną ekspansją i pozycjonuje Pangram jako punkt kompleksowej obsługi dla platform, newsroomów i przedsiębiorstw próbujących nadzorować media syntetyczne w różnych formatach.

Nowe modele są wyposażone w obsługę API do wykrywania obrazów i wideo oraz rozszerzenie do przeglądarki Chrome, które wykrywa obrazy i filmy podczas przewijania kanałów przez użytkowników, co przenosi wykrywanie z narzędzia do moderacji działającego na zapleczu do czegoś bliższego ochronie klasy konsumenckiej. Pangram twierdzi, że porównał także modele z akademickimi zbiorami danych, w tym X-AIGD, Mirage-Test, AIGenImages2026, Synthbuster w połączeniu z RAISE i Community Forensics.

Wyścig zbrojeń w zakresie wykrywania trwa

Jedno zastrzeżenie zasługuje na podkreślenie: każda liczba w ogłoszeniu Pangram pochodzi z własnych ocen Pangram, przeprowadzonych na podstawie własnych, lustrzanych testów porównawczych. Niezależna weryfikacja to sposób, w jaki narzędzia do wykrywania ostatecznie zdobywają zaufanie, a historia wykrywania sztucznej inteligencji jest pełna narzędzi, których dokładność załamała się w porównaniu z generatorami, których nigdy nie widziały. Sam Pangram przyznał się do tego w swoim poście, dziękując społeczności za wypróbowanie podglądu badania i znalezienie jego słabych stron.

Mimo to wprowadzenie na rynek jest znaczącym wskaźnikiem postępu w technologii wykrywania w odpowiedzi na szybki rozwój generatywnego wideo. Jeśli raportowany wynik DF26 przetrwa testy przeprowadzane przez strony trzecie, różnica między tym, co ludzie mogą dostrzec, a tym, co mogą zweryfikować maszyny, tylko się powiększy – na to właśnie rynek stawia Pangram.

Dla platform i wydawców praktycznym wnioskiem jest to, że wykrywanie o wysokiej dokładności w niskich rozdzielczościach, w tym analiza wideo na poziomie klatki, staje się dostępne jako standardowe API. Następna faza problemu mediów syntetycznych może nie tyle zależeć od tego, czy możliwe jest wykrycie, ile od tego, kto go wdraża i na której warstwie sieci internetowej.

Wyprzedź sztuczną inteligencję

Media syntetyczne, narzędzia do wykrywania i platformy, które je wykorzystują, to ruchome cele — bądź na bieżąco z nimi wszystkimi.

Przeczytaj więcej aktualności o sztucznej inteligencji →