Jak wynika z analizy Reuters opublikowanej 10 lipca 2026 r., system wykrywania obrazów oparty na sztucznej inteligencji firmy Meta nie wykrywa ponad połowy własnych obrazów wygenerowanych przez sztuczną inteligencję, gdy są one poddawane podstawowemu kadrowaniu. Odkrycia te ujawniają znaczną lukę w narzędziach do uwierzytelniania treści opartych na sztucznej inteligencji w czasach, gdy rozprzestrzenianie się mediów syntetycznych gwałtownie przyspiesza. Aby uzyskać szczegółowe informacje na temat technologii sztucznej inteligencji i jej wpływu społecznego, odwiedź AI Buzz Wire.

Reuters testuje detektor Meta

Reuters przeprowadził systematyczną ocenę narzędzia Meta do wykrywania obrazów AI, które zostało zaprojektowane w celu identyfikacji obrazów generowanych przez sztuczną inteligencję. Wyniki były otrzeźwiające: po przycięciu obrazów wygenerowanych przez sztuczną inteligencję – modyfikacja, która nie wymaga specjalistycznej wiedzy technicznej i można ją przeprowadzić w dowolnej podstawowej aplikacji do edycji zdjęć – detektor nie oznaczył około 55% z nich jako syntetycznych.

Analiza skupiła się szczególnie na obrazach wygenerowanych przez własne narzędzia Meta do generowania obrazów AI, co sprawiło, że wskaźnik awaryjności był szczególnie zauważalny. Jeśli system wykrywania firmy nie jest w stanie wiarygodnie zidentyfikować treści generowanych przez jej własne modele generatywne, szanse na wykrycie obrazów utworzonych przez systemy zewnętrzne wydają się jeszcze bardziej niepewne.

Ustalenia zostały potwierdzone w wielu publikacjach technologicznych, w tym Crypto Briefing i Gizmodo, w których przedstawiono podobne wnioski. Marka Icon Image zauważyła, że ​​problemy detektora z przyciętymi obrazami budzą pilne obawy dotyczące szerszej walki z deepfakes i zmanipulowanymi mediami.

Dlaczego kadrowanie uniemożliwia wykrywanie przez sztuczną inteligencję

Detektory obrazu AI zazwyczaj analizują obrazy, badając wzorce statystyczne w danych pikseli, które są charakterystyczne dla modeli generatywnych. Wzorce te mogą obejmować subtelne artefakty w teksturze, spójności oświetlenia, sygnaturach w domenie częstotliwości i inne charakterystyczne znaczniki odróżniające treści generowane przez sztuczną inteligencję od zdjęć zarejestrowanych przez kamery.

Jednak kadrowanie zasadniczo zmienia kompozycję obrazu, usuwając informacje kontekstowe, na których opierają się algorytmy wykrywania. Kiedy wygenerowany obraz jest przycinany w celu skupienia go na określonym obszarze — twarzy, obiekcie lub konkretnej scenie — wiele sygnatur statystycznych, które identyfikowałyby go jako syntetyczny, zostaje wyeliminowanych lub znacznie obniżonych.

Ta luka nie jest charakterystyczna dla systemu Meta. Badacze zajmujący się bezpieczeństwem wykazali, że podobne narzędzia wykrywające oferowane przez innych dostawców można pokonać poprzez różne manipulacje obrazem, w tym zmianę rozmiaru, kompresję, dopasowanie kolorów i dodanie szumu. Z analizy Reuters wynika, że ​​nawet najbardziej podstawowe przekształcenia stanowią istotne wyzwanie.

Kłopotliwy tydzień Meta z obrazami AI

Wady detektora ujawniły się w i tak już trudnym okresie dla inicjatyw Meta dotyczących obrazów AI. Firma uruchomiła niedawno na Instagramie funkcję obrazów AI, która automatycznie uzyskuje dostęp do publicznych zdjęć użytkowników, co spotkało się z natychmiastową krytyką ze strony obrońców prywatności i profesjonalistów z branży kreatywnej.

Jak wynika z doniesień Inc.com i Associated Press, w obliczu ostrej reakcji ze strony organizacji, w tym SAG-AFTRA, Meta wstrzymała tę funkcję zaledwie trzy dni po jej wprowadzeniu. Firma ostatecznie zaprzestała stosowania tej funkcji, co oznaczało szybki zwrot w przypadku produktu, który był postrzegany jako znaczące usprawnienie korzystania z Instagrama.

Połączenie wycofania tej funkcji i udokumentowanych usterek detektora ukazuje obraz branży, która wciąż stara się zrównoważyć szybkie wdrażanie narzędzi generatywnej sztucznej inteligencji z potrzebą niezawodnych zabezpieczeń i mechanizmów wykrywania.

Szersze implikacje dla autentyczności treści

Ustalenia Reutersa niosą ze sobą implikacje wykraczające daleko poza ekosystem Meta. Ponieważ obrazy generowane przez sztuczną inteligencję stają się coraz bardziej nieodróżnialne od fotografii, zdolność niezawodnego wykrywania treści syntetycznych stała się kluczowym wyzwaniem dla platform, wydawców i decydentów.

Platformy mediów społecznościowych, w tym Facebook, Instagram, X (dawniej Twitter) i TikTok, wdrożyły jakąś formę etykietowania treści AI, ale niezawodność tych systemów znacznie się różni. Analiza Reuters sugeruje, że obecna technologia wykrywania może dawać fałszywe poczucie bezpieczeństwa, potencjalnie pozwalając na niezauważone rozpowszechnianie dużych ilości syntetycznych treści.

Wyzwanie to potęguje szybkie doskonalenie generatorów obrazów AI. W miarę jak modele OpenAI, Google, Adobe i innych generują coraz bardziej fotorealistyczne wyniki, artefakty, na których opierają się systemy wykrywania, stają się coraz subtelniejsze i trudniejsze do zidentyfikowania. Wydaje się, że wyścig zbrojeń między wytwarzaniem a możliwościami wykrywania przechyla się na korzyść pokolenia.

Standard C2PA i odpowiedź branży

W odpowiedzi na rosnące wyzwania związane z uwierzytelnianiem treści największe firmy technologiczne, w tym Adobe, Microsoft i BBC, poparły standard Coalition for Content Provenance and Authenticity (C2PA). Podejście to osadza podpisy kryptograficzne i metadane bezpośrednio w plikach obrazów w momencie ich tworzenia, umożliwiając platformom niższego szczebla weryfikację pochodzenia pliku multimedialnego.

Jednak C2PA opiera się na dobrowolnym przyjęciu i można go usunąć z obrazów w drodze standardowego przetwarzania. Krytycy twierdzą, że chociaż śledzenie pochodzenia zapewnia cenną warstwę ochrony, nie może zastąpić solidnych możliwości wykrywania treści, które nigdy nie były podpisane lub których podpisy zostały usunięte.

Analiza Reutersa podkreśla trudność wyzwania stojącego przed branżą. Nawet najbardziej podstawowa manipulacja obrazem pokonuje wiodące narzędzia do wykrywania, zapewnienie autentyczności treści wizualnych w erze sztucznej inteligencji pozostaje nierozwiązanym problemem.

Ponieważ ilość treści generowanych przez sztuczną inteligencję stale rośnie wykładniczo, presja na firmy technologiczne, aby opracowały solidniejsze systemy wykrywania, będzie się tylko nasilać. Na razie rozbieżność między tym, co obiecują te narzędzia, a tym, co mogą niezawodnie zapewnić, pozostaje krytyczną słabością w walce z dezinformacją i mediami syntetycznymi.

Wyprzedź sztuczną inteligencję

Więcej informacji na temat technologii sztucznej inteligencji, deepfakes i autentyczności treści można znaleźć na stronie AI Buzz Wire.

Przeczytaj więcej aktualności o sztucznej inteligencji →