Badacze odkryli, że analiza reklam przeprowadzona przez sztuczną inteligencję Meta nie powstrzymała setek reklam przedstawiających wykorzystywanie dzieci

Z badań przeprowadzonych we wtorek przez organizację non-profit Tech Transparency Project udostępnionych WIRED i opublikowanych we wtorek wynika, że ​​w ciągu kilku tygodni po wprowadzeniu przez firmę nowych narzędzi AI zaprojektowanych do wykrywania i blokowania dokładnie tego rodzaju treści na platformach Meta pojawiło się ponad 250 dodatkowych reklam zawierających materiały przedstawiające wykorzystywanie seksualne dzieci. Odkrycie podważa twierdzenie firmy, że filtrowanie reklam oparte na sztucznej inteligencji w dużej mierze wypełniło tę lukę, a prawodawcy twierdzą, że planują zbadać tę kwestię.

Nowe dane liczbowe stanowią uzupełnienie wcześniejszych ujawnień. Po wcześniejszym zgłoszeniu przez WIRED w zeszłym miesiącu Meta usunęła około 50 reklam opublikowanych na Facebooku, Instagramie i w Threads, które bezpośrednio zawierały materiały przedstawiające wykorzystywanie seksualne dzieci. Firma podała wówczas, że większość obraźliwych reklam została opublikowana przed wdrożeniem nowych narzędzi do wykrywania sztucznej inteligencji. Zamiast oczekiwanego spadku, badacze twierdzą, że w ostatnich tygodniach znaleźli setki reklam więcej – w tym niektóre identyczne z tymi, które Meta właśnie usunęła. Aby otrzymywać ciągłe informacje na temat bezpieczeństwa platformy i najnowszych wiadomości o sztucznej inteligencji, śledź AI Buzz Wire.

Skala niepowodzenia

W sumie badacze z projektu Tech Transparency Project udokumentowali ponad 350 obraźliwych reklam wideo wyświetlanych od końca ubiegłego roku na platformach Meta, obejmujących Facebooka, Instagram, Messenger, Threads i szerszą sieć reklamową Meta. W przeciwieństwie do początkowego zestawu 53 reklam zidentyfikowanych przez grupę, nowsza partia zawierała obrazy prawdziwych dzieci, a nie czysto syntetyczne. WIRED potwierdził, że jedno zdjęcie źródłowe pochodzi z oficjalnej strony internetowej europejskiej rodziny królewskiej; Badacze twierdzą, że oficjalnie opublikowana fotografia nieletniego członka rodziny została zmanipulowana i wykorzystana w filmie przedstawiającym akt seksualny. Badacze nie podają nazwiska członka rodziny królewskiej, aby chronić ofiarę, i twierdzą, że skontaktowali się z urzędnikami w odpowiednim kraju.

Katie Paul, dyrektor grupy, powiedziała WIRED, że problem nie ogranicza się do obrazów generowanych przez sztuczną inteligencję. „To, o czym tu mówimy, nie jest po prostu materiałami przedstawiającymi wykorzystywanie seksualne dzieci wygenerowanymi przez sztuczną inteligencję” – stwierdziła, zauważając, że wiele zdjęć wygląda na pobranych z otwartej sieci przed wykorzystaniem w reklamach. „Z tego wszystkiego może wyniknąć wiele szkód, podczas gdy Meta zgarnia przy tym pieniądze”. Badacze zidentyfikowali prawdziwą tożsamość czterech nieletnich, których wizerunki wykorzystano w reklamach.

Ścieżka do aplikacji do nudyfikacji

Z raportów wynika, że reklamy mają spójny wzór. Wiele z nich otwiera się na niewinnym zdjęciu przedstawiającym nastolatkę w wieku przedszkolnym lub nastoletnim – badacze znaleźli tylko jedno przedstawiające chłopca – z tekstem stwierdzającym, że zdjęcie to „nie jest tylko zdjęciem” i że „nie ma żadnych ograniczeń” co do tego, co można z nim zrobić. Po odtworzeniu krótkiego filmu twarz dziecka zmienia się w wyraźny film. Kliknięcie prowadzi do aplikacji zamieniających twarze i „nudyfikację” AI dostępnych w sklepach z aplikacjami Apple i Google, z których wiele jest powiązanych z chińskimi programistami. WIRED osobno zidentyfikowało setki powiązanych reklam nagości przedstawiających osoby dorosłe na platformach Meta.

Powolne recenzje i brakujące ujawnienia

Zasady Meta stanowią, że firma sprawdza wszystkie reklamy wyświetlane na jej platformach, a reklamy te naruszają jej zasady dotyczące wykorzystywania dzieci i dorosłych oraz nagości. W praktyce, jak podali badacze, czasami sprawdzanie wyświetlanych reklam zgłoszonych za pomocą narzędzi firmy Meta zajmowało czasami nawet tydzień. Według zrzutów ekranu sprawdzonych przez WIRED reklamy w tym czasie zgromadziły setki dodatkowych wyświetleń. Kiedy niektóre reklamy zostały usunięte, w ich rejestrach początkowo nie było żadnych informacji o naruszeniu zasad firmy dotyczących wykorzystywania seksualnego dzieci; szczegóły te pojawiły się dopiero po tym, jak WIRED zapytał Meta o rozbieżność.

Badacze zgłaszali każdą znalezioną reklamę do Krajowego Centrum ds. Dzieci Zaginionych i Wykorzystywanych w CyberTipline oraz za pośrednictwem narzędzi raportowania Meta. Z własnej biblioteki reklam Meta wynika, że ​​reklamy zostały łącznie wyświetlone na ponad 29 000 kont w krajach Unii Europejskiej i około 7 000 kont w Wielkiej Brytanii, z czego ponad 250 w Stanach Zjednoczonych, 120 w Australii i 80 w Indiach – liczby te prawdopodobnie zaniżają całkowity zasięg, ponieważ w niektórych krajach nie ma szczegółowych danych o skuteczności reklam.

Meta odpowiada

Meta odniosła się do znaczenia ustaleń. „Nie tolerujemy aplikacji do nagości ani żadnego rodzaju wykorzystywania dzieci, rzeczywistego lub generowanego przez sztuczną inteligencję” – powiedziała WIRED rzeczniczka firmy Tracy Clayton, dodając, że firma usunęła wcześniej setki tysięcy reklam za naruszenie zasad dotyczących nagości. Meta stwierdziła, że ​​wiele reklam znalezionych przez badaczy zostało już usuniętych, większość uzyskała mniej niż 200 wyświetleń, a opłaty za reklamy pobrały poniżej 5000 dolarów. Firma stwierdziła również, że filmy wygenerowane przez sztuczną inteligencję przedstawiały osoby dorosłe, natomiast klipy z udziałem nieletnich były krótkie lub niewyraźne, co utrudniało wykrycie, oraz że zgłasza treści związane z wykorzystywaniem dzieci do NCMEC.

Ustawodawcy i organy regulacyjne ruszają się

Wielu prawodawców i organów regulacyjnych twierdzi obecnie, że bada lub przygląda się reklamom po raportach WIRED. Senator z Wirginii Mark Warner, który po wcześniejszym doniesieniu wysłał list do dyrektora generalnego Meta, Marka Zuckerberga, stwierdził, że „rozczarowuje fakt, że Meta w dalszym ciągu wyświetla reklamy zawierające materiały przedstawiające wykorzystywanie seksualne dzieci i intymne obrazy bez ich zgody po zwróceniu na to uwagi”. Prokurator generalny stanu Michigan powiedział, że biuro „aktywnie bada tę sprawę”, prokurator generalny Florydy napisał, że jego biuro prowadzi dochodzenie, a australijski organ regulacyjny ds. eSafety stwierdził, że jest „bardzo zaniepokojony” i zwrócił się o informacje do Meta na wyższym szczeblu.

Kontrola zwiększa presję na firmę, która już zapłaciła aż do 16,7 miliarda dolarów w celu rozstrzygnięcia procesów sądowych zarzucających, że jej sieci społecznościowe skrzywdziły dzieci i odwołała się od decyzji sądu w Nowym Meksyku, która wymagałaby od niej usprawnienia procesów raportowania CSAM. Szersze pytanie dla branży sztucznej inteligencji brzmi: czy zautomatyzowana moderacja może dotrzymać kroku nadużyciom, które same w sobie w coraz większym stopniu wspomagają sztuczną inteligencję – oraz dowody na to, że system wykrywania nie wyłapał setek reklam naruszających zasady kilka tygodni po cytowaniu, ponieważ poprawka zostanie bezpośrednio wykorzystana w tych debatach.

Wyprzedź sztuczną inteligencję

Śledź najnowsze osiągnięcia sztucznej inteligencji i najświeższe wiadomości dotyczące sztucznej inteligencji, gdy organy regulacyjne i platformy zmagają się z szkodami powodowanymi przez sztuczną inteligencję.

Przeczytaj więcej aktualności o sztucznej inteligencji →