Prokurator miejski San Francisco nakazał Apple i Google usunięcie ze swoich sklepów aplikacji opartych na sztucznej inteligencji do nagości, ostrzegając, że platformy naruszają kalifornijskie przepisy zabraniające usług tworzących fałszywą pornografię. Zapotrzebowanie nasila narastającą konfrontację dotyczącą narzędzi AI, które przekształcają zwykłe zdjęcia prawdziwych ludzi w wyraźne obrazy. Kryzys, który nieproporcjonalnie dotknął kobiety i dzieci.

Skala problemu

Aplikacje do nudyfikacji wykorzystują generatywną sztuczną inteligencję, aby w banalnie prosty sposób ściągać ubrania ze zdjęć prawdziwych ludzi, zmieniać ich rysy, umieszczać je w seksualnych pozycjach i zamieniać twarze na nagie ciała innych osób. Technologia ta szybko rozprzestrzeniła się w sklepach z aplikacjami mobilnymi, a jej wyniki wykorzystuje się do zastraszania, poniżania i grożenia ofiarom niszczycielskimi konsekwencjami.

Prokurator miejski San Francisco, David Chiu, powiedział Wired, że jego biuro było absolutnie przerażone wszechobecnością technologii nagości, która w alarmującej skali padała ofiarą głównie kobiet i dzieci, w miarę zalewania rynku coraz większą liczbą narzędzi. Według niego obrazy są wykorzystywane do niszczenia reputacji, niszczenia zdrowia psychicznego i pozbawiania ofiar autonomii, a niektóre cele stają się samobójcze.

Czego żądają listy

Według Wired biuro Chiu wysłało oficjalne pisma do obu firm, ostrzegając, że ich sklepy z aplikacjami naruszają kalifornijskie przepisy zabraniające wspierania usług tworzących fałszywą pornografię. Poprosił Google o usunięcie pięciu aplikacji, a Apple o usunięcie ośmiu. Konkretne aplikacje nie zostały wymienione w publicznych raportach, aby nie przyciągać ludzi do nich, ale Wired zauważył, że jedna z oznaczonych aplikacji zgromadziła ponad milion pobrań i otwarcie reklamowała funkcje mające na celu seksualizację wizerunków kobiet lub tworzenie bezpłatnych i nieocenzurowanych filmów.

Biuro Chiu oszacowało, że Apple i Google prawdopodobnie zarobiły miliony dolarów na opłatach, pozwalając szkodliwym aplikacjom pozostać w swoich sklepach, zamiast podejmować zdecydowane działania lub opracowywać lepsze systemy wykrywania. Prokurator miejski określił tę sytuację jako czerpanie korzyści z zakłócania porządku publicznego, argumentując, że niedopuszczalne jest pozostawienie takich aplikacji.

Google odpowiada, Apple milczy

W oświadczeniu dla Ars Technica rzecznik Google, Dan Jackson, potwierdził, że pięć aplikacji oznaczonych przez Chiu zostało zawieszonych w sklepie Google Play z powodu naruszenia zasad dotyczących szkodliwych treści. Jackson powiedział, że Google Play nie zezwala na aplikacje zawierające treści o charakterze seksualnym i że firma stale podejmuje aktywne kroki w celu wykrywania i usuwania aplikacji zawierających szkodliwe treści. Jackson powiedział, że po zgłoszeniu naruszeń Google bada i podejmuje szybkie działania, które obejmują zawieszanie setek aplikacji naruszających zasady i ograniczanie powiązanych wyszukiwanych haseł, takich jak nagość, w swoim sklepie.

Odpowiedź Apple była wyraźnie odmienna. Chociaż firma usunęła w przeszłości niektóre aplikacje oznaczone przez badaczy, poza tym zachowała szczególne milczenie w związku z bardziej agresywnymi wezwaniami policji do aplikacji nudyfikujących w swoim App Store. Producent iPhone'a nie udzielił od razu szczegółowej publicznej odpowiedzi na żądania prokuratora miejskiego.

Gra w kotka i myszkę w wykrywanie

Wyzwanie związane z kontrolowaniem tych aplikacji jest spotęgowane przez ich ewoluującą taktykę. Wired poinformował, że badacze ostrzegli niedawno, że niektóre szkodliwe aplikacje skuteczniej unikają usuwania aplikacji w sklepach z aplikacjami, reklamując jedynie funkcje polegające na zamianie twarzy, ukrywając jednocześnie swoje możliwości nagości. W majowym artykule przedpremierowym badacze zidentyfikowali 420 aplikacji sprzedawanych jako ogólne narzędzia do zmiany twarzy i przetestowali 155 z nich. W ponad 70 procentach przypadków aplikacje można wykorzystać do seksualizacji obrazów, co pokazuje, jak łatwo szkodliwa funkcjonalność kryje się za nieszkodliwym marketingiem.

Ta luka w wykrywaniu oznacza, że ​​nawet jeśli sklepy z aplikacjami aktywnie szukają narzędzi do nagości, wiele z nich prześlizguje się przez nie, przedstawiając się jako nieszkodliwe oprogramowanie rozrywkowe lub do edycji zdjęć. Ustalenia badaczy sugerują, że rzeczywista liczba problematycznych aplikacji w obiegu jest prawdopodobnie znacznie wyższa niż trzynaście wskazanych przez biuro Chiu.

Precedens Groka

Atak na aplikację nudify wpisuje się również w szerszą debatę na temat szkodliwych treści generowanych przez sztuczną inteligencję. W tym tygodniu firma xAI złożyła pozew, potwierdzając, że znalazła przypadki generowanych przez firmę Grok materiałów przedstawiających seksualne wykorzystywanie dzieci oraz bezsensownych intymnych zdjęć skierowanych do dorosłych. Aby zaradzić nadużyciom, xAI pozwało użytkownika rzekomo odpowiedzialnego za nakłanianie Groka do generowania nielegalnych treści.

Sprawa Groka rodzi bardziej drażliwe pytanie dla sklepów z aplikacjami: czy chatboty AI, które można namawiać do tworzenia nielegalnych treści, powinny same podlegać usuwaniu. Według NBC News Apple podobno powiedział senatorom w kwietniu, że prywatnie groził usunięciem Groka z App Store, ale aplikacja xAI jest nadal dostępna. Tak długo, jak możliwe będzie wykorzystywanie Groka do generowania nielegalnych treści, sklepy z aplikacjami będą prawdopodobnie w dalszym ciągu podlegać presji podejmowania działań, tak jak Chiu domagał się samodzielnych aplikacji do nudyfikacji.

Punkt zwrotny w zakresie odpowiedzialności platformy

Nakaz z San Francisco stanowi jedną z najbardziej agresywnych jak dotąd interwencji rządu wymierzonych w sklepy z aplikacjami ze względu na szkodliwe treści generowane przez sztuczną inteligencję. Powołując się na kalifornijskie przepisy dotyczące fałszywej pornografii, Chiu sprawdza, czy przepisy stanowe mogą zmusić operatorów platform do wzięcia odpowiedzialności za narzędzia sztucznej inteligencji dystrybuowane za pośrednictwem ich rynków.

Wynik może stanowić precedens dla podejścia innych jurysdykcji do problemu i tego, czy ciężar kontrolowania obrazów generowanych bez zgody przez sztuczną inteligencję spadnie na programistów, operatorów platform, czy na jedno i drugie. Dla milionów ludzi, głównie kobiet i dziewcząt, które stały się celem tych narzędzi, stawka wykracza daleko poza teorię regulacji.

Wyprzedź sztuczną inteligencję

Aby na bieżąco informować o etyce sztucznej inteligencji, odpowiedzialności platform i sporach regulacyjnych dotyczących szkodliwych mediów syntetycznych, śledź AI Buzz Wire, gdzie możesz zgłaszać problemy kształtujące wpływ sztucznej inteligencji na społeczeństwo.

Przeczytaj więcej aktualności dotyczących etyki AI →