xAI stoi w obliczu proponowanego pozwu zbiorowego, który po raz pierwszy oskarża firmę o szkolenie modeli Groka w zakresie materiałów przedstawiających wykorzystywanie seksualne dzieci, zarówno rzeczywistych, jak i generowanych przez sztuczną inteligencję. Skarga złożona w środę i zgłoszona przez Ars Technica dotyczy nakazanego przez sąd zniszczenia wszelkich takich materiałów przechowywanych na serwerach firmy i radykalnych zmian w sposobie, w jaki Grok traktuje treści o charakterze seksualnym.

Zarzuty pozostają niepotwierdzonymi roszczeniami wysuniętymi w postępowaniu cywilnym. X, właściciel xAI, nie odpowiedział na prośbę Ars Technica o komentarz w sprawie zgłoszenia. Więcej kontekstu na ten temat znajdziesz w naszych trendy AI.

Powód i zarzuty

Powódka, zidentyfikowana jako Jane Doe, w skardze utrzymuje, że na początku XXI wieku była ofiarą w wieku przedszkolnym, kiedy tworzono i sprzedawano w Internecie zdjęcia przedstawiające jej molestowanie. Obrazy te od dawna są katalogowane na listach skrótów prowadzonych przez Krajowe Centrum Dzieci Zaginionych i Wykorzystywanych (NCMEC) oraz Kanadyjskie Centrum Ochrony Dzieci (CCCP), organizacje śledzące znane materiały przedstawiające wykorzystywanie, aby umożliwić ich wykrycie i usunięcie.

Zgodnie ze skargą CCCP powiadomiła Doe, że zidentyfikowała na platformie xAI materiały przedstawiające ją przedstawiające nadużycia generowane przez sztuczną inteligencję. Jej prawnicy stwierdzają w komunikacie prasowym, że materiały pasujące do jej wpisów na liście skrótów NCMEC „były częścią zbioru danych xAI wykorzystywanego do tworzenia możliwości Groka w zakresie generowania obrazów i wideo”. W skardze zarzucono ponadto, że wiadomości znalezione na forach internetowych przedstawiały przestępców omawiających tworzenie generowanych przez sztuczną inteligencję obrazów przedstawiających Doe i inne znane ofiary starszych materiałów przedstawiających nadużycia.

Teoria prawna: dane szkoleniowe, a nie tylko wyniki

Tym, co odróżnia to zgłoszenie od wcześniejszych postępowań sądowych przeciwko xAI, jest skupienie się na samym modelu, a nie na tym, co wygenerowali poszczególni użytkownicy. W skardze zarzucono, że ponieważ warunki korzystania z usług Groka domyślnie traktują publiczne wpisy w X i własnych wynikach Groka jako dane szkoleniowe, wszystko, co jest publikowane publicznie, jest przesyłane bezpośrednio do potoku używanego do uczenia i ulepszania modelu.

W zgłoszeniu potwierdzono, że xAI filtruje treści zawierające przemoc z danych szkoleniowych, ale argumentuje, że warunki firmy nie precyzują, czy materiały przedstawiające wykorzystywanie seksualne dzieci, obrazy intymne za zgodą lub inne treści dla dorosłych mieszczą się w wykluczonych kategoriach. Argumentuje również, że nawet w przypadku usunięcia obraźliwych obrazów wpływ przykładu szkoleniowego na już wytrenowany model jest technicznie trudny do całkowitego usunięcia — i że xAI publicznie nie stwierdziła, że ​​to zrobiła.

Czego żąda pozew

Jeżeli proponowana klasa będzie certyfikowana, będzie reprezentować każdą osobę, której zdjęcia z dzieciństwa rzekomo wykorzystano do generowania materiałów przedstawiających nadużycia za pomocą Groka. W pozwie powołuje się na federalne przepisy dotyczące pornografii dziecięcej i prawo Maszy, które dają osobom, które doświadczyły wykorzystywania, prawo do pozywania w związku z ich produkcją, posiadaniem i dystrybucją.

„Wszystkie trzy są przestępstwami i xAI dopuścił się wszystkich trzech” – stwierdziła Margaret E. Mabie, jedna z prawników Doe, w notatce prasowej cytowanej przez Ars Technica.

Oprócz odszkodowania pieniężnego Doe zwraca się do sądu o nakazanie xAI zniszczenia wszystkich materiałów przedstawiających nadużycia generowane przez Groka, które może przechowywać i wykorzystywać do celów szkoleniowych, a także o zapobiegnięcie generowaniu przez modelkę jakichkolwiek treści o charakterze seksualnym – żądanie, które wykluczyłoby nie tylko obrazy przedstawiające nadużycia, ale także intymne obrazy i treści dla dorosłych, które Elon Musk publicznie promował jako funkcje.

„Doe żyła przez prawie dwie dekady ze świadomością, że wśród drapieżników krążą w Internecie obrazy przedstawiające najgorszą rzecz, jaka jej się kiedykolwiek przydarzyła, i że w każdej chwili mogą wypłynąć na światło dzienne” – stwierdziła w komunikacie prasowym Sarah London, kolejna prawniczka Doe. „xAI musi ponieść odpowiedzialność za świadome szkolenie swoich modelek na podstawie obrazów przedstawiających straszliwe znęcanie się, którego doświadczyła”.

Rosnąca ocena prawna

Złożenie wniosku jest najnowszym frontem w zaostrzającej się batalii prawnej dotyczącej możliwości Groka w zakresie obrazu i wideo. W osobnej sprawie w Tennessee kobieta zidentyfikowana jako Jane Doe 4 dołączyła do pozwu, utrzymując, że pojedyncze zdjęcie z dzieciństwa zostało użyte z Grokiem do wygenerowania tysięcy jej wyraźnych zdjęć – zarzuty omówione przez AI Buzz Wire na początku tego miesiąca. Organy regulacyjne i sądy badają, jak daleko sięgają problemy, a niektórzy użytkownicy Groka zostali aresztowani w związku z wygenerowanymi przez siebie materiałami.

W tym samym czasie xAI dopuścił się przestępstwa wobec swoich użytkowników. W tym tygodniu Politico poinformowało, że firma pozywa niektórych swoich użytkowników, mimo że liczba pozwów ofiar narasta. Jest to strategia sprawdzająca, czy platformy lub osoby je zachęcające ponoszą odpowiedzialność prawną za to, co wytwarza model sztucznej inteligencji.

Nowa skarga stawia kwestię danych treningowych w centrum tej walki. Jeśli sądy przyjmą argument, że zestaw szkoleniowy modelu może powodować odpowiedzialność za to, co umożliwia użytkownikom wytworzenie, konsekwencje sięgałyby daleko poza xAI – dotykając każdej firmy zajmującej się generatywnym obrazem i wideo, której warunki ponownie wprowadzają treści użytkownika do szkolenia. Na razie zarzuty są takie: zarzuty zawarte w pozwie xAI nie odpowiedział jeszcze w sądzie.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →