Kobieta zidentyfikowana w pozwie sądowym jako Jane Doe 4 dołączyła do pozwu przeciwko xAI Elona Muska w związku z rolą, jaką firmowy chatbot Grok rzekomo odegrał w tworzeniu materiałów przedstawiających wykorzystywanie seksualne dzieci, poinformował w sobotę TechCrunch, cytując raport w The Washington Post.
Według raportu kobieta twierdziła, że jej ojczym użył Groka do manipulacji fotografią zrobioną, gdy miała 11 lat, w celu stworzenia ponad 7 000 jej wizerunków. Powiedziała także, że jej ojczym został znaleziony martwy w wyniku samobójstwa dwa dni po odkryciu zdjęć podczas nalotu organów ścigania. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.
„Nieograniczony dostęp do tych narzędzi rozprzestrzenia się bardzo szybko” – stwierdziła kobieta. „To zabieranie codziennego życia i przekształcanie go w wykorzystywanie seksualne dzieci”.
Sprawa ta jest jednym z najpoważniejszych jak dotąd zarzutów dotyczących głównego nurtu chatbota AI i tworzenia obrazów seksualnych prawdziwego dziecka, co eskaluje pozew, który stał się centralnym punktem debaty na temat barier ochronnych dla generowania obrazów AI.
Główne roszczenia pozwu
Pierwotnie pozew został złożony przez trzech nastolatków z Tennessee, którzy oskarżyli xAI – obecnie część SpaceX – o niezastosowanie podstawowych środków ostrożności, aby zapobiec wykorzystywaniu Groka do tworzenia wyraźnych obrazów prawdziwych ludzi, w tym nieletnich. Powodowie ubiegają się o status pozwu zbiorowego, który umożliwiłby dołączenie do sprawy innym osobom zarzucającym podobną krzywdę.
Zgłoszenie Jane Doe 4 dodaje szereg wstrząsających szczegółów: pojedyncze zdjęcie z dzieciństwa, narzędzie sztucznej inteligencji rzekomo używane do generowania tysięcy obelżywych produktów pochodnych oraz rodzinną tragedię, która rozegrała się w ciągu kilku dni od odkrycia materiału przez władze.
TechCrunch powiedział, że skontaktował się z xAI z prośbą o komentarz. Zarzuty mają charakter roszczeń będących przedmiotem toczącego się postępowania cywilnego i nie zostały udowodnione w sądzie. Jeśli Ty lub ktoś, kogo znasz, znajduje się w sytuacji kryzysowej, z infolinią ratunkową dla samobójstw i kryzysów 988 w Stanach Zjednoczonych można się skontaktować, dzwoniąc lub wysyłając SMS-a pod numer 988.
Wzór nacisku na Groka
Pozew trafia do sądu po roku wzmożenia badań nad możliwościami Groka w zakresie generowania obrazu. Na początku tego roku X został zalany milionami generowanych przez Groka obrazów o charakterze seksualnym, co wywołało powszechną krytykę zabezpieczeń narzędzia. Ten odcinek pomógł podsycić falę ustawodawstwa na szczeblu stanowym, którego celem były tak zwane aplikacje „nagości” i syntetyczne obrazy wykonane bez zgody; Zakaz Minnesoty dotyczący takich narzędzi wszedł w życie po tym, jak sędzia odrzucił wniosek xAI o wydanie nakazu zablokowania ich wykonania.
Stawka sprawy z Tennessee wykracza poza xAI. Powodowie argumentują, że firmy wdrażające na dużą skalę narzędzia do generowania obrazu mają obowiązek tworzenia zabezpieczeń technicznych zapobiegających seksualizacji prawdziwych, możliwych do zidentyfikowania osób – w szczególności dzieci – zanim produkty dotrą do społeczeństwa. Argument ten, jeśli zostanie zaakceptowany przez sąd, mógłby ustanowić standard prawny, który dotrze do każdego dostawcy modeli generowania obrazu.
Nierozwiązany problem branży
Dla firm zajmujących się sztuczną inteligencją zapobieganie niewłaściwemu wykorzystaniu generatorów obrazów wobec prawdziwych ludzi okazało się niezwykle trudne. Narzędzia do oznaczania znaków wodnych i pochodzenia — takie jak te, które firma Anthropic zaczęła dodawać do wyników Claude, aby zachować zgodność z unijnymi przepisami dotyczącymi przejrzystości — mogą pomóc w identyfikacji treści syntetycznych po fakcie, ale przede wszystkim nie powstrzymują one generowania materiałów obraźliwych. Filtry wejściowe i wyjściowe mogą blokować znane wzorce, ale zdeterminowani użytkownicy nieustannie znajdują obejścia, a modele obrazów o otwartej wadze uniemożliwiają całkowite przywołanie niektórych funkcji.
Zarzuty w sprawie xAI wskazują na najostrzejszy koniec tego spektrum: twierdzenie, że pojedyncze zdjęcie dziecka można przekształcić w tysiące wyraźnych obrazów za pomocą narzędzia obsługiwanego przez jedną z najbardziej znanych na świecie firm zajmujących się sztuczną inteligencją, która sprzedaje Grok milionom abonentów jako produkt konsumencki.
Eksperci prawni śledzący tę sprawę twierdzą, że oferta pozwu zbiorowego sprawdzi, czy sądy traktują niepowodzenia w zapobieganiu takim nadużyciom jako wadę produktu, za którą ponoszą odpowiedzialność firmy AI, czy też jako niewłaściwe użycie przez indywidualnych użytkowników, za które firmy nie odpowiadają.
Co będzie dalej
Bezpośrednim celem powodów jest certyfikacja klasowa, która radykalnie rozszerzyłaby pulę potencjalnych powodów przeciwko xAI. Ze swojej strony xAI argumentowało w powiązanym postępowaniu sądowym, że odpowiedzialność za niewłaściwe użycie spoczywa na użytkownikach, a nie na narzędziu. Dodanie Jane Doe 4 z surowym opisem rzekomej krzywdy wyrządzonej dziecku zwiększa presję społeczną i polityczną wokół tej obrony.
Sprawa nabiera tempa, gdy organy regulacyjne w Stanach Zjednoczonych i Europie debatują nad obowiązkami w zakresie przejrzystości i standardami bezpieczeństwa w zakresie generatywnej sztucznej inteligencji, a także w miarę gromadzenia się dowodów na to, że niewłaściwe wykorzystywanie do generowania obrazów nie ogranicza się do narzędzi pobocznych. Niezależnie od tego, czy odpowiedź pojawi się w sądzie, w przepisach, czy w decyzjach inżynieryjnych samych firm zajmujących się sztuczną inteligencją, główne pytanie pozwu – w jakim stopniu należy uwzględnić zapobieganie szkodom, zanim produkt AI zostanie wprowadzony na rynek – pozostaje najbardziej niewygodnym otwartym problemem w branży.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
