Według Oregon Public Broadcasting, prokurator generalny stanu Oregon, Dan Rayfield, pozwał we wtorek OpenAI, domagając się odszkodowania w wysokości co najmniej 2,035 miliarda dolarów i oskarżając firmę o fałszywe przedstawianie ChatGPT jako bezpiecznej dla młodych użytkowników, przy jednoczesnym świadomym pozwalaniu na niebezpieczne interakcje z nastolatkami.

Pozew, ujawniony przez OPB i potwierdzony przez wiele placówek w Oregonie, w tym KGW, KATU i KOIN, czyni Oregon jednym z najbardziej agresywnych stanów w dotychczasowej eskalacji kampanii prawnej dotyczącej chatbotów AI i nieletnich. W październiku poszła w ślady ośmiu stanów USA, z których każdy twierdzi, że technologia ta ma niebezpiecznie wpływ na nastolatków. Więcej kontekstu na ten temat znajdziesz w naszych trendy AI.

Czego dotyczy skarga

W 53-stronicowej skardze stan zarzuca OpenAI fałszywe przedstawianie swoich produktów z naruszeniem ustawy o nielegalnych praktykach handlowych stanu Oregon i opisuje zachowanie firmy jako umyślne – co stanowi okoliczność obciążającą w świetle statutu – powodujące, co w skardze określa się jako nieuczciwy, niesprawiedliwy, szokujący i sprzeczny ze sumieniem.

OpenAI pozwala użytkownikom już od 13 roku życia korzystać z ChatGPT, pod warunkiem, że rodzic lub opiekun wyrazi zgodę. Urzędnicy Departamentu Sprawiedliwości stanu Oregon twierdzą, że firma często nie potwierdza, czy rodzic faktycznie wyraził zgodę na używanie nieletnich. Skarga dotyczy także ChatGPT for Teens – niedawno wydanej wersji firmy przeznaczonej dla młodzieży, która łączy konto rodzica z kontem dziecka. Według stanu rzekomo silniejsze zabezpieczenia tej wersji można łatwo ominąć i nie ostrzega ona rodziców, gdy młodzi użytkownicy pytają o samobójstwo, samookaleczenie, zaburzenia odżywiania lub inne tematy związane ze zdrowiem psychicznym.

W pozwie zwrócono się do sądu o zmuszenie OpenAI do wprowadzenia silniejszych zabezpieczeń i zadośćuczynienia mieszkańcom Oregonu kwotą co najmniej 2,035 miliarda dolarów.

Rayfield: Produkt „nadal powoduje szkody”

W wywiadzie dla OPB Rayfield powiedział, że OpenAI jest świadome niebezpieczeństw, jakie mogą stwarzać jego produkty. OpenAI w dalszym ciągu patrzy rodzicom w oczy i twierdzi, że ten produkt jest bezpieczny, mimo że w dalszym ciągu powoduje szkody w naszych społecznościach – powiedział.

Prokurator generalny powiedział OPB, że nie było żadnego konkretnego zdarzenia w Oregonie, które spowodowało złożenie wniosku. Zamiast tego, powiedział, pozew powstał w wyniku incydentów w całym kraju i obaw jego biura, że ​​postęp technologii przewyższa ochronę konsumentów. Narzędzia mogą być niesamowicie niesamowite, jeśli ich obietnice zostaną spełnione, powiedział, ale po drugiej stronie widzimy dewastację.

Złożenie wniosku następuje w związku ze wzmożonym zaniepokojeniem opinii publicznej w Oregonie w związku z nastolatkami i platformami internetowymi. Nastolatek, który w zeszłym miesiącu zastrzelił troje dzieci i nauczyciela w szkole podstawowej Silver Rail w Bend, został powiązany przez wiele źródeł z internetowymi grupami ekstremistycznymi, a we wrześniu biuro prokuratora okręgowego hrabstwa Multnomah oskarżyło ucznia szkoły średniej Benson High School o uwolnienie toksycznych chemikaliów przez wpływy ekstremistów internetowych. Rayfield odmówił powiedzenia, czy produkty OpenAI miały jakikolwiek związek z tymi incydentami, powołując się na toczące się dochodzenia, a sam pozew nie opiera się na żadnej pojedynczej sprawie ze stanu Oregon.

Część szerszej oceny prawnej OpenAI

Oregon należy obecnie do rosnącej grupy stanów naciskających na OpenAI w sądzie w sprawie bezpieczeństwa młodzieży. W październiku osiem stanów złożyło podobne pozwy, a narastające spory sądowe stanowią coraz większe wyzwanie w poszczególnych stanach w zakresie samoregulacji przez branżę sztucznej inteligencji samoregulacji dostępu dla nieletnich – obszaru, w którym regulacje federalne są nadal ograniczone.

Rzecznik OpenAI, Drew Pusateri, wydał oświadczenie po złożeniu wniosku, w którym stwierdził, że firma jest zaangażowana w opracowywanie zasad dotyczących sztucznej inteligencji, które mają zastosowanie do całej branży sztucznej inteligencji, a nie tylko do jednej firmy. Firma wskazała na zabezpieczenia, które według niej istnieją obecnie, w tym kontrolę rodzicielską, przypomnienia o przerwach i zabezpieczenia modelek dostosowane do wieku, i oświadczyła, że ​​będzie kontynuować współpracę z ekspertami w celu opracowania dodatkowych zabezpieczeń. Firma już wcześniej podkreślała, że ​​bezpieczeństwo społeczności jest najwyższym priorytetem.

Co stanie się dalej

Sprawa Oregonu będzie testem nowej teorii prawnej: nie tyle, że ChatGPT spowodował konkretną szkodę, ale sam marketing firmy dotyczący bezpieczeństwa – twierdzenie, że produkt jest bezpieczny dla nastolatków – stanowi nieuczciwą praktykę handlową, gdy zabezpieczenia można ominąć. Jeśli teoria przetrwa wczesne wnioski, może otworzyć tańszą i szybszą ścieżkę dla innych prokuratorów generalnych niż postępowanie sądowe dotyczące odpowiedzialności za produkt, które wymaga udowodnienia związku przyczynowego poszczególnych szkód.

Kąt chroniący konsumentów, stworzony z myślą o szybkości

Wybór statutu ma znaczenie. Ustawa o nielegalnych praktykach handlowych stanu Oregon stanowi prawo chroniące konsumentów, a nie system odpowiedzialności za produkt, i przewiduje krótsze terminy i mniej przeszkód w zakresie dowodów niż udowodnienie, że konkretna wymiana chatbota spowodowała konkretną tragedię. Dopuszcza również kary cywilne za umyślne naruszenia – etykieta obciążająca jest wyraźnie zastosowana w skardze. Egzekwowanie przepisów w zakresie ochrony konsumentów przeciwko platformom technologicznym w związku z wprowadzającymi w błąd twierdzeniami ma długą historię w sądach w Oregonie, a ustawa ta jest jedną z szerzej sformułowanych w kraju.

Ramy te kształtują również lekarstwo, którego szuka państwo. Zamiast odszkodowania dla rodziny jednej ofiary w skardze żąda się zbiorowego odszkodowania dla mieszkańców Oregonu – co najmniej 2,035 miliarda dolarów – oraz nałożonych przez sąd zmian w samym produkcie: silniejszych zabezpieczeń i weryfikacji zgody rodziców. Zwycięstwo zapewniłoby państwu stały nadzór nad funkcjami ChatGPT dla młodzieży zamiast jednorazowej płatności.

W przypadku OpenAI skarga trafia w delikatny moment: firma już broni roszczeń dotyczących praw autorskich, stoi w obliczu kalifornijskiego pozwu w związku z włamaniami cybernetycznymi związanymi z sztuczną inteligencją i przygotowuje się do intensywnej kontroli po IPO. Jest mało prawdopodobne, aby wielomiliardowe żądanie ze strony jednego stanu zmieniło jego finanse, ale stwierdzenie przez sąd, że jego oświadczenia na temat bezpieczeństwa młodzieży były zwodnicze, miałoby konsekwencje regulacyjne daleko poza Oregonem.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →