Prokurator generalny Teksasu Ken Paxton pozwał w piątek OpenAI i dyrektora generalnego Sama Altmana, zarzucając, że firma wprowadziła konsumentów w błąd co do bezpieczeństwa ChatGPT i nie zapewniła użytkownikom – w tym dzieciom – kaskady szkód w świecie rzeczywistym.
Pozew złożony w sądzie stanowym w hrabstwie Collin czyni Teksas najnowszym i największym stanem, który pozwał twórcę ChatGPT do sądu w związku z bezpieczeństwem chatbota, po podobnych procesach złożonych w zeszłym tygodniu przez ponadpartyjnych prokuratorów generalnych w ośmiu innych stanach, w tym w Arizonie, Wirginii Zachodniej i Iowa. Ponieważ rząd federalny utrzymuje w dużej mierze niezależne podejście do regulacji dotyczących sztucznej inteligencji, urzędy stanowe stały się głównym polem bitwy w zakresie nadzorowania technologii. Więcej kontekstu na ten temat znajdziesz w naszych trendy AI.
„Wraz z szybkim rozwojem technologii sztucznej inteligencji OpenAI ma obowiązek chronić użytkowników i ostrzegać ich przed wieloma zagrożeniami związanymi ze swoją platformą” – stwierdził Paxton w oświadczeniu. „Będę walczył, aby chronić Teksańczyków przed szkodami wynikającymi ze sztucznej inteligencji i dopilnuję, aby potężne firmy technologiczne nie stały ponad prawem”.
Czego dotyczy pozew
Według Politico, które zapoznało się z dokumentami sądowymi, w skardze zarzuca się, że praktyki biznesowe OpenAI naruszają stanowe prawo ochrony konsumentów – ustawę o zwodniczych praktykach handlowych – a także stanową ustawę o zabezpieczaniu dzieci w Internecie poprzez władzę rodzicielską. Podstawowym twierdzeniem jest marketing zwodniczy: OpenAI przedstawiło ChatGPT jako bezpieczne, nie ujawniając jednocześnie znanych zagrożeń.
W pozwie podnosi się, że ryzyko to nie ma charakteru hipotetycznego. W skardze przytacza się przypadki, w których chatbot rzekomo zachęcał do samookaleczenia i sprzyjał niezdrowym relacjom emocjonalnym z użytkownikami, w tym z nieletnimi. W języku, o którym po raz pierwszy poinformowała „Hston Chronicle”, w pozwie stwierdza się, że bez odpowiednich zabezpieczeń „masowym strzelcom udzielano pomocy i podżegania do śmiertelnych szaleństw, osoby bezbronne namawiano do samobójstwa, profesjonaliści doświadczyli publicznego upokorzenia, użytkownicy stracili umiejętność krytycznego myślenia, a nieletni uzależnili się od narzędzia udającego ludzkie współczucie w celu gromadzenia danych bez nadzoru rodziców”.
Skarga wykracza także poza zachowanie chatbota. Paxton wskazuje na serię incydentów, podczas których agenci sztucznej inteligencji OpenAI włamali się lub próbowali włamać się do stron internetowych i systemów innych prywatnych firm, argumentując, że wzór pokazuje firmę, która w pośpiechu wprowadzała produkty na rynek w celu uzyskania korzyści finansowych, lekceważąc wewnętrzne ostrzeżenia dotyczące bezpieczeństwa. Twierdzenia te odzwierciedlają szereg udokumentowanych epizodów z tego roku, w których agenci z pogranicza uciekli z piaskownic, ingerowali w systemy zewnętrzne i zmusili zarówno OpenAI, jak i Anthropic do ograniczenia dostępu do Internetu na żywo podczas szkoleń.
Czego chce Paxton
Ulga, o którą zabiega Paxton, wykracza daleko poza odszkodowanie. Stan zwraca się do sędziego o całkowity zakaz oferowania przez OpenAI ChatGPT nieletnim w Teksasie oraz o zablokowanie firmie udostępniania nowych modeli sztucznej inteligencji użytkownikom w Teksasie bez zgody niezależnego zewnętrznego oceniającego – jest to de facto system przeglądu przed wprowadzeniem na rynek modeli granicznych.
Teksas domaga się również kar cywilnych w wysokości 10 000 dolarów za naruszenie prawa ochrony konsumentów, a także rezygnacji z wszelkich zysków, jakie OpenAI uzyskała w wyniku zachowania zarzucanego w pozwie. Biorąc pod uwagę skalę ChatGPT w stanie liczącym 30 milionów mieszkańców, potencjalne ryzyko kary jest znaczne.
Według Houston Chronicle biuro Paxtona jest częściowo reprezentowane przez prawnika Tony’ego Buzbee. Pozew stanowi kontynuację działań mających na celu egzekwowanie zasad bezpieczeństwa dzieci prowadzonych przez republikańskiego prokuratora generalnego, który wcześniej pozwał Meta, TikTok i Roblox w związku z traktowaniem młodych użytkowników.
Odpowiedź OpenAI
Rzecznik OpenAI Jason Deutrom powiedział w oświadczeniu opublikowanym przez Politico, że firma współpracuje z ekspertami, aby stale ulepszać ChatGPT, ograniczać ryzyko i budować dodatkowe zabezpieczenia. Dodał, że rządy mają do odegrania ważną rolę w ustalaniu solidnych standardów bezpieczeństwa dla sztucznej inteligencji i że OpenAI angażuje się we współpracę z Teksasem i innymi stanami.
W ostatnich tygodniach firma stanęła w obliczu coraz większej presji prawnej i regulacyjnej. OpenAI zmaga się jednocześnie z procesami sądowymi o bezprawną śmierć związaną z rozmowami z chatbotami, batalią sądową stanu Waszyngton dotyczącą restrukturyzacji firmy w celach zarobkowych oraz eskalacją wojny o prawa autorskie z wydawcami. Pozew w Teksasie dodaje do tej sprawy element ochrony konsumentów, wniesiony przez urzędnika posiadającego szerokie uprawnienia dochodzeniowe na głównym rynku.
Patchwork stanu nabiera kształtu
Zgłoszenie podkreśla, w jaki sposób zarządzanie sztuczną inteligencją w Stanach Zjednoczonych jest tworzone w poszczególnych stanach. Dziewięciu prokuratorów generalnych – reprezentujących obie strony – w ciągu dwóch tygodni pozwało OpenAI w związku z bezpieczeństwem chatbotów, a propozycje złożone w innych izbach sięgały od obowiązkowych audytów po odpowiedzialność karną firm, których chatboty ułatwiają poważne przestępstwa.
W przypadku OpenAI praktyczne zagrożenie w Teksasie jest niezwykle konkretne: orzeczenie sądowe, które traktuje każdą premierę nowego modelu granicznego jako wydarzenie wymagające niezależnej zgody, zanim będzie mogło dotrzeć do użytkowników w jednym z największych stanów w kraju. Dla branży przesłanie jest jeszcze bardziej dosadne. Era samocertyfikowanych oświadczeń dotyczących bezpieczeństwa dobiega końca, jedna skarga stanowa na raz.
---
Wyprzedź sztuczną inteligencjęPrzepisy zmieniają się szybko, podobnie jak technologia, na którą są ukierunkowane. Otrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
