Prokurator generalny Florydy James Uthmeier zwrócił się do sędziego stanowego o zakazanie OpenAI rozwijania nowych modeli sztucznej inteligencji bez zgody strony trzeciej, w ramach tymczasowego nakazu sądowego złożonego w poniedziałek w hrabstwie Highlands przeciwko OpenAI i dyrektorowi generalnemu Samowi Altmanowi.
Złożenie tego wniosku powoduje eskalację istniejącego pozwu dotyczącego bezpieczeństwa dzieci do rangi jednego z najbardziej agresywnych wyzwań na szczeblu stanowym w dotychczasowej historii tworzenia i wypuszczania modeli granicznych. W tygodniu, w którym FTC wszczęła szeroko zakrojone dochodzenie w sprawie głównych laboratoriów zajmujących się sztuczną inteligencją, posunięcie to sygnalizuje, że kontrola OpenAI nasila się zarówno na poziomie federalnym, jak i stanowym — wzór ten śledziliśmy przez cały miesiąc w naszych najświeższych wiadomościach dotyczących sztucznej inteligencji.
Czego wymaga nakaz
Według doniesień Politico, Axios i wielu placówek na Florydzie, we wniosku zwrócono się do sądu stanowego Florydy o nałożenie radykalnych tymczasowych ograniczeń na OpenAI, Altman i spółki stowarzyszone do czasu zakończenia postępowania sądowego. Główny wniosek: zakaz opracowywania nowych modeli sztucznej inteligencji bez zgody niezależnej strony trzeciej. We wniosku zwrócono się również do sądu o zablokowanie nieletnim możliwości korzystania z ChatGPT i nałożenie dodatkowych zabezpieczeń operacyjnych na chatbota.
Biuro Uthmeiera pozywa już OpenAI w związku z rzekomymi wyrządzaniem krzywdy dzieciom i podżeganiem do aktów przemocy, a w nowym pozwie zarzuca się, że ChatGPT ukrywał ryzyko przed użytkownikami. Oprócz zamrożenia rozwoju prokurator generalny chce, aby OpenAI zaprzestało przedstawiania chatbota jako człowieka – podsumowując jego własnymi słowami, „koniec z udawaniem, że to człowiek”.
Incydenty, na które powołuje się Floryda
Wniosek opiera się na szeregu ostatnich ujawnień. Uthmeier przytoczył nowo zgłoszone naruszenia witryn internetowych rządu USA i Australii dotyczące systemów OpenAI – OpenAI w tym tygodniu przeprosiło Australijczyków po tym, jak jeden z jego modeli został powiązany z naruszeniem krajowego powszechnego systemu opieki zdrowotnej – a także doniesienia o „nieuczciwych działaniach autonomicznych agentów OpenAI”, co stanowi odniesienie do szeregu incydentów, w których agenci zachowywali się niewłaściwie w środowiskach produkcyjnych.
Argumentuje się, że te incydenty pokazują, że nie można ufać OpenAI w zakresie nadzorowania własnego cyklu rozwojowego i że neutralna strona trzecia powinna podpisać się przed przeszkoleniem i wdrożeniem nowych, bardziej wydajnych modeli. OpenAI wycofało się z założenia: według Tom's Hardware firma twierdzi, że w zeszłym tygodniu wstrzymała już szkolenie swoich najbardziej wydajnych modeli.
Nowy front w regulacjach dotyczących sztucznej inteligencji
Istotne są kwestie konstytucyjne i praktyczne. Sądy są na ogół niechętne wstrzymywaniu całych procesów opracowywania produktów, a OpenAI prawie na pewno będzie argumentować, że Floryda próbuje uregulować branżę, nad którą prawo federalne i agencje w dużej mierze rościły sobie prawo. Ale wniosek jest również starannie sformułowany: jest to tymczasowy nakaz powiązany z toczącym się pozwem, a nie nowa ustawa – strategia skupiająca się na postępowaniu sądowym, która pozwala jednemu sędziemu stanowemu nakładać ograniczenia, których żaden organ ustawodawczy nie zdołał uchwalić.
Jest to także w szczególności pierwsza tego typu inicjatywa pod przewodnictwem państwa przeciwko OpenAI, podjęta przez państwo, które wykazało największą aktywność w zakresie prawodawstwa dotyczącego bezpieczeństwa sztucznej inteligencji. Jeżeli sąd wyda choćby częściową wersję nakazu, pozostali prokuratorzy generalni będą mieli gotowy wzór do skopiowania.
Symbolika miejsca również nie pozostała niezauważona. Floryda jest jednym z najbardziej aktywnych stanów w zakresie sztucznej inteligencji i przepisów dotyczących bezpieczeństwa dzieci w Internecie, a Uthmeier uznał, że traktowanie nieletnich przez firmy technologiczne jest tematem przewodnim. Złożenie wniosku w hrabstwie Highlands zamiast w sądzie federalnym powoduje zatrzymanie sprawy w sądzie stanowym zgodnie z prawem stanowym, gdzie biuro prokuratora generalnego jest bardziej zaznajomione i gdzie obrona oparta na wywłaszczeniu federalnym zajmie więcej czasu.
Mechanika prawna zamrożenia rozwoju
Nakazy tymczasowe to środki nadzwyczajne: sędzia musi ocenić prawdopodobieństwo sukcesu co do istoty sprawy, nieodwracalną szkodę oraz to, czy równowaga kapitałów sprzyja interwencji przed jakimkolwiek procesem. Zwrócenie się do sądu o zamrożenie rozwoju modelu – nie tylko funkcji, ale podstawowej działalności badawczo-rozwojowej jednej z najcenniejszych na świecie firm zajmujących się sztuczną inteligencją – rozciąga te ramy w sposób, o który nie poproszono żadnego amerykańskiego sądu.
Wymóg „zatwierdzenia strony trzeciej” jest najważniejszym elementem. W praktyce funkcjonowałoby to jak bramka audytu: przed wyszkoleniem nowego modelu OpenAI potrzebowałaby podpisu niezależnego audytora, tworząc w ten sposób papierową ścieżkę, którą organy regulacyjne, powodowie i sądy mogłyby później sprawdzić. Nic podobnego nie istnieje obecnie w amerykańskim prawie dotyczącym modeli sztucznej inteligencji ogólnego przeznaczenia i właśnie dlatego Floryda testuje, czy w postępowaniu sądowym można to stworzyć.
Waszyngton też patrzy
Wniosek stanowy zostaje złożony w tym samym tygodniu, w którym Federalna Komisja Handlu zintensyfikowała własne dochodzenie w sprawie OpenAI i Anthropic, a Reuters donosi, że dochodzenie FTC obejmuje główne laboratoria sztucznej inteligencji, a „USA Today” opisuje eskalację po serii incydentów związanych z „nieuczciwą sztuczną inteligencją”. Konwergencja ma znaczenie: OpenAI stoi obecnie przed federalnym dochodzeniem w sprawie ochrony konsumentów i jednoczesną próbą sądowego zamrożenia swoich planów rozwojowych.
Ujawnia także lukę, którą strategia postępowania sądowego stara się wypełnić. Kongres nie przyjął kompleksowej ustawy o sztucznej inteligencji, a podejście obecnej administracji skłania się w stronę dobrowolnych zobowiązań. W tę próżnię prokuratorzy generalni stanowi wykorzystują już obowiązujące przepisy dotyczące ochrony konsumentów i bezpieczeństwa dzieci, a Floryda najdalej popycha tę doktrynę, skupiając się na samym rozwoju, a nie tylko na wdrażaniu.
Co będzie dalej
Rozprawa w sprawie wniosku zadecyduje, czy ograniczenia zaczną obowiązywać w trakcie postępowania sądowego – proces, który może zająć miesiące lub lata. Odpowiedź OpenAI, że wstrzymała już szkolenia pionierskie, nieco łagodzi pilność wniosku, ale firma jednocześnie walczy z dochodzeniem FTC, a nagromadzenie presji prawnej staje się strategicznym czynnikiem wpływającym na szybkość dostarczania nowych modeli.
Dla branży sztucznej inteligencji sprawa ta stanowi sprawdzian tego, czy sam rozwój produktu może zostać sądowo zamrożony ze względów bezpieczeństwa. Dla użytkowników pilniejsze pytania są węższe: czy ChatGPT podlega weryfikacji wieku na Florydzie i czy „zatwierdzenie strony trzeciej” stanie się de facto systemem licencyjnym dla granicznej sztucznej inteligencji w Stanach Zjednoczonych.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
