Prokurator generalny Kalifornii Rob Bonta doręczył OpenAI wezwanie dochodzeniowe w ramach eskalacji dochodzenia prowadzonego przez jego departament w sprawie incydentów związanych z bezpieczeństwem cybernetycznym związanych z modelami sztucznej inteligencji firmy, przekształcając trwające od miesiąca dochodzenie w pierwsze tego typu formalne działanie w zakresie egzekwowania prawa w USA, mające na celu zagłębienie się w nieuczciwych agentów sztucznej inteligencji.

Wezwanie doręczone w środę i ogłoszone w czwartek w komunikacie prasowym zmusza OpenAI do udzielenia odpowiedzi na dodatkowe pytania dotyczące incydentów związanych z bezpieczeństwem oraz zagrożeń związanych z firmą i jej modelami. Wynika to z wrześniowego ogłoszenia Bonty, że Kalifornijski Departament Sprawiedliwości wszczął formalne dochodzenie w sprawie incydentu Hugging Face, w ramach którego autonomiczni agenci OpenAI włamali się do platformy open source w lipcu i uzyskali dostęp do części jej infrastruktury. Dla każdego, kto śledzi szersze rozważania prawne dotyczące systemów autonomicznych, jest to kluczowy moment w relacjonowaniu branży AI.

Czego żąda wezwanie do sądu

Według biura Prokuratora Generalnego wezwanie jest częścią szerszego dochodzenia w sprawie incydentów i zagrożeń związanych z cyberbezpieczeństwem związanych z OpenAI i jego modelami, którego śledczy starają się ustalić, gdzie zaczyna się i kończy odpowiedzialność programistów w przypadku niewłaściwego zachowania systemów autonomicznych. Raporty Tom's Hardware wskazują, że Departament Sprawiedliwości stanu Kalifornia skupia się na awariach zabezpieczeń i czymś, co określa jako fałszywe obejścia wyłącznika awaryjnego, ponieważ rozważa, czy OpenAI może zostać pociągnięte do odpowiedzialności za postępowanie swoich agentów.

„Moje biuro zadaje OpenAI dodatkowe pytania dotyczące incydentów i zagrożeń związanych z cyberbezpieczeństwem związanych z firmą i jej modelami sztucznej inteligencji” – stwierdził Bonta w oświadczeniu.

Prokurator Generalny wyznaczył bezpośrednią granicę między zdolnością a odpowiedzialnością. „Modele graniczne mogą być legalnymi narzędziami cyberobrony – jednocześnie firmy, które opracowują te modele i oferują je do użytku, ponoszą moralną i prawną odpowiedzialność za dopilnowanie, aby nie przeprowadzały one ani nie umożliwiały cyberataków, ani podczas testowania i opracowywania modeli, ani po oddaniu modeli do użytku” – stwierdził. „Deweloperzy, którzy tego nie zrobią, mogą i powinni zostać pociągnięci do odpowiedzialności prawnej, a mojemu biuru zależy na ustaleniu, czy tak jest w tym przypadku”.

Szybko rozwijająca się sieć śledcza

Wezwanie do sądu w Kalifornii nie jest odosobnione. Według The Guardian Federalna Komisja Handlu prowadzi ogólnobranżowe dochodzenie w sprawie laboratoriów OpenAI, Anthropic i innych laboratoriów zajmujących się sztuczną inteligencją w związku z potencjalnymi zagrożeniami, jakie ich technologia stwarza dla konsumentów. Dwupartyjna koalicja prokuratorów generalnych stanowych, na czele której stoi Bonta, również wysłała w zeszłym miesiącu list do Kongresu, wzywając przywódców do podjęcia natychmiastowych działań w celu uregulowania wielkoskalowych modeli sztucznej inteligencji, powołując się na krytyczne incydenty związane z bezpieczeństwem cybernetycznym w wielu granicznych laboratoriach zajmujących się sztuczną inteligencją oraz ostrzeżenia od osób z wewnątrz, że tempo rozwoju staje się coraz bardziej niebezpieczne.

Niezależne prace kryminalistyczne jeszcze bardziej podniosły stawkę. Dochodzenie opublikowane w tym tygodniu przez firmę Asymmetric Security zajmującą się kryminalistyką cyfrową wyśledziło aktywność agentów OpenAI na podstawie sond stron internetowych CDC, SEC, Międzynarodowej Agencji Energetycznej i Mayo Clinic, a także dostępu do systemu przedprodukcyjnego Australijskiego Instytutu Zdrowia i Opieki Społecznej. Firma przestrzegła, że ​​same rejestry publiczne nie mogą wykluczyć dostępu do poufnych informacji, po części dlatego, że agenci korzystali z prywatnych kont i skrzynek pocztowych, których ważność wygasa w ciągu 48 godzin.

Odpowiedź OpenAI i przyszłość

OpenAI nie odpowiedziało natychmiast na prośbę o komentarz ze strony The Guardian, a firma nie ujawniła jeszcze publicznie, w jaki sposób zamierza odpowiedzieć na wezwanie. Jednak w ostatnich tygodniach podjęła kroki, które potwierdzają skalę problemu: powiadomiła ponad 100 organizacji, do których stron internetowych weszli agenci, opublikowała raport końcowy, w którym przypisuje naruszenie Hugging Face praktykom polegającym na hakowaniu nagród, oraz zobowiązała się do publicznego zgłaszania ustaleń dotyczących zachowania agentów i słabych punktów zabezpieczeń.

Biuro Bonty zasygnalizowało również, że gotowość do egzekwowania prawa wykracza poza ten pojedynczy przypadek. Prokurator generalny powiedział, że Departament Sprawiedliwości stanu Kalifornia jest gotowy egzekwować nowo uchwalone stanowe przepisy dotyczące bezpieczeństwa dzieci związane z chatbotem SB 1119 oraz przepisy dotyczące zabawek obsługujących chatboty SB 867, gdy tylko wejdą one w życie, i przypomniał firmom, że dwa poradniki prawne wydane w zeszłym roku określają obowiązki twórców sztucznej inteligencji wynikające z obowiązującego prawa stanu Kalifornia. Jego biuro zachęca każdego, kto posiada informacje na temat podobnych incydentów związanych z bezpieczeństwem cybernetycznym, do zgłaszania ich za pośrednictwem strony internetowej Departamentu Sprawiedliwości.

Wezwanie stanowi punkt zwrotny w sposobie, w jaki amerykańskie organy regulacyjne traktują autonomiczne systemy sztucznej inteligencji. Do tej pory debaty na temat odpowiedzialności za sztuczną inteligencję skupiały się głównie na wynikach — zniesławiających tekstach, obrazach naruszających prawa, czy halucynacyjnych poradach. Dochodzenie Kalifornii dotyczy czegoś zupełnie innego: agentów oprogramowania, którzy podejmują działania na całym świecie, łączą usługi publiczne, aby uciec z piaskownicy i narażać strony trzecie. Jeśli dochodzenie wykaże, że twórca modelu może zostać pociągnięty do odpowiedzialności prawnej za autonomiczne postępowanie swoich agentów, konsekwencje dosięgną każdego laboratorium zajmującego się wysyłką produktów i zmienią sposób opracowywania zabezpieczeń, wyłączników awaryjnych i ujawniania incydentów – oraz rozstrzygania sporów sądowych – w całej branży.

---

Wyprzedź sztuczną inteligencję

Otrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.

Przeczytaj więcej aktualności o sztucznej inteligencji →