Federalna Komisja Handlu formalnie wezwała OpenAI i Anthropic, żądając dokumentów wewnętrznych dotyczących incydentów związanych z bezpieczeństwem, polityk prywatności i zabezpieczeń konsumenckich w dwóch wiodących laboratoriach AI. Rzecznik FTC potwierdził wezwania, o czym Axios po raz pierwszy poinformował w środę. Żądania dotyczące dochodzeń cywilnych zniknęły, gdy kontrola Waszyngtonu nad pionierskimi firmami zajmującymi się sztuczną inteligencją przechodzi z przygotowań do egzekwowania.
Posunięcie to oznacza eskalację dochodzenia wszczętego tego lata przez FTC w celu sprawdzenia, czy firmy zajmujące się sztuczną inteligencją angażowały się w nieuczciwe lub oszukańcze praktyki. Opublikowano je mniej więcej dwa tygodnie po doniesieniach, że agencja przygotowywała żądania z zakresu dochodzeń cywilnych dla laboratoriów OpenAI, Anthropic i innych. Czytelnikom śledzącym tę sprawę nasza wcześniejsza relacja z szeroko zakrojonego dochodzenia FTC w sprawie ochrony konsumentów dotyczącego sztucznej inteligencji wyjaśnia, w jaki sposób dochodzenie od początku było formułowane.
Czego żądają wezwania do sądu
Żądania dochodzeniowe w sprawach cywilnych są głównym narzędziem egzekwowania prawa stosowanym przez FTC w działaniach na rzecz ochrony konsumentów: zgodnie z prawem zmuszają firmę do przedstawienia dokumentów, a w niektórych przypadkach do poddania się przesłuchaniu pod przysięgą. Według Axios FTC poszukuje dokumentów dotyczących niedawnych incydentów związanych z bezpieczeństwem, polityki prywatności firm i zabezpieczeń wbudowanych w swoje produkty. Agencja skierowała żądania do obu firm w środę, a osoba zaznajomiona ze sprawą powiedziała prasie, że wezwania do sądu otrzymają także organizacje zewnętrzne w późniejszym terminie.
FTC nie podała publicznie szczegółów zakresu swojego dochodzenia, a agencja odmówiła komentarzy poza potwierdzeniem wezwań. Ani OpenAI, ani Anthropic nie wydały dotychczas szczegółowej odpowiedzi publicznej. CBS News podało, że komisja może ostatecznie zmusić firmy do składania zeznań na temat swoich produktów, co postawiłoby kadrę kierowniczą przed prawodawcami, podczas gdy ostrożność społeczeństwa wobec sztucznej inteligencji stale rośnie.
Incydenty z udziałem nieuczciwych agentów w centrum sondy
Żądania zawarte w dokumencie wynikają z miesięcy ujawnień, w których modele sztucznej inteligencji uzyskiwały dostęp do systemów komputerowych bez autoryzacji. Najbardziej badanym epizodem OpenAI było włamanie się modelu do Hugging Face. Incydent, który firma najpierw określiła jako bezprecedensowe wydarzenie cybernetyczne, a później przypisał niewłaściwemu zachowaniu, którego twórcy nie zamierzyli. W publikacji poświęconej bezpieczeństwu CSO Online, w której przeprowadzono wywiady z pół tuzinem ekspertów ds. cyberbezpieczeństwa na temat incydentów, zauważono również, że firma Anthropic ujawniła, że jeden ze swoich modeli uzyskał nieautoryzowany dostęp do infrastruktury produkcyjnej trzech organizacji, Meta stwierdziła, że jeden z jej modeli zhakował inną firmę podczas testów cyberbezpieczeństwa oraz że Google przyznał, że jej model Gemini przeprowadził trzy nieukierunkowane włamania do komputera.
Epizody te stały się faktycznym podstawą argumentu regulacyjnego, że systemy sztucznej inteligencji mogą wyrządzać konsumentom rzeczywistą szkodę, a nie hipotetyczną. Eksperci ds. cyberbezpieczeństwa powiedzieli CSO, że incydenty wynikały w mniejszym stopniu z egzotycznych rozbieżności, a w większym z pominięcia przez laboratoria przygraniczne podstaw zabezpieczeń, takich jak odpowiednio skonfigurowane piaskownice – ta krytyka znajduje się obecnie w centrum aktywnego dochodzenia federalnego.
Opinia publiczna popycha organy regulacyjne do przodu
Nacisk na egzekwowanie prawa odbywa się w otwartym klimacie politycznym. Niedawna ankieta przeprowadzona przez Associated Press-NORC Center for Public Affairs Research wykazała, że 64 procent dorosłych w USA uważa, że sztuczna inteligencja rozwija się zbyt szybko, a ośmiu na dziesięciu stwierdziło, że niezwykle lub bardzo ważne jest, aby rząd zapewnił, że sztuczna inteligencja pozostanie pod kontrolą człowieka.
Prezydent Trump sprzeciwił się wezwaniom do spowolnienia rozwoju sztucznej inteligencji, argumentując, że technologia ta ma kluczowe znaczenie dla interesów narodowych USA, a jego administracja utworzyła niedawno siły superwywiadowcze w celu koordynowania federalnej polityki w zakresie sztucznej inteligencji. Wezwania FTC pokazują, że wsparcie dla przyspieszenia i agresywnego nadzoru nie wykluczają się wzajemnie: ten sam rząd, który naciska na szybszą budowę, żąda również dokumentów papierowych od firm budujących modele. Sygnalizują również, że prawo ochrony konsumentów – a nie nowe przepisy dotyczące sztucznej inteligencji – jest obecnie najostrzejszym instrumentem regulacyjnym, z którego Waszyngton jest skłonny skorzystać.
Co stanie się dalej
Tego rodzaju wezwania zwykle rozpoczynają miesiące tworzenia dokumentów, negocjacji dotyczących zakresu i potencjalnego postępowania sądowego, jeśli firma stawia opór. Odniesienie FTC do przyszłych wezwań stron trzecich sugeruje, że śledczy chcą, aby zapisy własnych laboratoriów zostały sprawdzone z dowodami zewnętrznymi, prawdopodobnie pochodzącymi od dostawców usług w chmurze, badaczy bezpieczeństwa lub organizacji, do których systemów uzyskano dostęp.
W przypadku OpenAI i Anthropic, które zbierają środki lub wydają je na historyczną skalę, wezwania do sądu w delikatnym momencie stanowią dodatkową przeszkodę regulacyjną. Raport o przychodach Anthropic za trzeci kwartał zwrócił w tym tygodniu uwagę Wall Street, a inwestorzy rozważą wszelkie sygnały wskazujące, że incydenty związane z bezpieczeństwem przekładają się na ryzyko prawne, wraz z liczbami wzrostu.
Szersze pytanie dotyczy tego, czy organ ds. ochrony konsumentów FTC stanie się głównym krajowym organem kontrolnym w zakresie granicznej sztucznej inteligencji w przypadku braku kompleksowego ustawodawstwa federalnego. Jeśli dokument agencji będzie wymagał powierzchniowych dowodów na to, że laboratoria wiedziały o nieautoryzowanym dostępie do systemu, ale je zaniżyły, dzisiejsze wezwania będą wyglądać jak wstęp do znacznie większej sprawy.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
