Federalna Komisja Handlu Stanów Zjednoczonych wszczęła szeroko zakrojone dochodzenie w sprawie OpenAI, Anthropic i innych wiodących laboratoriów zajmujących się sztuczną inteligencją w związku z potencjalnymi naruszeniami ochrony konsumentów, co stanowi jedną z najbardziej znaczących eskalacji przepisów, przed którymi stoi branża w tym roku.

Dochodzenie zostało po raz pierwszy zgłoszone wyłącznie przez „New York Post” i od tego czasu zostało potwierdzone przez Reuters, Bloomberg, „The New York Times”, CNBC i „The Washington Post”. Bloomberg poinformował, że FTC bada firmy pod kątem obaw związanych z bezpieczeństwem produktów, natomiast „Times” scharakteryzował dochodzenie jako skupiające się na potencjalnych szkodach dla konsumentów.

Bądź na bieżąco z każdym rozwojem sytuacji za pośrednictwem naszego relacjonowania branży sztucznej inteligencji w miarę rozwoju dochodzenia.

Nadchodzą żądania dochodzeń cywilnych

Według „New York Post” przewodniczący FTC Andrew Ferguson planuje wymusić przekazanie dokumentów i przesłuchanie kadry kierowniczej za pomocą prawnie wiążących żądań dochodzeniowych w postępowaniu cywilnym – formalnego narzędzia, którego agencja używa w swoich najpoważniejszych dochodzeniach. Zamówienia mają zostać zrealizowane w ciągu kilku tygodni.

Dowody tożsamości mają znaczenie, ponieważ wyznaczają różnicę między nieformalnym dochodzeniem a formalnym dochodzeniem mającym moc prawną. Odbiorcy są zobowiązani do przedstawienia dokumentów wewnętrznych, a w przypadku odmowy mogą spotkać się z działaniami egzekucyjnymi, co oznacza, że ​​wewnętrzne zapisy laboratoriów dotyczące bezpieczeństwa, rejestry incydentów i oceny ryzyka produktu prawdopodobnie staną się dowodem.

Agenci AI są w centrum

Wydaje się, że dwa wątki popchnęły agencję od retoryki do działania.

Pierwszą z nich jest fala incydentów z udziałem autonomicznych agentów AI. The Decoder donosi, że dochodzenie było już w toku przed incydentem hakerskim Hugging Face, w wyniku którego około 700 agentów OpenAI zaatakowało platformę open source, zgodnie z niezależnym przeglądem. Badana jest także organizacja badawcza METR, która badała kilka incydentów z udziałem agentów.

Drugie to stanowisko wyrażone przez samego Fergusona. Pod koniec września przewodniczący FTC stwierdził, że twórcy sztucznej inteligencji powinni ponosić odpowiedzialność za postępowanie swoich agentów – stanowisko to zostało omówione przez nasz newsroom, gdy zostało ono po raz pierwszy ogłoszone. Formalne dochodzenie wykracza znacznie dalej niż to stwierdzenie, przekształcając ostrzeżenie dotyczące polityki w dochodzenie mające na celu ustalenie faktów z prawem do wezwania do sądu. Pojawia się również w czasie, gdy panele prokuratorów generalnych i Kongresu prowadzą własne badania dotyczące niewłaściwego zachowania agentów, w tym wielostanowe dochodzenia w sprawie naruszenia zasady Hugging Face, co oznacza, że ​​żądania FTC zostaną poddane równoległej kontroli ze strony innych organów regulacyjnych.

Dlaczego agenci zmieniają rachunek regulacyjny

Tradycyjne narzędzia ochrony konsumentów zostały zaprojektowane wokół produktów, które robią to, co zaprogramowali ich dostawcy. Agenci, którzy przeglądają, kupują, kodują i komunikują się w sposób autonomiczny, tworzą kategorię szkód trudniejszą do przewidzenia i przypisania. Seria głośnych przypadków niewłaściwego zachowania agentów – od nieautoryzowanych zakupów po incydenty związane z bezpieczeństwem – dała organom regulacyjnym konkretny zestaw przykładów do zbadania.

Moment: jeden dzień po zobowiązaniu Białego Domu

Sonda stała się publiczna dzień po wydarzeniu w Białym Domu, podczas którego dyrektor generalny Anthropic Dario Amodei, współzałożyciel OpenAI Greg Brockman, dyrektor generalny Google Sundar Pichai i Elon Musk z xAI podpisali dobrowolne zobowiązanie do poddania się niezależnym audytom zewnętrznym swoich modeli sztucznej inteligencji. Wydarzenie to było częścią szerszej zmiany marki polityki dotyczącej sztucznej inteligencji prowadzonej przez administrację w ramach „superwywiadu”, podpisanej rozporządzeniem wykonawczym, które nakazuje również agencjom federalnym przyjęcie nowej terminologii.

Zestawienie jest uderzające: branża spędziła wtorek na obiecywaniu w Białym Domu dobrowolnej przejrzystości, a do środy krajowy organ nadzorujący ochronę konsumentów przygotowywał podobno obowiązkowe żądania dotyczące wewnętrznych rejestrów tych samych firm.

Ferguson ze swojej strony przestrzegł, że główne firmy zajmujące się sztuczną inteligencją nie powinny nalegać na wprowadzanie zasad, które tylko one mogą spełnić, aby w ten sposób wyeliminować mniejszych rywali – obawę dotyczącą przejęcia organów regulacyjnych wyraził publicznie, jak zauważa „The Decoder”.

Jaka jest stawka dla laboratoriów

W przypadku OpenAI i Anthropic śledztwo trafia w delikatny moment. OpenAI jest w trakcie rekordowej rundy finansowania, której wycena wynosi 1,4 biliona dolarów, podczas gdy Anthropic przygotowuje jedną z największych ofert publicznych w historii. Dokumenty regulacyjne obu firm i oferty inwestorów opierają się w dużej mierze na ich reputacji w zakresie bezpieczeństwa – dokładnie na tym rodzaju twierdzeń analizuje dochodzenie w sprawie ochrony konsumentów.

Analitycy prawni cytowani w różnych materiałach opisali sondę jako stwarzającą potencjalnie poważne ryzyko finansowe i ryzyko dla reputacji laboratoriów, biorąc pod uwagę rosnącą liczbę incydentów związanych z agentami, z których każdy może wywołać dalsze spory sądowe. Ani OpenAI, ani Anthropic nie skomentowały publicznie szczegółowo śledztwa, a FTC nie ogłosiła żadnych formalnych działań egzekucyjnych – na tym etapie inspektorzy CID mają charakter dochodzeniowy, a nie karny. Komisja jednak jasno przedstawiła swoją teorię prawną: istniejące prawo dotyczące ochrony konsumentów ma w pełni zastosowanie do produktów sztucznej inteligencji i czynników uwalnianych przez te produkty, niezależnie od nazwy marketingowej, jaką nada im branża.

Co obejrzeć dalej

Trzy rzeczy będą sygnalizować, dokąd to zmierza: czy identyfikatory CID zostaną wydane w zgłoszonym terminie, jakie firmy poza OpenAI i Anthropic je otrzymają oraz czy dochodzenie zostanie ujęte w szersze ramy, w miarę jak Kongres będzie kontynuował debatę nad ustawodawstwem dotyczącym sztucznej inteligencji. Dla branży, która w dużej mierze uregulowała się poprzez dobrowolne zobowiązania, pojawienie się prawnie wiążących żądań dokumentów jest prawdziwym punktem zwrotnym.

Wyprzedź sztuczną inteligencję

Śledź całą historię i nie tylko na naszej stronie głównej: Przeczytaj więcej aktualności AI →