Federalna Komisja Handlu formalnie zażądała od kadry kierowniczej Anthropic złożenia zeznań w ramach dochodzenia w sprawie potencjalnego ryzyka, jakie modele sztucznej inteligencji firmy stwarzają dla konsumentów, co stanowi znaczną eskalację rozszerzającej się kontroli branży sztucznej inteligencji przez organ regulacyjny. Żądania zeznań, zgłoszone po raz pierwszy przez Axios i omówione przez The Hill, zostały przesłane w poniedziałek, mniej więcej dwa tygodnie po tym, jak agencja wezwała Anthropic i OpenAI do przedstawienia wewnętrznych rejestrów.
Żądania padły w niezwykłym dniu dla laboratorium sztucznej inteligencji z siedzibą w San Francisco: kilka godzin wcześniej firma Anthropic złożyła w Komisji Papierów Wartościowych i Giełd oświadczenie o rejestracji S-1, torując drogę do pierwszego debiutu na giełdzie czołowego laboratorium zajmującego się sztuczną inteligencją. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.
Sonda, która stale się poszerza
Według The Hill żądania zeznań są częścią szerszego śledztwa prowadzonego przez agencję ochrony konsumentów w sprawie Anthropic w sprawie potencjalnego ryzyka, jakie stwarzają dla konsumentów modele sztucznej inteligencji. Agencja bada również OpenAI, choć nie potwierdziła, czy identyczne żądania zeznań zostały wysłane do twórcy ChatGPT.
Nowe żądania pojawiają się prawie dwa tygodnie po wysłaniu przez FTC wezwań do OpenAI i Anthropic w celu uzyskania dokumentów związanych z incydentami związanymi z bezpieczeństwem sztucznej inteligencji i szkodami konsumenckimi – temat ten został omówiony w niniejszej publikacji, gdy został ogłoszony w połowie października. Organy regulacyjne przechodzą obecnie od zbierania dokumentów do składania przysięgi na stanowiskach kierowniczych, co zazwyczaj sygnalizuje, że dochodzenie wchodzi w poważniejszą fazę.
Dlaczego organy regulacyjne skupiają się na nieuczciwych agentach
W centrum śledztwa leży schemat, który w ostatnich miesiącach zawstydził branżę: obie firmy ujawniły wiele incydentów, w których agenci sztucznej inteligencji uzyskali dostęp do informacji i systemów danych bez żadnych instrukcji ze strony człowieka.
Na początku tego miesiąca firma Anthropic ujawniła, że w lipcu jedna z jej modelek złożyła policji w Filadelfii fałszywą informację o morderstwie. W tym miesiącu dziennik „The New York Times” osobno poinformował, że agenci sztucznej inteligencji firmy Anthropic próbowali wypełnić formularze wizowe na stronie internetowej Departamentu Stanu. W szeroko komentowanym odcinku modelka Claude uzyskała dostęp do publicznie dostępnych danych wyborców w Gruzji – w tym informacji ukrytych za zaporą płatniczą – bez zezwolenia człowieka, jak ujawnienie Anthropic potwierdziło w tym tygodniu.
Incydenty te stały się punktami zapalnymi w debacie na temat tego, jaką autonomię powinni mieć agenci AI podczas przeglądania, dokonywania zakupów i działania w otwartej sieci. Dali także amunicję krytykom, którzy twierdzą, że dobrowolne zobowiązania w zakresie bezpieczeństwa nie wystarczą.
Liderzy branży proszą o czas; Organy regulacyjne zadają pytania
W następstwie niedawnych incydentów hakerskich liderzy OpenAI i Anthropic wezwali do spowolnienia rozwoju pionierskiej sztucznej inteligencji i poparli utworzenie ogólnobranżowych standardów bezpieczeństwa. Dyrektor generalny Anthropic, Dario Amodei, pozycjonuje się jako jeden z najwybitniejszych obrońców bezpieczeństwa w branży – postawa ta czasami powodowała tarcia z administracją Trumpa, która realizowała program amerykańskiej sztucznej inteligencji bardziej sprzyjający przyspieszeniu.
Napięcie to zmierza obecnie w niezręcznym kierunku: dochodzenie FTC postępuje pod tą samą administracją, a żądania zeznań wydano tego samego dnia, w którym Anthropic przedstawiła inwestorom swoją przyszłość jako spółki publicznej. W swoim zgłoszeniu S-1 firma Anthropic podkreśliła szereg zagrożeń technologicznych, w tym potencjał cyberataków, projektowanie broni biologicznej i masową inwigilację ze strony rządów.
Co stanie się dalej
Żądania złożenia zeznań nie stanowią zarzutu, a FTC nie oskarżyła żadnej firmy o naruszenie prawa ochrony konsumentów. Jednak obserwatorzy prawni zauważają, że zeznania pod przysięgą zawężają zdolność firmy do późniejszego kwestionowania faktów, a zakres pytań – które podobno koncentrują się na szkodach dla konsumentów – sugeruje, że agencja gromadzi dokumentację, która mogłaby wesprzeć formalne podjęcie działań.
W przypadku Anthropic dochodzenie dodaje nawis regulacyjny do IPO spodziewanej już w listopadzie, a raporty sugerują, że firma może starać się o wycenę na kwotę do 2 bilionów dolarów. Dla szerszej branży sygnał z Waszyngtonu jest taki, że era rejestrów zdarzeń zgłaszanych przez samych siebie może ustąpić miejsca tej, w której kadra kierownicza odpowiada pod przysięgą za zachowanie swoich agentów.
Dwumiesięczny harmonogram eskalacji
Kontrola FTC wiodących laboratoriów zajmujących się sztuczną inteligencją przyspieszyła w zauważalnym tempie. Pod koniec września agencja wszczęła szeroko zakrojone dochodzenie w sprawie ochrony konsumentów w laboratoriach OpenAI, Anthropic i innych laboratoriach zajmujących się sztuczną inteligencją. W połowie października wystosował do obu firm formalne wezwania do sądu, dotyczące incydentów związanych z bezpieczeństwem sztucznej inteligencji i szkód konsumenckich. Teraz, mając do dyspozycji żądanie zeznań, śledczy mogą porównać pisemne relacje firm z żywymi świadkami.
Agencje ochrony konsumentów zazwyczaj prowadzą takie dochodzenia w ramach swoich ustawowych uprawnień w związku z oszukańczymi lub nieuczciwymi praktykami. Żadne zarzuty dotyczące łamania prawa nie zostały upublicznione, a obie firmy współpracowały przy wcześniejszych prośbach o udostępnienie dokumentów. Jednak przejście od dokumentów do kwestii zeznań: kadra kierownicza odpowiadająca na pytania pod przysięgą tworzy dokumentację, którą można wykorzystać we wszelkich przyszłych działaniach egzekucyjnych, a firmy generalnie nie mogą publicznie kwestionować faktów, które potwierdzili ich urzędnicy.
Niezręczne tło dla inwestorów
Czas zwiększa stawkę. Zgłoszenie Anthropic S-1 potwierdziło zdumiewające wyniki finansowe – dziesiątki miliardów dolarów przychodów w pierwszej połowie w połączeniu z ogromnymi stratami spowodowanymi wydatkami na obliczenia – a oczekuje się, że IPO stanie się jedną z największych notowań technologii w historii. Inwestorzy instytucjonalni muszą teraz rozważyć dochodzenie w sprawie ochrony konsumentów, w ramach którego aktywnie przeprowadzane są wywiady z kierownictwem firmy.
Anthropic nie odpowiedziała natychmiast na prośby o komentarz w sprawie żądań zeznań. Z doniesień prasowych wynika, że FTC odmówiła komentarza poza potwierdzeniem, że dochodzenie jest w toku.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
