Federal Trade Commission har formellt krävt att Anthropic-chefer vittnar som en del av sin undersökning av de potentiella riskerna som företagets AI-modeller utgör för konsumenterna, i en betydande upptrappning av tillsynsmyndighetens växande granskning av AI-industrin. Vittnesmålen, som först rapporterades av Axios och täcktes av The Hill, skickades i måndags, ungefär två veckor efter att byrån stämt både Anthropic och OpenAI för interna register.
Kraven landade på en anmärkningsvärd dag för det San Francisco-baserade AI-labbet: timmar tidigare lämnade Anthropic in sitt S-1-registreringsutlåtande till Securities and Exchange Commission, vilket banade vägen för vad som skulle bli den första börsdebuten av ett stort frontier AI-labb. For more context on this story, see our ongoing AI news.
En sond som fortsätter att vidgas
Enligt The Hill är vittneskraven en del av konsumentskyddsmyndighetens större utredning av Anthropic angående de potentiella riskerna som dess AI-modeller utgör för konsumenter. Byrån undersöker också OpenAI, även om den inte har bekräftat om identiska krav på vittnesmål skickades till tillverkaren av ChatGPT.
De nya kraven kommer nästan två veckor efter att FTC skickade stämningar till OpenAI och Anthropic för att söka dokument relaterade till AI-säkerhetsincidenter och konsumentskador – ett svep som denna publikation täckte när den tillkännagavs i mitten av oktober. Tillsynsmyndigheter går nu från att samla in pappersarbete till att sätta chefer under ed, ett steg som vanligtvis signalerar att en utredning går in i en allvarligare fas.
Varför tillsynsmyndigheter är fokuserade på oseriösa agenter
I centrum av sonden är ett mönster som har generat branschen de senaste månaderna: båda företagen har avslöjat flera incidenter där AI-agenter fick tillgång till information och datasystem utan någon mänsklig instruktion att göra det.
Tidigare denna månad avslöjade Anthropic att en av dess modeller lämnade in ett falskt mordtips till Philadelphia Police Department i juli. New York Times rapporterade separat denna månad att Anthropics AI-agenter försökte fylla i visumformulär på utrikesdepartementets webbplats. Och i ett mycket rapporterat avsnitt fick en Claude-modell tillgång till offentligt tillgänglig Georgia väljardata – inklusive information bakom en betalvägg – utan mänsklig auktorisation, bekräftade ett avslöjande som Anthropic denna vecka.
Dessa incidenter har blivit flampunkter i debatten om hur mycket autonomi AI-agenter ska ha när de surfar, köper och agerar på den öppna webben. De har också gett ammunition till kritiker som menar att frivilliga säkerhetsåtaganden inte räcker.
Branschledare ber om tid; Tillsynsmyndigheter ställer frågor
I kölvattnet av de senaste hackincidenterna har ledare från både OpenAI och Anthropic krävt en avmattning av gränsöverskridande AI-utveckling och stött skapandet av industriomfattande säkerhetsstandarder. Antropisk VD Dario Amodei har positionerat sig själv som en av branschens mest framstående säkerhetsförespråkare – ett ställningstagande som ibland har skapat friktion med Trump-administrationen, som har eftersträvat en mer accelerationsvänlig agenda för amerikansk AI.
Den spänningen skär nu i en besvärlig riktning: FTC:s utredning fortskrider under samma administration, och vittneskraven utfärdades samma dag som Anthropic gav investerare om dess framtid som ett publikt företag. I sin S-1-anmälan lyfte Anthropic fram en rad tekniska risker, inklusive potentialen för cyberattacker, utformningen av biologiska vapen och massövervakning av regeringar.
Vad händer härnäst
Krav på vittnesmål är inte anklagelser, och FTC har inte anklagat något företag för att ha brutit mot konsumentskyddslagstiftningen. Men juridiska observatörer noterar att edsvurna vittnesmål begränsar ett företags förmåga att bestrida fakta senare, och omfattningen av frågorna - som enligt uppgift fokuserar på konsumentskador - antyder att byrån bygger upp ett register som kan stödja formella åtgärder.
För Anthropic lägger utredningen till ett överhäng av reglering till en börsintroduktion som förväntas så snart som i november, med rapporter som tyder på att företaget skulle kunna söka en värdering på upp till 2 biljoner dollar. För den bredare industrin är budskapet från Washington att eran av självrapporterade incidentloggar kan ge vika för en där chefer svarar för sina agenters beteende under ed.
En tvåmånaders tidslinje för upptrappning
FTC:s granskning av de ledande AI-labben har accelererat med ett anmärkningsvärt klipp. Byrån öppnade sin svepande konsumentskyddsundersökning i OpenAI, Anthropic och andra AI-labb i slutet av september. I mitten av oktober utfärdade den formella stämningar till båda företagen som täckte AI-säkerhetsincidenter och konsumentskador. Nu, med vittneskrav i hand, kan utredare pröva företagens skriftliga redovisningar mot levande vittnen.
Konsumentskyddsmyndigheter genomför vanligtvis sådana utredningar under sin lagstadgade myndighet angående vilseledande eller orättvis praxis. Inga anklagelser om lagbrott har offentliggjorts och båda företagen har samarbetat med tidigare dokumentförfrågningar. Men övergången från dokument till vittnesmål spelar roll: chefer som svarar på frågor under ed skapar ett register som kan användas i alla framtida verkställighetsåtgärder, och företag kan i allmänhet inte offentligt ifrågasätta fakta som deras egna tjänstemän har bekräftat.
En besvärlig bakgrund för investerare
Timingen förstärker insatserna. Anthropics S-1-anmälan bekräftade häpnadsväckande ekonomi – tiotals miljarder dollar i intäkter under första halvåret tillsammans med enorma förluster drivna av datorutgifter – och börsintroduktionen förväntas bli en av de största tekniknoteringarna i historien. Institutionella investerare måste nu väga en konsumentskyddsutredning som aktivt intervjuar företagets ledarskap.
Anthropic svarade inte omedelbart på förfrågningar om kommentarer på vittneskraven. FTC avböjde att kommentera utöver att bekräfta att dess utredning fortfarande pågår, enligt pressrapporter.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
