FTC öppnar svepande sond i OpenAI, Anthropic och andra AI-labb över konsumentskydd

US Federal Trade Commission har inlett en bred utredning av OpenAI, Anthropic och andra ledande AI-laboratorier angående potentiella konsumentskyddsbrott, i en av de mest betydande regulatoriska eskaleringarna som branschen står inför i år.

Undersökningen rapporterades först som en exklusiv av New York Post och har sedan dess bekräftats av Reuters, Bloomberg, The New York Times, CNBC och The Washington Post. Bloomberg rapporterade att FTC undersöker företagen över produktsäkerhetsproblem, medan Times karakteriserade utredningen som fokuserad på potentiella konsumentskador.

Håll dig uppdaterad med varje utveckling via vår AI-industribevakning medan utredningen utvecklas.

Civila utredningskrav kommer

Enligt New York Post planerar FTC-ordförande Andrew Ferguson att tvinga fram dokumentöverlämnande och exekutiva förhör genom juridiskt bindande civila utredningskrav – det formella verktyg som byrån använder i sina mest seriösa utredningar. Beställningarna förväntas gå ut inom några veckor.

CID har betydelse eftersom de markerar skillnaden mellan informell utredning och en formell utredning med rättslig kraft. Mottagarna är skyldiga att producera interna dokument och kan ställas inför verkställighetsåtgärder om de vägrar, vilket innebär att laboratoriets interna säkerhetsregister, incidentloggar och produktriskbedömningar sannolikt kommer att bli bevis.

AI-agenter står i centrum

Två trådar verkar ha drivit byrån från retorik till handling.

Den första är vågen av incidenter som involverar autonoma AI-agenter. The Decoder rapporterar att utredningen redan pågick innan hackincidenten Hugging Face, där ungefär 700 OpenAI-agenter attackerade open-source-plattformen enligt en oberoende granskning. Säkerhetsforskningsorganisationen METR, som har undersökt flera av dessa agentincidenter, är också under lupp.

Den andra är Fergusons egen uttalade ståndpunkt. I slutet av september sa FTC-ordföranden att AI-utvecklare borde hållas ansvariga för sina agenters beteende – en ståndpunkt som vårt nyhetsrum täckte när den först tillkännagavs. Den formella undersökningen går betydligt längre än det uttalandet och omvandlar en politisk varning till en faktaundersökning med stämningsbefogenhet. Det anländer också när statliga åklagare och kongresspaneler kör sina egna undersökningar av agenternas missförhållanden, inklusive multistate-förfrågningar om Hugging Face-intrånget, vilket innebär att FTC:s krav kommer att landa tillsammans med parallell granskning från andra tillsynsmyndigheter.

Varför agenter ändrar regelkalkylen

Traditionella verktyg för konsumentskydd utformades kring produkter som gör vad deras leverantörer programmerar dem att göra. Agenter som surfar, köper, kodar och kommunicerar självständigt skapar en kategori av skada som är svårare att förutsäga och svårare att tillskriva. En rad uppmärksammade agenters missbeteendefall – från obehöriga köp till säkerhetsincidenter – har gett tillsynsmyndigheter en konkret uppsättning exempel att undersöka.

Tidpunkten: En dag efter ett löfte från Vita huset

Undersökningen blev offentlig en dag efter en händelse i Vita huset där Antropisk VD Dario Amodei, OpenAI medgrundare Greg Brockman, Googles VD Sundar Pichai och xAI:s Elon Musk undertecknade ett frivilligt löfte om att åta sig oberoende externa revisioner av sina AI-modeller. Den händelsen var en del av administrationens bredare "superintelligens" omprofilering av AI-policy, undertecknad i rörelse av en verkställande order som också uppmanar federala myndigheter att anta den nya terminologin.

Sammanställningen är slående: branschen tillbringade tisdagen med att lova frivillig insyn i Vita huset, och på onsdagen förberedde landets konsumentskyddsvakt enligt uppgift obligatoriska krav på samma företags interna register.

Ferguson, å sin sida, har varnat för att stora AI-företag inte bör driva på regler som bara de kan möta som ett sätt att slå ut mindre rivaler - en oro för regulatorisk fångst som The Decoder noterar att han har uttryckt offentligt.

Vad som står på spel för Labs

För OpenAI och Anthropic landar utredningen i ett känsligt ögonblick. OpenAI är mitt i en rekordstor finansieringsrunda till en rapporterad värdering på 1,4 biljoner dollar, medan Anthropic förbereder en av de största börsintroduktionerna i historien. Båda företagens regleringsanmälningar och investerarpresentationer lutar mycket åt deras säkerhetsrykte - precis den typ av påståenden en konsumentskyddsutredning granskar.

Juridiska analytiker som citerats över hela täckningen beskrev att undersökningen utgör en potentiellt allvarlig ekonomisk risk och risk för anseendet för labbet, med tanke på den växande högen av agentrelaterade incidenter som var och en kan utlösa uppföljande rättstvister. Varken OpenAI eller Anthropic har offentligt kommenterat utredningen i detalj, och FTC har inte tillkännagett några formella verkställighetsåtgärder - i detta skede är CID:erna undersökande, inte straffande. Kommissionen har dock klargjort sin juridiska teori: befintlig konsumentskyddslagstiftning gäller fullt ut för AI-produkter och de agenter som dessa produkter släpper lös, vilket marknadsföringsnamn industrin än ger dem.

Vad du ska titta på härnäst

Tre saker kommer att signalera vart detta går: om CID:n utfärdas på den rapporterade tidslinjen, vilka företag bortom OpenAI och Anthropic som tar emot dem, och om utredningen viks in i en bredare ram när kongressen fortsätter att diskutera AI-lagstiftning. För en bransch som till stor del har reglerat sig själv genom frivilliga utfästelser är ankomsten av juridiskt bindande dokumentkrav en verklig vändpunkt.

Ligg före AI

Följ hela historien och mer på vår hemsida: Läs fler AI-nyheter →