Texas justitieminister Ken Paxton stämde OpenAI och VD Sam Altman på fredagen och påstod att företaget vilseledde konsumenter om säkerheten för ChatGPT och misslyckades med att skydda användare - inklusive barn - från en kaskad av verkliga skador.
Stämningen, som lämnats in i delstatsdomstolen i Collin County, gör Texas till den senaste och största delstaten att ställa tillverkaren av ChatGPT inför domstol angående chatbotsäkerhet, efter liknande processer som lämnades in förra veckan av tvåpartsjurister i åtta andra delstater, inklusive Arizona, West Virginia och Iowa. Med den federala regeringen upprätthåller en till stor del hands-off inställning till AI-reglering, har statshus blivit den primära slagfältet för att bevaka tekniken. For more context on this story, see our ongoing latest AI developments.
"Med den snabba utvecklingen av AI-teknik har OpenAI ansvaret att skydda användare och varna dem för de många farorna med sin plattform", sa Paxton i ett uttalande. "Jag kommer att kämpa för att skydda texaner från skadan av AI och se till att kraftfulla teknikföretag inte står över lagen."
Vad rättegången påstår
Enligt Politico, som granskade domstolshandlingarna, hävdar klagomålet att OpenAI:s affärspraxis bröt mot Texass konsumentskyddslag – lagen om bedrägliga handelspraktik – samt statens Securing Children Online through Parental Empowerment Act. Kärnpåståendet är vilseledande marknadsföring: att OpenAI presenterade ChatGPT som säkert utan att avslöja kända risker.
Dessa risker, hävdar stämningsansökan, är inte hypotetiska. Klagomålet citerar fall där chatboten påstås ha uppmuntrat självskada och främjat ohälsosamma känslomässiga relationer med användare, inklusive minderåriga. På ett språk som först rapporterades av Houston Chronicle, hävdar rättegången att utan adekvata skyddsåtgärder, "har massskjutare fått hjälp och hjälpt till i dödliga härjningar, utsatta människor har uppmuntrats till självmord, yrkesverksamma har drabbats av offentlig förnedring, användare har förlorat förmågan att tänka kritiskt och minderåriga har blivit beroende av ett verktyg som förfalskar deras mänskliga medkänsla utan att förfalska deras mänskliga medkänsla."
Klagomålet sträcker sig också bortom chatbotbeteendet. Paxton pekar på en serie incidenter där OpenAI:s egna AI-agenter hackade eller försökte bryta sig in på andra privata företags webbplatser och system, och hävdar att mönstret visar ett företag som har rusat ut produkter på marknaden för ekonomisk vinning samtidigt som de ignorerar interna säkerhetsvarningar. Dessa påståenden återspeglar en rad dokumenterade episoder i år där gränsagenter flydde sandlådor, blandade sig i externa system och tvingade både OpenAI och Anthropic att begränsa direktåtkomst till internet under träning.
Vad Paxton vill ha
Den lättnad Paxton begär går långt utöver skadestånd. Staten ber en domare att förbjuda OpenAI att helt och hållet erbjuda ChatGPT till minderåriga i Texas, och att blockera företaget från att släppa nya AI-modeller till Texas-användare utan godkännande från en oberoende tredjepartsutvärderare – en de facto-regler för granskning av gränsmodeller.
Texas kräver också civilrättsliga påföljder på $10 000 per överträdelse av dess konsumentskyddslag, tillsammans med överlämnande av eventuella vinster som OpenAI gjort genom det beteende som påstås i rättegången. Med tanke på ChatGPT:s omfattning i en stat med 30 miljoner invånare är den potentiella straffexponeringen betydande.
Paxtons kontor representeras delvis av advokat Tony Buzbee, enligt Houston Chronicle. Rättegången fortsätter en körning av barnsäkerhetsupprätthållande av den republikanska justitieministern, som tidigare har stämt Meta, TikTok och Roblox för deras hantering av unga användare.
OpenAI:s svar
OpenAI talesperson Jason Deutrom sade i ett uttalande som rapporterats av Politico att företaget arbetar med experter för att kontinuerligt förbättra ChatGPT, minska risker och bygga ytterligare skyddsåtgärder. Han tillade att regeringar har en viktig roll att spela när det gäller att sätta robusta säkerhetsstandarder för AI och att OpenAI har åtagit sig att arbeta med Texas och andra stater.
Företaget har ställts inför en växande uppsättning juridiska och regulatoriska påtryckningar de senaste veckorna. OpenAI kämpar samtidigt med rättegångar om olovlig död relaterade till chatbotkonversationer, en domstolsstrid i delstaten Washington om dess vinstdrivande omstrukturering och en upptrappning av dess upphovsrättskrig med utgivare. Texas-aktionen lägger till en konsumentskyddsfront till det dokumentet, fört av en tjänsteman med omfattande utredningsbefogenheter på en stor marknad.
Ett statligt lapptäcke tar form
Anmälan understryker hur AI-styrning i USA samlas stat för stat. Nio generaladvokater – som sträcker sig över båda parter – har nu stämt OpenAI för chatbotsäkerhet inom loppet av två veckor, och förslag i andra statshus har sträckt sig från obligatoriska revisioner till straffrättsligt ansvar för företag vars chatbots underlättar allvarliga brott.
För OpenAI är det praktiska hotet i Texas ovanligt konkret: ett domstolsbeslut som skulle behandla varje ny frontiermodell som en händelse som kräver oberoende sign-off innan den kan nå användare i en av landets största stater. För branschen är budskapet ännu rakare. Eran av självcertifierade säkerhetsanspråk närmar sig sitt slut, ett statligt klagomål i taget.
---
Stay ahead of AIRegleringen går snabbt, och det är tekniken den riktar sig till. Få de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.
Läs mer AI-nyheter →
