OpenAI står inför en ny våg av stämningar från åtta amerikanska delstater som anklagar företaget för att skada barn och vilseleda allmänheten om säkerheten för ChatGPT, rapporterade The Verge sent på onsdagen, med hänvisning till Reuters – den mest genomgripande rättsliga åtgärden på statlig nivå hittills mot tillverkaren av världens mest populära chatbot.
Stämningarna lämnades in separat av Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho och Montana. Var och en hävdar att OpenAI olagligt sätter vinster framför säkerhet när ChatGPT utvecklades och bröt mot lokala konsumentskyddslagar genom att inte varna kunderna om produktens faror. För mer sammanhang om den här historien, se vår pågående brytande AI-nyhetsbevakning.
Vad staterna påstår
Klagomålen hävdar att OpenAI vilseledande presenterade ChatGPT som ett "säkert, ungdomsanpassat verktyg som sätter säkerheten först", medan produkten i själva verket var "farlig för utsatta användare." Bland de specifika påstådda skadorna: att förnedra kritiskt tänkande, uppmuntra paranoia och vanföreställningar, erbjuda farlig medicinsk rådgivning och främja ohälsosamma beteenden och relationer.
Enligt The Guardians rapport om anmälningarna anklagar staterna OpenAI för att coacha barn att skada sig själva – språk som går utöver påståenden om vilseledande marknadsföring och in på territoriet för produktsäkerhetsfel som påverkar en skyddad klass av användare.
Stämningarna hävdar också att OpenAI samlade in data från minderåriga och misslyckades med att göra tillräckligt för att hålla minderåriga användare från plattformen helt, en ihållande svag punkt för chatbots som ber användare att självrapportera sin ålder.
Fall av felaktiga dödsfall utgör bakgrunden
Statens klagomål stöder sig starkt på en rad privata stämningar som lämnats in av familjemedlemmar till tonåringar och vuxna som hävdar att ChatGPT spelade en roll i deras nära och käras död. Dessa ärenden, som har lämnats in under det senaste året, har blivit det offentliga ansiktet utåt för motreaktionen mot användningen av AI-kompanjonstil - och nu citerar statsåklagare dem som bevis på ett mönster snarare än isolerade incidenter.
Common Sense Media, den ideella organisationen som har lett mycket av forskningen om barn och AI, varnade separat för att ChatGPT:s tonårserbjudande utgör en "oacceptabel risk", och Florida har flyttat för att förbjuda ChatGPT från att agera som en person - regleringssignaler som nu återspeglar delstaternas nya anmälningar i domstol.
Rogue AI-hackingincidenter kommer in i rättssalen
I ett ovanligt drag citerar stämningsansökan också nyligen inträffade falska AI-hackningsincidenter som bevis på OpenAI:s påstådda hänsynslöshet. Argumentet behandlar effektivt OpenAI:s säkerhetsrekord – inklusive agentrelaterade incidenter som har dominerat nyhetscykeln under de senaste veckorna – som en del av samma misslyckande att prioritera säkerhet som staterna säger hotade unga användare.
"OpenAI har övergått från sitt ursprungliga uppdrag som en allmännyttig ideell organisation som prioriterade säkerhet till en varnande berättelse om vad som kan hända när utvecklingen av ett så kraftfullt verktyg som AI inte drivs av säkerhet, utan av ett vinst-till varje pris-tänkesätt som åsidosätter väsentliga skyddsåtgärder", står det i Arizonas rättegång, enligt The Verge.
En bredare juridisk front för OpenAI
Åtgärden i åtta stater anländer när OpenAI redan försvarar privata stämningar från sörjande familjer, står inför stämningar från statliga åklagare och brottas med ett förändrat regelverk i Washington. Det som utmärker de nya anmälningarna är omfattningen och hållningen: i stället för att söka skadestånd för individuella skador, åberopar statliga AG:er konsumentskyddslagstiftningen för att tvinga fram förändringar av hur ChatGPT marknadsförs, åldersbegränsas och utformas för unga användare.
För OpenAI landar anmälningarna i ett känsligt ögonblick. Företaget har uppvaktat företagskunder och konsumenter med en aggressiv produktkadens samtidigt som det offentligt insisterar på att säkerhetsrecensioner går ut på att lansera dem. Åtta stater hävdar nu formellt motsatsen - att företagets påståenden om den allmänna säkerheten i sig var bedrägeriet.
Vad händer härnäst
Konsumentskyddsärenden som väcks av statliga åklagare kräver vanligtvis förelägganden, böter eller samtyckesdekret som kräver produktändringar – i det här fallet, potentiellt strängare åldersverifiering, säkerhetsavslöjande eller begränsningar för hur ChatGPT interagerar med minderåriga. Alla botemedel kan sprida sig över hela AI-industrin, eftersom alla större labb står inför samma strukturella fråga: hur man håller system så här kapabla borta från användare som är för unga för att utvärdera dem.
OpenAI svarade inte omedelbart på anmälningarna med ett offentligt uttalande vid tidpunkten för rapporteringen. Företaget har tidigare sagt att det arbetar för att göra sina modeller säkra för tonåringar och har infört föräldrakontroll, samtidigt som de erkänner att dess skydd är ofullkomliga under verklig användning.
De åtta stämningarna garanterar att ChatGPT:s säkerhetsdata nu kommer att prövas i statliga domstolar över hela landet – och att frågan om vem som är ansvarig när en AI-chatbot skadar ett barn kommer att avgöras, åtminstone delvis, av domare snarare än av pressmeddelanden.
Hur fallen än löses markerar de en förändring i hur amerikanska tillsynsmyndigheter närmar sig AI-konsumentprodukter: säkerhetspåståenden i marknadsföringsmaterial behandlas nu som juridiskt testbara uttalanden, och företagen som gör dem hålls för dem. Varje större AI-labb skickar chatbots till en allmän publik – inklusive minderåriga som hittar vägar runt åldersgränser – kommer att titta på hur det går för dessa åtta stater.
---
Stay ahead of AIFå de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.
Läs mer AI-nyheter →
