Oregon justitiekansler Dan Rayfield stämde OpenAI på tisdagen och krävde minst 2,035 miljarder dollar i skadestånd och anklagade företaget för att felaktigt framställa ChatGPT som säkert för unga användare samtidigt som de medvetet tillåter farliga interaktioner med tonåringar, enligt Oregon Public Broadcasting.

Stämningen, avslöjad av OPB och bekräftad av flera Oregon-butiker inklusive KGW, KATU och KOIN, gör Oregon till en av de mest aggressiva staterna hittills i den eskalerande juridiska kampanjen över AI-chatbotar och minderåriga. Den följer efter prövningar av åtta amerikanska delstater i oktober, som var och en hävdar att tekniken är farligt inflytelserik på tonåringar. For more context on this story, see our ongoing AI industry coverage.

Vad klagomålet påstår

Statens 53-sidiga klagomål anklagar OpenAI för att ha felaktigt framställt sina produkter i strid med Oregons lag om olaglig handelspraktik, och beskriver företagets beteende som uppsåtligt – en försvårande faktor enligt stadgan – vilket ger vad klagomålet kallar ett orättvist, orättvist, chockerande och samvetslöst resultat.

OpenAI tillåter användare så unga som 13 att använda ChatGPT, så länge som en förälder eller vårdnadshavare säger upp sig. Oregon Department of Justice tjänstemän hävdar att företaget ofta misslyckas med att bekräfta att en förälder faktiskt samtyckte för minderåriga användare. Klagomålet tar också sikte på ChatGPT for Teens, företagets nyligen släppta ungdomsorienterade version som länkar en förälders konto till ett barns. Enligt staten kan den versionens påstådda starkare skydd lätt kringgås, och den misslyckades med att varna föräldrar när unga användare frågade om självmord, självskada, ätstörningar eller andra psykiska ämnen.

Stämningen ber domstolen att tvinga OpenAI att införa starkare skyddsåtgärder och att kompensera Oregonianer med minst 2,035 miljarder dollar i skadestånd.

Rayfield: Produkten "fortsätter att orsaka skada"

I en intervju med OPB sa Rayfield att OpenAI är medveten om farorna som dess produkter kan utgöra. OpenAI fortsätter att se föräldrar i ögonen och säga att den här produkten är en säker produkt när den fortsätter att orsaka skada i våra samhällen, sa han.

Justitiekanslern sa till OPB att det inte fanns någon specifik incident i Oregon som utlöste anmälan. Istället, sade han, uppstod stämningsansökan från incidenter över hela landet och hans kontors oro för att tekniska framsteg överträffar konsumentskyddet. Verktygen kan vara otroligt fantastiska om deras löften går igenom, sa han, men det vi ser på andra sidan är förödelse.

Anmälan kommer mitt i ökad allmän oro i Oregon om tonåringar och onlineplattformar. Tonåringen som sköt och dödade tre barn och en lärare på Bend's Silver Rail Elementary förra månaden har av flera källor kopplats till extremistgrupper på nätet, och i september anklagade Multnomah County District Attorney's office online extremistiska influenser för att en Benson High School-elev släppte ut giftiga kemikalier på sin skola. Rayfield avböjde att säga om OpenAIs produkter hade någon inblandning i dessa incidenter, med hänvisning till pågående utredningar - och själva rättegången beror inte på något enskilt fall i Oregon.

Del av en bredare juridisk redovisning för OpenAI

Oregon är nu bland en växande grupp stater som pressar OpenAI i domstol över ungdomssäkerhet. Åtta delstater lämnade in liknande processer i oktober, och de ackumulerande rättstvisterna representerar en växande delstatsutmaning för hur AI-industrin självreglerar mindre åtkomst – ett område där federal reglering förblir tunn.

En talesperson för OpenAI, Drew Pusateri, utfärdade ett uttalande efter inlämningen och sa att företaget är engagerat i att utveckla AI-policyer som gäller hela AI-branschen och inte bara ett företag. Företaget pekade på skydd som det säger finns idag, inklusive föräldrakontroll, pauspåminnelser och åldersanpassade modellskydd, och sa att det kommer att fortsätta arbeta med experter för att bygga ytterligare skydd. Företaget har tidigare insisterat på att det är högsta prioritet att hålla samhällen säkra.

Vad händer härnäst

Oregons fall kommer att testa en ny juridisk teori: inte att ChatGPT orsakade en specifik skada, utan att själva företagets säkerhetsmarknadsföring – påståendet att produkten är säker för tonåringar – utgör en orättvis handelspraxis när skyddsåtgärder kan kringgås. Om teorin överlever tidiga motioner, kan den öppna en billigare, snabbare väg för andra statliga åklagare än processer om produktansvar, som kräver bevis på orsakssamband för individuella skador.

En konsumentskyddsvinkel byggd för hastighet

Valet av stadga har betydelse. Oregons lag om olaglig handelspraktik är en konsumentskyddslag, inte en produktansvarsregim, och den har kortare tidslinjer och lägre bevisspärrar än att bevisa att ett specifikt chatbotutbyte orsakade en specifik tragedi. Det tillåter också civilrättsliga påföljder för uppsåtliga kränkningar - den försvårande etikett som klagomålet uttryckligen har. Upprätthållande av konsumentskydd mot tekniska plattformar på grund av vilseledande påståenden har en lång historia i Oregon-domstolar, och stadgan är en av de mer brett formulerade i landet.

Den inramningen formar också det botemedel staten söker. Istället för skadestånd för ett enskilt offers familj, begär klagomålet ersättning för Oregonians kollektivt - minst 2,035 miljarder dollar - plus domstolsbeordrade ändringar av själva produkten: starkare skydd och verifiering av föräldrarnas samtycke. En vinst skulle ge staten löpande tillsyn över ChatGPTs ungdomsfunktioner snarare än en engångsbetalning.

För OpenAI landar klagomålet i ett känsligt ögonblick: företaget försvarar redan upphovsrättsanspråk, står inför en stämningsansökan i Kalifornien över AI-relaterade cyberintrång och förbereder sig för intensiv granskning efter börsnoteringen. Ett krav på flera miljarder dollar från en enda stat är osannolikt att omforma dess finanser, men en domstol som konstaterar att dess ungdomssäkerhetsrepresentationer var vilseledande skulle få regleringskonsekvenser långt bortom Oregon.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →