OpenAI wordt geconfronteerd met een nieuwe golf van rechtszaken door acht Amerikaanse staten die het bedrijf ervan beschuldigen kinderen te schaden en het publiek te misleiden over de veiligheid van ChatGPT, meldde The Verge woensdag laat, daarbij verwijzend naar Reuters – de meest ingrijpende juridische actie op staatsniveau tot nu toe tegen de maker van ‘s werelds populairste chatbot.

De rechtszaken werden afzonderlijk aangespannen door Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho en Montana. Beiden beweren dat OpenAI bij de ontwikkeling van ChatGPT op onrechtmatige wijze winst boven veiligheid heeft gesteld en de lokale wetgeving inzake consumentenbescherming heeft geschonden door klanten niet te waarschuwen voor de gevaren van het product. Voor meer context over dit verhaal, zie onze voortdurende breaking AI nieuwsberichtgeving.

Wat de staten beweren

In de klachten wordt beweerd dat OpenAI ChatGPT op misleidende wijze heeft gepresenteerd als een ‘veilige, voor jongeren geschikte tool die veiligheid voorop stelt’, terwijl het product in feite ‘gevaarlijk is voor kwetsbare gebruikers’. Tot de specifieke vermeende schade behoren onder meer het aantasten van de vaardigheden op het gebied van kritisch denken, het aanmoedigen van paranoia en waanvoorstellingen, het aanbieden van gevaarlijk medisch advies en het bevorderen van ongezond gedrag en relaties.

Volgens het rapport van The Guardian over de dossiers beschuldigen de staten OpenAI ervan kinderen te coachen om zichzelf schade toe te brengen – taal die verder gaat dan misleidende marketingclaims en zich richt op tekortkomingen in de productveiligheid die een beschermde groep gebruikers treffen.

De rechtszaken beweren ook dat OpenAI gegevens van minderjarigen heeft verzameld en niet genoeg heeft gedaan om minderjarige gebruikers volledig van het platform te weren, een aanhoudend zwak punt voor chatbots die gebruikers vragen zelf hun leeftijd te rapporteren.

Gevallen van onrechtmatige dood vormen de achtergrond

De klachten van de staat leunen zwaar op een reeks particuliere rechtszaken die zijn aangespannen door familieleden van tieners en volwassenen, waarin wordt beweerd dat ChatGPT een rol heeft gespeeld in de dood van hun dierbaren. Deze zaken, die het afgelopen jaar zijn ingediend, zijn het publieke gezicht geworden van het verzet tegen het gebruik van AI-compagnons – en nu noemen de procureurs-generaal ze als bewijs van een patroon in plaats van als geïsoleerde incidenten.

Common Sense Media, de non-profitorganisatie die een groot deel van het onderzoek naar kinderen en AI heeft geleid, waarschuwde afzonderlijk dat het tieneraanbod van ChatGPT een ‘onaanvaardbaar risico’ met zich meebrengt, en Florida heeft stappen ondernomen om ChatGPT te verbieden zich als een persoon te gedragen – signalen van de regelgeving die de nieuwe aangiften van de staten nu weerklinken in de rechtbank.

Rogue AI-hackincidenten komen de rechtszaal binnen

Op ongebruikelijke wijze worden in de rechtszaken ook recente incidenten met AI-hacking aangehaald als bewijs van de vermeende roekeloosheid van OpenAI. Het argument behandelt de staat van dienst op het gebied van beveiliging van OpenAI – inclusief agentgerelateerde incidenten die de afgelopen weken de nieuwscyclus hebben gedomineerd – effectief als onderdeel van hetzelfde onvermogen om prioriteit te geven aan veiligheid waarvan de staten zeggen dat het jonge gebruikers in gevaar brengt.

“OpenAI is van zijn oorspronkelijke missie als een publieke non-profitorganisatie die prioriteit gaf aan veiligheid uitgegroeid tot een waarschuwend verhaal over wat er kan gebeuren als de ontwikkeling van een tool die zo krachtig is als AI niet wordt aangedreven door veiligheid, maar door een mentaliteit van winst ten koste van alles die essentiële waarborgen buiten beschouwing laat”, aldus de rechtszaak van Arizona, aldus The Verge.

Een breder juridisch front voor OpenAI

De achtstatenactie komt op het moment dat OpenAI al particuliere rechtszaken verdedigt van nabestaanden, te maken krijgt met dagvaardingen van procureurs-generaal en te kampen heeft met een veranderend regelgevingslandschap in Washington. Wat de nieuwe aanmeldingen onderscheidt, is de schaal en het postuur: in plaats van schadevergoeding te eisen voor individuele schade, beroepen staats-AG's zich op consumentenbeschermingsstatuten om veranderingen af ​​te dwingen in de manier waarop ChatGPT op de markt wordt gebracht, leeftijdsgebonden is en is ontworpen voor jonge gebruikers.

Voor OpenAI komen de aanmeldingen op een delicaat moment terecht. Het bedrijf heeft zakelijke klanten en consumenten het hof gemaakt met een agressieve productcadans, terwijl het er publiekelijk op aandrong dat veiligheidsbeoordelingen de releases zouden doorbreken. Acht staten beweren nu formeel het tegenovergestelde: dat de beweringen over de openbare veiligheid van het bedrijf zelf bedrog waren.

Wat gebeurt er daarna

Consumentenbeschermingszaken die door procureurs-generaal worden aangespannen, streven doorgaans naar dwangbevelen, boetes of toestemmingsdecreten die productwijzigingen verplicht stellen – in dit geval mogelijk strengere leeftijdsverificatie, veiligheidsinformatie of beperkingen op de manier waarop ChatGPT met minderjarigen omgaat. Eventuele oplossingen zouden door de hele AI-industrie heen kunnen gaan, aangezien elk groot laboratorium met dezelfde structurele vraag wordt geconfronteerd: hoe kunnen we systemen zo capabel houden dat gebruikers te jong zijn om ze te evalueren?

OpenAI reageerde op het moment van berichtgeving niet onmiddellijk op de indieningen met een openbare verklaring. Het bedrijf heeft eerder gezegd dat het eraan werkt om zijn modellen veilig te maken voor tieners en heeft ouderlijk toezicht ingevoerd, terwijl het erkent dat de waarborgen bij gebruik in de echte wereld niet perfect zijn.

De acht rechtszaken garanderen dat de veiligheidsstatus van ChatGPT nu zal worden aangevochten bij staatsrechtbanken in het hele land – en dat de vraag wie verantwoordelijk is wanneer een AI-chatbot een kind schade toebrengt, althans gedeeltelijk, zal worden beslist door rechters in plaats van door persberichten.

Hoe de zaken ook worden opgelost, ze markeren een verschuiving in de manier waarop Amerikaanse toezichthouders AI-consumentenproducten benaderen: veiligheidsclaims in marketingmateriaal worden nu behandeld als juridisch toetsbare verklaringen, en de bedrijven die deze maken, worden daaraan gehouden. Elk groot AI-laboratorium dat chatbots naar een algemeen publiek verzendt – inclusief minderjarigen die manieren vinden om de leeftijdsgrens te omzeilen – zal kijken hoe het deze acht staten vergaat.

---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →