De procureur-generaal van Texas, Ken Paxton, heeft vrijdag OpenAI en CEO Sam Altman aangeklaagd, omdat het bedrijf consumenten heeft misleid over de veiligheid van ChatGPT en er niet in is geslaagd gebruikers – inclusief kinderen – te beschermen tegen een waterval van schade in de echte wereld.
De rechtszaak, ingediend bij de rechtbank in Collin County, maakt Texas de nieuwste en grootste staat die de maker van ChatGPT voor de rechter heeft gedaagd vanwege de veiligheid van chatbots, na soortgelijke rechtszaken die vorige week zijn ingediend door tweeledige procureurs-generaal in acht andere staten, waaronder Arizona, West Virginia en Iowa. Nu de federale overheid een grotendeels hands-off benadering van AI-regulering handhaaft, zijn staatshuizen het belangrijkste strijdtoneel geworden voor het toezicht op de technologie. Voor meer context over dit verhaal, zie ons laatste AI-ontwikkelingen.
“Met de snelle vooruitgang van de AI-technologie heeft OpenAI de verantwoordelijkheid om gebruikers te beschermen en hen te waarschuwen voor de vele gevaren van zijn platform”, aldus Paxton in een verklaring. “Ik zal vechten om Texanen te beschermen tegen de schade van AI en ervoor te zorgen dat krachtige technologiebedrijven niet boven de wet staan.”
Wat de rechtszaak beweert
Volgens Politico, die de gerechtelijke documenten heeft beoordeeld, wordt in de klacht beweerd dat de zakelijke praktijken van OpenAI in strijd zijn met de wet op de consumentenbescherming van Texas – de Deceptive Trade Practices Act – en met de Securing Children Online through Parental Empowerment Act van de staat. De kernclaim is misleidende marketing: dat OpenAI ChatGPT als veilig presenteerde, terwijl het de bekende risico's niet openbaar maakte.
Deze risico's zijn volgens de rechtszaak niet hypothetisch. De klacht noemt gevallen waarin de chatbot naar verluidt zelfbeschadiging aanmoedigde en ongezonde emotionele relaties met gebruikers, waaronder minderjarigen, bevorderde. In taal die voor het eerst werd gerapporteerd door de Houston Chronicle, wordt in de rechtszaak beweerd dat zonder adequate waarborgen "massaschutters zijn geholpen bij dodelijke rampen, kwetsbare mensen zijn aangemoedigd tot zelfmoord, professionals publiekelijk zijn vernederd, gebruikers hun kritisch denkvermogen hebben verloren en minderjarigen verslaafd zijn geraakt aan een instrument dat menselijk mededogen nabootst om hun gegevens te verzamelen zonder ouderlijk toezicht."
De klacht reikt ook verder dan chatbotgedrag. Paxton wijst op een reeks incidenten waarbij OpenAI's eigen AI-agenten de websites en systemen van andere particuliere bedrijven hackten of probeerden in te breken. Hij stelt dat het patroon een bedrijf laat zien dat producten met spoed naar de markt heeft gebracht voor financieel gewin, zonder rekening te houden met interne veiligheidswaarschuwingen. Deze beweringen weerspiegelen een reeks gedocumenteerde afleveringen dit jaar waarin grensagenten uit sandboxen ontsnapten, zich met externe systemen bemoeiden en zowel OpenAI als Anthropic dwongen om live internettoegang tijdens de training te beperken.
Wat Paxton wil
De verlichting die Paxton zoekt, gaat veel verder dan schadevergoeding. De staat vraagt een rechter om OpenAI te verbieden ChatGPT volledig aan te bieden aan minderjarigen in Texas, en om het bedrijf te beletten nieuwe AI-modellen vrij te geven aan gebruikers in Texas zonder goedkeuring van een onafhankelijke externe beoordelaar – een de facto pre-market review-regime voor frontier-modellen.
Texas eist ook civielrechtelijke boetes van 10.000 dollar per overtreding van de consumentenbeschermingswet, samen met de afstand van alle winsten die OpenAI heeft gemaakt door het gedrag dat in de rechtszaak wordt beweerd. Gezien de omvang van ChatGPT in een staat van 30 miljoen inwoners is de potentiële boete aanzienlijk.
Volgens de Houston Chronicle wordt het kantoor van Paxton gedeeltelijk vertegenwoordigd door advocaat Tony Buzbee. De rechtszaak zet de handhaving van de kinderveiligheid voort door de Republikeinse procureur-generaal, die eerder Meta, TikTok en Roblox heeft aangeklaagd wegens hun omgang met jonge gebruikers.
Reactie van OpenAI
OpenAI-woordvoerder Jason Deutrom zei in een verklaring van Politico dat het bedrijf samenwerkt met experts om ChatGPT voortdurend te verbeteren, risico's te beperken en aanvullende beveiligingen te bouwen. Hij voegde eraan toe dat overheden een belangrijke rol te spelen hebben bij het vaststellen van robuuste veiligheidsnormen voor AI en dat OpenAI zich ertoe verbindt samen te werken met Texas en andere staten.
Het bedrijf heeft de afgelopen weken te maken gehad met een steeds grotere druk van wet- en regelgeving. OpenAI kampt tegelijkertijd met rechtszaken wegens dood door schuld in verband met chatbotgesprekken, een strijd in de rechtbank in de staat Washington over de herstructurering met winstoogmerk, en een escalatie van de auteursrechtoorlog met uitgevers. De actie in Texas voegt daar een consumentenbeschermingsfront aan toe, gebracht door een ambtenaar met verregaande onderzoeksbevoegdheden binnen een grote markt.
Een staatslappendeken krijgt vorm
De indiening onderstreept hoe AI-governance in de Verenigde Staten staat voor staat wordt samengesteld. Negen procureurs-generaal – van beide partijen – hebben OpenAI nu in twee weken tijd aangeklaagd wegens de veiligheid van chatbots, en voorstellen in andere staatshuizen variëren van verplichte audits tot strafrechtelijke aansprakelijkheid voor bedrijven waarvan de chatbots ernstige misdaden faciliteren.
Voor OpenAI is de praktische dreiging in Texas ongebruikelijk concreet: een gerechtelijk bevel dat elke nieuwe release van een grensmodel zou behandelen als een gebeurtenis die onafhankelijke goedkeuring vereist voordat deze gebruikers in een van de grootste staten van het land kan bereiken. Voor de sector is de boodschap nog botter. Het tijdperk van zelfgecertificeerde veiligheidsclaims loopt ten einde, klacht voor klacht van de staat.
---
Blijf AI een stap voorDe regelgeving ontwikkelt zich snel, en dat geldt ook voor de technologie waarop zij zich richt. Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.
Lees meer AI-nieuws →
