De procureur-generaal van Oregon, Dan Rayfield, heeft OpenAI dinsdag aangeklaagd, waarbij hij minstens 2,035 miljard dollar aan schadevergoeding eiste en het bedrijf ervan beschuldigde ChatGPT verkeerd voor te stellen als veilig voor jonge gebruikers, terwijl het willens en wetens gevaarlijke interacties met tieners toestond, aldus Oregon Public Broadcasting.

De rechtszaak, bekendgemaakt door OPB en bevestigd door meerdere verkooppunten in Oregon, waaronder KGW, KATU en KOIN, maakt Oregon tot een van de meest agressieve staten tot nu toe in de escalerende juridische campagne over AI-chatbots en minderjarigen. Het volgt op rechtszaken van acht Amerikaanse staten in oktober, die elk beweerden dat de technologie een gevaarlijke invloed heeft op tieners. Voor meer context over dit verhaal, zie ons laatste AI-ontwikkelingen.

Wat de klacht beweert

De 53 pagina's tellende klacht van de staat beschuldigt OpenAI ervan een verkeerde voorstelling van zaken te geven over zijn producten, in strijd met de Oregon's Unlawful Trade Practices Act, en beschrijft het gedrag van het bedrijf als opzettelijk – een verzwarende factor onder de wet – en produceert wat de klacht een oneerlijke, onrechtvaardige, schokkende en gewetenloze uitkomst noemt.

Met OpenAI kunnen gebruikers vanaf 13 jaar ChatGPT gebruiken, zolang een ouder of voogd zich hiervoor aanmeldt. Ambtenaren van het Oregon Department of Justice beweren dat het bedrijf er vaak niet in slaagt te bevestigen dat een ouder daadwerkelijk toestemming heeft gegeven voor minderjarige gebruikers. De klacht richt zich ook op ChatGPT for Teens, de onlangs uitgebrachte, op jongeren gerichte versie van het bedrijf die het account van een ouder koppelt aan dat van een kind. Volgens de staat kunnen de ogenschijnlijk sterkere waarborgen van die versie gemakkelijk worden omzeild en worden ouders niet gewaarschuwd wanneer jonge gebruikers vragen stellen over zelfmoord, zelfbeschadiging, eetstoornissen of andere onderwerpen op het gebied van de geestelijke gezondheid.

In de rechtszaak wordt de rechtbank gevraagd OpenAI te dwingen strengere waarborgen in te stellen en de inwoners van Oregon te compenseren met een schadevergoeding van ten minste 2,035 miljard dollar.

Rayfield: het product 'blijft schade veroorzaken'

In een interview met OPB zei Rayfield dat OpenAI zich bewust is van de gevaren die zijn producten kunnen opleveren. OpenAI blijft ouders in de ogen kijken en zeggen dat dit product een veilig product is terwijl het schade blijft aanrichten in onze gemeenschappen, zei hij.

De procureur-generaal vertelde OPB dat er geen specifiek incident in Oregon was dat aanleiding gaf tot de indiening. In plaats daarvan, zei hij, kwam de rechtszaak voort uit incidenten in het hele land en de bezorgdheid van zijn kantoor dat de technologische vooruitgang de consumentenbescherming overtreft. De instrumenten kunnen ongelooflijk geweldig zijn als hun beloften uitkomen, zei hij, maar wat we aan de andere kant zien is verwoesting.

De indiening komt te midden van de toegenomen publieke bezorgdheid in Oregon over tieners en online platforms. De tiener die vorige maand drie kinderen en een leraar op Bend's Silver Rail Elementary doodschoot, is door meerdere bronnen in verband gebracht met online extremistische groepen, en in september gaf het Multnomah County District Attorney's kantoor de schuld aan online extremistische invloeden voor een Benson High School-leerling die giftige chemicaliën vrijgaf op zijn school. Rayfield weigerde te zeggen of de producten van OpenAI betrokken waren bij deze incidenten, daarbij verwijzend naar lopende onderzoeken – en de rechtszaak zelf hangt niet af van een enkele zaak in Oregon.

Onderdeel van een bredere juridische afrekening voor OpenAI

Oregon behoort nu tot een groeiende groep staten die OpenAI in de rechtbank onder druk zetten over de veiligheid van jongeren. Acht staten hebben in oktober soortgelijke rechtszaken aangespannen, en de zich opstapelende rechtszaken vertegenwoordigen een toenemende uitdaging per staat voor de manier waarop de AI-industrie de toegang van minderjarigen zelf reguleert – een gebied waar de federale regelgeving dun blijft.

Een woordvoerder van OpenAI, Drew Pusateri, gaf na de indiening een verklaring af waarin hij zei dat het bedrijf zich inzet voor het ontwikkelen van AI-beleid dat van toepassing is op de hele AI-industrie en niet slechts op één bedrijf. Het bedrijf wees op veiligheidsmaatregelen die naar eigen zeggen vandaag de dag bestaan, waaronder ouderlijk toezicht, herinneringen aan pauzes en op de leeftijd afgestemde modelbeschermingen, en zei dat het zal blijven samenwerken met experts om aanvullende waarborgen te bouwen. Het bedrijf heeft er eerder op aangedrongen dat het veilig houden van gemeenschappen een topprioriteit is.

Wat gebeurt er vervolgens

De zaak van Oregon zal een nieuwe juridische theorie op de proef stellen: niet dat ChatGPT een specifieke verwonding heeft veroorzaakt, maar dat de veiligheidsmarketing van het bedrijf zelf – de bewering dat het product veilig is voor tieners – een oneerlijke handelspraktijk vormt wanneer waarborgen kunnen worden omzeild. Als de theorie de eerste moties overleeft, zou dit voor andere procureurs-generaal een goedkoper en sneller pad kunnen openen dan procederen over productaansprakelijkheid, waarbij het bewijs van het oorzakelijk verband voor individuele schade vereist is.

Een hoek voor consumentenbescherming, gebouwd voor snelheid

De keuze van het statuut is van belang. De Oregon's Unlawful Trade Practices Act is een wet ter bescherming van de consument, geen productaansprakelijkheidsregime, en kent kortere termijnen en minder bewijslasten dan het bewijs dat een specifieke chatbotuitwisseling een specifieke tragedie heeft veroorzaakt. Het staat ook civielrechtelijke sancties toe voor opzettelijke overtredingen – het verzwarende etiket waarop de klacht expliciet van toepassing is. Het afdwingen van consumentenbescherming tegen technologieplatforms vanwege misleidende claims heeft een lange geschiedenis bij de rechtbanken in Oregon, en het statuut is een van de breder geformuleerde wetten in het land.

Dat kader vormt ook de remedie waar de staat naar op zoek is. In plaats van schadevergoeding voor de familie van één enkel slachtoffer, vraagt ​​de klacht om compensatie voor de inwoners van Oregon gezamenlijk – minstens 2,035 miljard dollar – plus door de rechtbank bevolen wijzigingen aan het product zelf: sterkere waarborgen en verificatie van de toestemming van de ouders. Een overwinning zou de staat voortdurend toezicht geven op de jeugdfuncties van ChatGPT in plaats van een eenmalige betaling.

Voor OpenAI komt de klacht op een delicaat moment terecht: het bedrijf verdedigt al auteursrechtclaims, wordt geconfronteerd met een rechtszaak in Californië over AI-gerelateerde cyberinbraken en bereidt zich voor op intensief onderzoek na de beursintroductie. Het is onwaarschijnlijk dat een vraag van meerdere miljarden dollars van één enkele staat zijn financiën zal hervormen, maar een uitspraak van de rechtbank dat zijn vertegenwoordigingen op het gebied van de jeugdveiligheid bedrieglijk waren, zou regelgevende gevolgen hebben tot ver buiten Oregon.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →