OpenAI kondigde dinsdag zijn steun aan voor Bill 1119 van de Senaat van Californië, wetgeving die verregaande waarborgen zou bieden voor de manier waarop jongeren kunstmatige intelligentie gebruiken, en drong er bij gouverneur Gavin Newsom op aan om het wetsvoorstel in wet te ondertekenen.

De goedkeuring kwam in een openbare brief aan Newsom, geschreven door Ann O'Leary, OpenAI's vice-president van mondiaal beleid, en een blogpost gepubliceerd op de site van het bedrijf. Daarin kadert het bedrijf SB 1119 als een zinvolle middenweg: sterke bescherming voor gebruikers onder de 18 jaar, zonder tieners af te sluiten van de hulpmiddelen die volgens hen hen helpen bij het leren, creëren en voorbereiden op de toekomst. De aankondiging is de laatste in een reeks AI-beleidsverhalen die een nieuwe vorm geven aan de manier waarop overheden omgaan met de jongste gebruikers van AI. Voor meer context over dit verhaal, zie ons AI-nieuws.

Waarom OpenAI regelgeving omarmt – deze in ieder geval

De positionering van OpenAI berust op een opvallende statistiek uit zijn eigen post: bijna negen op de tien tieners die ChatGPT gebruiken, gebruiken het in een bepaalde week voor leren, informatie, het opbouwen van vaardigheden of productiviteit. “Tieners zijn de eerste generatie die opgroeit met AI”, schreef het bedrijf, met het argument dat kansen gepaard gaan met een verantwoordelijkheid om ervaringen te ontwerpen rond de specifieke ontwikkelingsbehoeften van jongeren.

Het bedrijf is expliciet over het federale vacuüm dat zijn houding motiveert. “Bij gebrek aan federale actie heeft Californië de kans om een ​​sterke standaard te stellen voor de AI-veiligheid van jongeren”, aldus de brief aan Newsom. OpenAI zegt dat het wetsvoorstel voortbouwt op de toezeggingen die CEO Sam Altman vorig jaar deed bij het uiteenzetten van de bedrijfsprincipes op het gebied van de veiligheid van tieners, evenals op het werk van het bedrijf aan de Parents & Kids Safe AI Act.

Wat SB 1119 nodig zou hebben

Volgens OpenAI's samenvatting van het wetsvoorstel zou SB 1119 AI-bedrijven verplichten om:

  • Bepaal de leeftijd van een gebruiker voordat u toegang verleent;
  • Veiligheidsrisico's identificeren en aanpakken voordat een product beschikbaar wordt gesteld aan jongeren;
  • Onafhankelijke audits ondergaan van deze inspanningen;
  • Jongeren beschermen tegen schadelijke inhoud, inclusief zelfbeschadiging en seksueel uitbuitende inhoud, en andere risicovolle interacties;
  • Geef ouders hulpmiddelen om het gebruik van hun kinderen te begeleiden en te beperken;
  • Jongeren verbinden met middelen voor crisisondersteuning wanneer zich ernstige veiligheidsrisico's voordoen; en
  • Beperk doelgerichte reclame en bescherm de persoonlijke informatie van jongeren.

Voor gebruikers tussen de 13 en 17 jaar oud zouden deze beveiligingen automatisch van toepassing zijn, niet als optionele instellingen die tieners kunnen uitschakelen.

"AI is geen sociale media"

Een van de meer consequente argumenten in de brief van OpenAI is het onderscheid dat wetgevers in het wetsontwerp zelf hebben vastgelegd: AI is geen sociale media. In plaats van de advertentiegestuurde regels die voor platforms als Instagram zijn ontwikkeld over te zetten naar chatbots en studietools, past SB 1119 de beveiliging aan om wat OpenAI educatieve en veiligheidskritische functies noemt te behouden – inclusief wat het beschrijft als verantwoordelijk gebruik van de geheugenfunctie van ChatGPT, die beveiliging helpt patronen in de loop van de tijd te herkennen.

Critici van algemene leeftijdsgrenzen hebben gewaarschuwd dat hardhandige regels tieners in de richting van minder gereguleerde alternatieven kunnen duwen of de toegang tot echt nuttige leermiddelen kunnen blokkeren. De goedkeuring van OpenAI suggereert dat de grootste speler in de sector SB 1119 ziet als de balans waarmee het kan leven.

ChatGPT voor tieners is al live

De goedkeuring van het wetsvoorstel gebeurt niet in een vacuüm. OpenAI heeft ChatGPT voor tieners gelanceerd, een speciale ervaring voor jongere gebruikers waarvan het bedrijf zegt dat iedereen die volgens het systeem jonger is dan 18 jaar (of die aangeeft dat hun leeftijd tussen 13 en 17 jaar ligt) automatisch in een beschermde modus wordt geplaatst. Waarborgen daar maken deel uit van de basiservaring, zegt het bedrijf, en niet van opt-in-instellingen.

Dat detail van de leeftijdsschatting is belangrijker dan het op het eerste gezicht lijkt. Schattingen, en niet geverifieerde ID's, bepalen welke ervaring een gebruiker krijgt, en het bedrijf zegt dat de context van eerdere gesprekken – inclusief herinneringen – helpt om veiligheidsmaatregelen consistent toe te passen en patronen in de loop van de tijd te herkennen. Hoe goed die schatting in de praktijk werkt, en wat er gebeurt als tieners hun leeftijd verkeerd aangeven, zal bepalen of toezichthouders de zelfcontrole van de industrie als geloofwaardig beschouwen.

Het tienerproduct leunt ook op leren: functies zoals quizzen, leervisualisaties en de studiemodus zijn ontwikkeld in samenwerking met docenten en leerexperts om studenten stap voor stap door problemen te leiden, aldus OpenAI. Het bedrijf positioneert deze hulpmiddelen als bewijs dat veiligheidseisen en nuttige producten niet onder spanning staan ​​– een argument dat het zowel voor Newsom als voor het publiek effectief aanvoert.

De politiek in Sacramento

In zijn brief prijst OpenAI Newsom samen met senator Steve Padilla en Assembly-leden Buffy Wicks en Rebecca Bauer-Kahan voor hun leiderschap in deze kwestie. Het wetsvoorstel ligt nu bij de gouverneur, en de publieke lobbycampagne van OpenAI – compleet met een downloadbare brief – maakt duidelijk dat het bedrijf zijn handtekening wil.

Deze stap komt ook terecht nu toezichthouders elders de schroeven aandraaien. De Europese Unie heeft ChatGPT onlangs aangewezen als een zeer grote online zoekmachine onder de Digital Services Act, waardoor OpenAI tot eind december 2026 de tijd heeft om te voldoen aan strengere EU-regels over minderjarigen en transparantie. Geconfronteerd met de top-down-aanduidingen in Brussel lijkt OpenAI te berekenen dat het steunen van een op maat gemaakte staatswet in Sacramento de betere manier is om de regels vorm te geven voordat ze ervoor worden geschreven.

Of Newsom tekent – ​​en of andere staten het voorbeeld van Californië volgen – zal een grote bijdrage leveren aan het beantwoorden van de vraag die het Congres tot nu toe open heeft gelaten: wie bepaalt de regels voor de jongste gebruikers van AI?

Blijf op de hoogte van het AI-beleid

Volg elke ontwikkeling terwijl deze plaatsvindt. Lees meer AI-nieuws over AI Buzz Wire →