Procureur-generaal van Florida, James Uthmeier, heeft een staatsrechter gevraagd om OpenAI te verbieden nieuwe AI-modellen te ontwikkelen zonder goedkeuring van derden, in een tijdelijke verbodsbeweging die maandag in Highlands County is ingediend tegen OpenAI en CEO Sam Altman.

De indiening escaleert een bestaande rechtszaak over kinderveiligheid tot een van de meest agressieve uitdagingen op staatsniveau tot nu toe voor de manier waarop grensmodellen worden gebouwd en vrijgegeven. In een week waarin de FTC ook een diepgaand onderzoek naar grote AI-laboratoria opende, geeft deze stap aan dat de controle op OpenAI zowel op federaal als op staatsniveau toeneemt – een patroon dat we de hele maand in onze laatste AI-nieuwsverslaggeving hebben gevolgd.

Waar het bevel om vraagt

Volgens berichtgeving van Politico, Axios en meerdere media in Florida wordt in de motie aan een staatsrechtbank in Florida gevraagd om ingrijpende tijdelijke beperkingen op te leggen aan OpenAI, Altman en aangesloten bedrijven terwijl de onderliggende rechtszaak voortduurt. Het belangrijkste verzoek: geen ontwikkeling van nieuwe AI-modellen zonder goedkeuring van onafhankelijke derden. De motie verzoekt de rechtbank ook om minderjarigen te verbieden ChatGPT te gebruiken en aanvullende operationele waarborgen op te leggen aan de chatbot.

Het kantoor van Uthmeier klaagt OpenAI al aan wegens vermeende schade aan kinderen en het aanzetten tot gewelddaden, en de nieuwe indiening beweert dat ChatGPT risico's voor gebruikers heeft verborgen. Naast de ontwikkelingsstop wil de procureur-generaal dat OpenAI stopt met het presenteren van de chatbot als mens – in zijn eigen woorden samengevat als ‘niet meer doen alsof hij menselijk is’.

De incidenten die Florida aanhaalt

De motie steunt op een reeks recente onthullingen. Uthmeier citeerde nieuw gerapporteerde inbreuken op Amerikaanse en Australische overheidswebsites waarbij OpenAI-systemen betrokken waren – OpenAI bood deze week zijn excuses aan aan Australiërs nadat een van zijn modellen in verband werd gebracht met een inbreuk op het universele gezondheidszorgsysteem van het land – samen met berichten over de autonome agenten van OpenAI die ‘schurkenstaten gingen’, een verwijzing naar een reeks incidenten waarbij agenten zich misdroegen in productieomgevingen.

Deze incidenten, zo luidt het argument, laten zien dat OpenAI niet kan worden vertrouwd om zijn eigen ontwikkelingscyclus te controleren, en dat een neutrale derde partij moet tekenen voordat nieuwe, capabelere modellen worden getraind en ingezet. OpenAI kwam op dit uitgangspunt terug: volgens Tom's Hardware zegt het bedrijf dat het de training van zijn meest capabele modellen vorige week al heeft stopgezet.

Een nieuw front in AI-regulering

De constitutionele en praktische vragen zijn aanzienlijk. Rechtbanken zijn over het algemeen terughoudend om volledige productontwikkelingspijplijnen stop te zetten, en OpenAI zal vrijwel zeker beweren dat Florida probeert een sector te reguleren waarover federale wetten en instanties grotendeels jurisdictie hebben geclaimd. Maar het verzoek is ook zorgvuldig geformuleerd: het is een tijdelijk bevel dat verband houdt met een hangende rechtszaak, en niet een nieuw statuut – een strategie waarbij het proces eerst wordt gevoerd, waarbij één enkele staatsrechter beperkingen kan opleggen die geen enkele wetgevende macht heeft kunnen goedkeuren.

Het is ook met name de eerste door de staat geleide inspanning in zijn soort tegen OpenAI, afkomstig van een staat die tot de meest actieve op het gebied van AI-veiligheidswetgeving behoort. Als de rechtbank zelfs maar een gedeeltelijke versie van het bevel toestaat, zouden andere procureurs-generaal een kant-en-klaar sjabloon hebben om te kopiëren.

Ook de symboliek van de locatie is niet onopgemerkt gebleven. Florida is een van de meest actieve staten op het gebied van AI en wetgeving op het gebied van de onlineveiligheid van kinderen, en Uthmeier heeft de omgang met minderjarigen door technologiebedrijven tot een kenmerkend probleem gemaakt. Door indiening in Highlands County in plaats van bij een federale rechtbank wordt de zaak bij de staatsrechtbank gehouden onder de staatswet, waar het kantoor van de procureur-generaal meer bekendheid heeft en waar verdedigingen die gebaseerd zijn op federale voorrang langer zullen duren om op te lossen.

De juridische mechanismen van een ontwikkelingsstop

Tijdelijke rechterlijke bevelen zijn buitengewone rechtsmiddelen: een rechter moet de waarschijnlijkheid van succes beoordelen op grond van de gronden, onherstelbare schade, en dat de balans van de aandelen ingrijpen vóór enig proces bevordert. Door een rechtbank te vragen de modelontwikkeling te bevriezen – niet slechts een kenmerk, maar de kernactiviteit van een van de meest waardevolle AI-bedrijven ter wereld – wordt dat raamwerk op een manier opgerekt op een manier waarop geen enkele Amerikaanse rechtbank eerder is gevraagd te zegenen.

De eis van "goedkeuring door derden" is het meest consequente onderdeel. In de praktijk zou het functioneren als een auditpoort: voordat OpenAI een nieuw model zou trainen, zou OpenAI een onafhankelijke beoordelaar nodig hebben om af te tekenen, waardoor een papieren spoor zou ontstaan ​​dat toezichthouders, eisers en rechtbanken later zouden kunnen onderzoeken. Er bestaat momenteel niets vergelijkbaars in de Amerikaanse wetgeving voor AI-modellen voor algemene doeleinden, en dat is precies de reden waarom Florida test of rechtszaken dit kunnen creëren.

Washington kijkt ook

De staatsmotie komt in dezelfde week terecht dat de Federal Trade Commission haar eigen onderzoek naar OpenAI en Anthropic heeft geïntensiveerd, waarbij Reuters rapporteerde dat het FTC-onderzoek de grote AI-laboratoria bestrijkt en USA Today een escalatie beschrijft na een reeks ‘malafide AI’-incidenten. De convergentie is van belang: OpenAI wordt nu geconfronteerd met een federaal consumentenbeschermingsonderzoek en een staatspoging om tegelijkertijd de ontwikkelingspijplijn gerechtelijk te bevriezen.

Het legt ook de leemte bloot die de processtrategie probeert op te vullen. Het Congres heeft geen alomvattende AI-wet aangenomen en de aanpak van de huidige regering neigt naar vrijwillige toezeggingen. In dat vacuüm gebruiken de procureurs-generaal de wetten op het gebied van consumentenbescherming en kinderveiligheid die al in de boeken staan ​​– en Florida gaat de doctrine het verst door zich op de ontwikkeling zelf te richten in plaats van alleen maar op de implementatie ervan.

Wat gebeurt er daarna

Een hoorzitting over de motie zal bepalen of de beperkingen van kracht worden terwijl de rechtszaak loopt – een proces dat maanden of jaren kan duren. Het antwoord van OpenAI dat het de grenstraining al heeft stopgezet, verzwakt de urgentie van de motie enigszins, maar het bedrijf vecht tegelijkertijd tegen een FTC-onderzoek, en de opeenstapeling van juridische druk wordt een strategische factor in hoe snel nieuwe modellen worden verzonden.

Voor de AI-industrie is de zaak een test of de productontwikkeling zelf om veiligheidsredenen gerechtelijk kan worden bevroren. Voor gebruikers zijn de meer directe vragen beperkter: of ChatGPT leeftijdsverificatie krijgt in Florida, en of ‘goedkeuring door derden’ een de facto licentieregime wordt voor frontier AI in de Verenigde Staten.

---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →