Het kunstmatige-intelligentiebedrijf xAI van Elon Musk werd woensdag voor de federale rechtbank geconfronteerd met de staat Minnesota, met het argument dat een nieuwe wet die door AI gegenereerde nep-naaktbeelden verbiedt, in strijd is met het Eerste Amendement. De hoorzitting in het federale gerechtsgebouw van St. Paul, die woensdag om 9.30 uur begon, is de laatste ronde in een geschil dat een nationale testcase is geworden over hoe ver staten kunnen gaan in het reguleren van door AI gegenereerde beelden van echte mensen.

Op het spel staat Minnesota's AI-nudificatiewet, die op 1 augustus van kracht werd en AI-tools verbiedt om de gelijkenis van een echt persoon te gebruiken om nep-naaktafbeeldingen te maken. De wet geeft slachtoffers ook het recht om zaken voor de burgerlijke rechtbank te brengen, en staat een boete van $ 500.000 toe voor elke onwettige toegang of download van afbeeldingen die zijn aangepast met AI om iemand naakt te laten lijken – een cijfer dat de ernst weerspiegelt waarmee staatswetgevers de kwestie hebben behandeld.

Een wet die vrijwel unaniem is aangenomen

De politieke achtergrond maakt het conflict in de rechtszaal ongebruikelijk. Het verbod op nudificatie werd de afgelopen zittingsperiode in de wetgevende macht van Minnesota voorgesteld en werd met bijna totale steun aangenomen: 132-1 in het Huis van Afgevaardigden en 65-0 in de Senaat, volgens KSTP. Die marge is zeldzaam voor technologieregulering en geeft aan hoe politiek geladen, niet-consensuele deepfake-beelden over de partijgrenzen heen zijn geworden.

xAI spande zijn federale rechtszaak aan een dag voordat de wet van kracht werd, en verzocht tegelijkertijd om een ​​tijdelijk straatverbod om de handhaving te blokkeren. De rechter wees dat verzoek af, merkte op dat de indiening vertraagd was en suggereerde dat de schade voor het bedrijf niet onmiddellijk was, zoals CBS News meldde. De hoorzitting van woensdag ging in op het bredere verzoek van xAI om een ​​voorlopige voorziening, en tegen de avond was de rechter nog steeds aan het nadenken over de argumenten.

De botsing van het eerste amendement

Volgens xAI beperkt het verbod op ongrondwettelijke wijze de vrijheid van meningsuiting en de hulpmiddelen voor visuele expressie. De rechtszaak van het bedrijf richt zich op het kernmechanisme van de wet: het verbieden van AI-systemen om naaktafbeeldingen te maken van echte mensen die er nooit mee hebben ingestemd. Dat standpunt plaatst xAI in de ongemakkelijke houding om op constitutionele gronden een categorie output te verdedigen – niet-consensuele synthetische naaktheid – waarvan zelfs het bedrijf erkent dat deze beledigend is wanneer deze wordt geproduceerd.

Het kantoor van de procureur-generaal van Minnesota, Keith Ellison, heeft tegengeworpen dat de wet nauw op maat is gemaakt en dat het onwaarschijnlijk is dat xAI zal slagen in zijn constitutionele uitdaging. De rapportage over de hoorzitting door Law Commentary vatte het scherpste argument van de staat samen: Minnesota beweert dat de Grok-beeldgenerator van xAI een hulpmiddel is en geen beschermde spraak, en dat het reguleren van wat een product doet anders is dan het reguleren van wat iemand zegt. De staat heeft ook de status van xAI betwist, waarbij Mlex meldt dat het kantoor van de procureur-generaal beweert dat xAI Minnesota niet namens zijn gebruikers kan aanklagen.

Het onderscheid is van belang tot ver buiten Minnesota. Als een generatief model zelf als beschermde uiting geldt, zou een breed scala aan staatswetten die zich richten op deepfake pornografie, fraude en verkeerde verkiezingsinformatie kwetsbaar kunnen zijn voor hetzelfde argument. Als rechtbanken modeloutputs in plaats daarvan behandelen als producten die onderworpen zijn aan gewone regelgeving, krijgen staten een duurzame invloed op synthetische media die de federale wetgeving momenteel niet biedt.

Een donkerdere achtergrond

De strijd in de rechtszaal over de constitutionele doctrine ontvouwt zich tegen een grimmiger feitelijk verslag. Zoals Minnesota Lawyer meldde, wordt in een aparte federale rechtszaak beweerd dat de tools van xAI de creatie van door AI gegenereerd materiaal over seksueel misbruik van kinderen mogelijk hebben gemaakt. Deze rechtszaak, gecombineerd met gedocumenteerde golven van niet-consensuele nudificatie gericht op middelbare scholieren in het hele land, heeft het publieke sentiment scherp gekeerd tegen de ongereguleerde op gelijkenis gebaseerde beeldgeneratie – en helpt bij het verklaren van de 132-1 en 65-0 stemmen.

XAI van zijn kant heeft eerder gezegd dat het generaties van misbruik aan banden legt, en het juridische argument van het bedrijf is niet dat dergelijke afbeeldingen in alle gevallen wettig moeten zijn, maar dat een algeheel verbod op een categorie gereedschap het verkeerde constitutionele instrument is. Staatsadvocaten antwoordden woensdag dat Minnesota zijn wet juist heeft opgesteld om zich op misbruik te richten, en dat de uitdaging neerkomt op een bedrijf dat een van de meest door de bevolking gesteunde privacywetten van de sessie probeert te ontkrachten.

Wat gebeurt er vervolgens

De hangende beslissing van de rechter over het voorlopig bevel zal bepalen of Minnesota het verbod kan blijven handhaven terwijl de onderliggende rechtszaak voortduurt – een proces dat vele maanden kan duren en waarschijnlijk uiteindelijk hogere rechtbanken erbij zal betrekken. Wat de uitkomst ook zal zijn, de zaak wordt nauwlettend in de gaten gehouden door andere staatswetgevers. Tientallen staten hebben de afgelopen jaren deepfake-maatregelen aangenomen of overwogen, en een uitspraak waarin de aanpak van Minnesota wordt bepaald, zou bepalen hoe de rest die van hen schrijft.

Het dispuut komt ook terecht op een moment waarop de controle op de praktijken van xAI wordt geïntensiveerd. Het bedrijf verdedigt tegelijkertijd zijn inhoudsbeleid in andere fora en probeert Grok te positioneren als een maximaal ongeremd creatief instrument – ​​een combinatie die nu heeft geleid tot een directe constitutionele botsing met een van de meest tweeledige privacybeschermingen die welke staat dan ook heeft ingevoerd. Voor lezers die de regulering van synthetische media volgen: deze rechtszaal in St. Paul is momenteel de plek waar de meest consequente strijd tegen de vrijheid van meningsuiting van de industrie wordt gevoerd.

---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →