Elon Musks företag för artificiell intelligens xAI mötte delstaten Minnesota i federal domstol på onsdagen och hävdade att en ny lag som förbjuder AI-genererade falska nakenbilder bryter mot det första tillägget. Utfrågningen i St. Pauls federala domstolsbyggnad, som började klockan 9:30 på onsdagen, är den senaste omgången i en tvist som har blivit ett nationellt testfall om hur långt stater kan gå för att reglera AI-genererade bilder av verkliga människor.
På spel är Minnesotas AI-lag för "nudifiering", som trädde i kraft den 1 augusti och förbjuder AI-verktyg från att använda en verklig persons likhet för att skapa falska nakenbilder. Lagen ger också offer rätten att väcka mål i civil domstol, och den tillåter en straffavgift på 500 000 $ för varje olaglig åtkomst eller nedladdning av bilder som ändrats med AI för att få någon att framstå som naken - en siffra som återspeglar hur allvarligt statens lagstiftare behandlade frågan.
En lag som antogs nästan enhälligt
The political background makes the courtroom clash unusual. Nudifieringsförbudet föreslogs i den lagstiftande församlingen i Minnesota den senaste sessionen och antogs med nästan totalt stöd: 132-1 i kammaren och 65-0 i senaten, enligt KSTP. Den marginalen är sällsynt för någon teknikreglering och signalerar hur politiskt laddade djupfalska bilder utan samtycke har blivit över partigränserna.
xAI lämnade in sin federala stämningsansökan en dag innan lagen trädde i kraft, och begärde samtidigt ett tillfälligt besöksförbud för att blockera verkställighet. The judge denied that request, noting the delayed filing and suggesting the harm to the company was not immediate, as CBS News reported. Wednesday's hearing addressed xAI's broader request for a preliminary injunction, and by evening the judge was still mulling the arguments.
Den första ändringskollisionen
According to xAI, the ban unconstitutionally restricts free speech and visual expression tools. Företagets rättegång riktar sig mot lagens kärnmekanism: att förbjuda AI-system från att producera nakenbilder av riktiga människor som aldrig samtyckt till dem. Den ståndpunkten försätter xAI i den obekväma ställningen att på konstitutionella grunder försvara en kategori av produktion – syntetisk nakenhet utan samtycke – som till och med företaget erkänner är missbruk när den produceras.
Minnesota åklagare Keith Ellisons kontor har motarbetat att lagen är snävt skräddarsydd och att xAI sannolikt inte kommer att lyckas med sin konstitutionella utmaning. Rapportering om utfrågningen enligt lagkommentar fångade statens skarpaste argument: Minnesota hävdar att xAI:s Grok-bildgenerator är ett verktyg, inte skyddat tal, och att reglering av vad en produkt gör skiljer sig från att reglera vad en person säger. Staten har också ifrågasatt xAI:s ställning, och MLex rapporterar att justitiekanslern hävdar att xAI inte kan stämma Minnesota å sina användares vägnar.
Distinktionen har betydelse långt bortom Minnesota. Om en generativ modell i sig räknas som ett skyddat uttryck, kan ett brett spektrum av statliga lagar som riktar sig till djupfalsk pornografi, bedrägeri och valdesinformation vara sårbara för samma argument. Om domstolar istället behandlar modellutdata som produkter som omfattas av ordinarie reglering, får stater en varaktig hävstång över syntetiska medier som federal lag för närvarande inte tillhandahåller.
En mörkare bakgrund
The courtroom fight over constitutional doctrine is unfolding against a grimmer factual record. Som Minnesota Lawyer rapporterade, hävdar en separat federal rättegång att xAI:s verktyg möjliggjorde skapandet av AI-genererat material för sexuella övergrepp mot barn. Den rättstvisten, i kombination med dokumenterade vågor av icke-samtycke av nudifiering riktad mot gymnasieelever över hela landet, har vänt allmänhetens stämningar kraftigt mot oreglerad likhetsbaserad bildgenerering - och hjälper till att förklara rösterna 132-1 och 65-0.
xAI har för sin del tidigare sagt att det begränsar kränkande generationer, och företagets juridiska argument är inte att sådana bilder ska vara lagliga i varje fall, utan att ett genomgripande förbud mot en kategori av verktyg är fel konstitutionellt instrument. Statliga advokater svarade på onsdagen att Minnesota utarbetade sin lag just för att rikta in sig på det missbrukande fallet, och att utmaningen är att ett företag försöker ogiltigförklara en av sessionens mest populärt stödda integritetslagar.
Vad händer härnäst
Domarens väntande beslut om det preliminära föreläggandet kommer att avgöra om Minnesota kan fortsätta att upprätthålla förbudet medan den underliggande rättegången fortsätter - en process som kan ta många månader och som verkar sannolikt, så småningom, involvera högre domstolar. Whatever the outcome, the case is being watched closely by other state legislatures. Dussintals delstater har godkänt eller övervägt deepfake-åtgärder under de senaste åren, och ett beslut som styr Minnesotas tillvägagångssätt skulle forma hur resten skriver sitt.
The dispute also lands at a moment of intensifying scrutiny of xAI's practices. Företaget försvarar samtidigt sin innehållspolicy i andra forum samtidigt som de försöker positionera Grok som ett maximalt ohämmat kreativt verktyg - en kombination som nu har producerat en direkt konstitutionell kollision med ett av de mest tvåpartiska integritetsskydden som någon stat har antagit. För läsare som följer regleringen av syntetiska medier, är denna rättssal i St. Paul för närvarande där branschens mest följdriktiga yttrandefrihetskamp argumenteras.
---
Stay ahead of AIFå de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.
Läs mer AI-nyheter →
