Společnost pro umělou inteligenci xAI Elona Muska se ve středu u federálního soudu střetla se státem Minnesota s argumentem, že nový zákon zakazující falešné nahé obrázky generované umělou inteligencí porušuje první dodatek. Slyšení u federálního soudu v St. Paul, které začalo ve středu v 9:30, je posledním kolem sporu, který se stal národním testovacím případem ohledně toho, jak daleko mohou státy zajít při regulaci snímků skutečných lidí generovaných umělou inteligencí.

V sázce je zákon Minnesoty o „nudifikaci“ umělé inteligence, který vstoupil v platnost 1. srpna a zakazuje nástrojům umělé inteligence používat podobiznu skutečné osoby k vytváření falešných nahých obrázků. Zákon také dává obětem právo obrátit se na civilní soud a povoluje pokutu 500 000 USD za každý nezákonný přístup nebo stažení obrázků pozměněných umělou inteligencí, aby někdo vypadal nahý – číslo, které odráží závažnost, s jakou státní zákonodárci problém řešili.

Zákon, který prošel téměř jednomyslně

Politické pozadí činí střet soudní síně neobvyklým. Zákaz nudifikace byl na minulém zasedání navržen v zákonodárném sboru Minnesoty a prošel s téměř úplnou podporou: 132-1 ve Sněmovně a 65-0 v Senátu, podle KSTP. Tato rezerva je pro jakoukoli technologickou regulaci vzácná a signalizuje, jak politicky zatížené nekonsensuální hluboce falešné snímky se staly napříč stranickými liniemi.

xAI podala svou federální žalobu jeden den před tím, než zákon vstoupil v platnost, a současně požádala o dočasný omezující příkaz k zablokování vymáhání. Soudce tuto žádost zamítl s tím, že opožděné podání a naznačující, že poškození společnosti nebylo okamžité, jak uvedla CBS News. Středeční jednání se zabývalo širší žádostí xAI o předběžné opatření a do večera soudce ještě zvažoval argumenty.

Kolize prvního dodatku

Podle xAI zákaz protiústavně omezuje svobodu slova a nástroje vizuálního vyjádření. Žaloba společnosti se zaměřuje na základní mechanismus zákona: zakazuje systémům AI produkovat nahé zobrazení skutečných lidí, kteří s nimi nikdy nedali souhlas. Tato pozice staví xAI do nepohodlné pozice obhajovat z ústavních důvodů kategorii výstupu – nekonsensuální syntetickou nahotu – o které dokonce i společnost uznává, že je při výrobě urážlivá.

Kancelář generálního prokurátora Minnesoty Keitha Ellisona oponovala, že zákon je úzce přizpůsoben a že xAI pravděpodobně neuspěje ve své ústavní výzvě. Zpráva o slyšení podle Law Commentary zachytila ​​nejostřejší argument státu: Minnesota tvrdí, že generátor obrázků Grok společnosti xAI je nástroj, nikoli chráněná řeč, a že regulace toho, co produkt dělá, se liší od regulace toho, co říká osoba. Stát také zpochybnil postavení xAI, přičemž MLex uvedl, že kancelář generálního prokurátora tvrdí, že xAI nemůže žalovat Minnesotu jménem svých uživatelů.

Na rozdílu záleží daleko za hranicemi Minnesoty. Pokud se generativní model sám o sobě počítá jako chráněný výraz, široká škála státních zákonů zaměřených na hluboce falešnou pornografii, podvody a volební dezinformace by mohla být zranitelná stejným argumentem. Pokud budou soudy místo toho považovat výstupy modelu za produkty podléhající běžné regulaci, státy získají trvalou páku nad syntetickými médii, kterou federální právo v současnosti neposkytuje.

Tmavší pozadí

Boj v soudní síni o ústavní doktrínu se rozvíjí proti chmurnějšímu faktu. Jak uvedl Minnesota Lawyer, samostatná federální žaloba tvrdí, že nástroje xAI umožnily vytváření materiálů pro sexuální zneužívání dětí generovaných umělou inteligencí. Tento soudní spor v kombinaci se zdokumentovanými vlnami nesouhlasných nudifikací zaměřených na středoškolské studenty po celé zemi prudce obrátil veřejný sentiment proti neregulovanému generování obrázků založených na podobenství – a pomáhá vysvětlit hlasy 132-1 a 65-0.

Společnost xAI již dříve uvedla, že omezuje zneužívající generace, a právní argument společnosti není, že by takové obrázky měly být v každém případě zákonné, ale že plošný zákaz určité kategorie nástrojů je špatným ústavním nástrojem. Státní právníci ve středu odpověděli, že Minnesota navrhla svůj zákon přesně tak, aby se zaměřila na případ zneužití, a že výzva se rovná společnosti, která se snaží zrušit jeden z nejvíce podporovaných zákonů na ochranu soukromí na zasedání.

Co se stane dál

Očekávané rozhodnutí soudce o předběžném opatření určí, zda Minnesota může pokračovat ve vymáhání zákazu, zatímco bude pokračovat základní soudní řízení – proces, který může trvat mnoho měsíců a zdá se pravděpodobné, že nakonec bude zahrnovat vyšší soudy. Ať už to dopadne jakkoli, případ bedlivě sledují i ​​další státní zákonodárné sbory. Desítky států v posledních letech přijaly nebo zvažovaly hluboce falešná opatření a rozsudek, který by řídil přístup Minnesoty, by ovlivnil způsob, jakým ostatní píší svá.

Spor také končí ve chvíli intenzivnějšího zkoumání praktik xAI. Společnost současně obhajuje své obsahové zásady na jiných fórech a snaží se umístit Grok jako maximálně neomezený kreativní nástroj – kombinace, která nyní vytvořila přímou ústavní kolizi s jednou z nejvíce dvoustranných ochran soukromí, kterou jakýkoli stát uzákonil. Pro čtenáře, kteří sledují regulaci syntetických médií, je tato soudní síň v St. Paul v současnosti místem, kde se vede nejzávažnější boj za svobodu slova v tomto odvětví.

---

Stay Ahead of AI

Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.

Přečtěte si další zprávy o AI →