Elon Musks Unternehmen für künstliche Intelligenz xAI trat am Mittwoch vor einem Bundesgericht mit dem Bundesstaat Minnesota in Konflikt und argumentierte, dass ein neues Gesetz, das KI-generierte gefälschte Nacktbilder verbietet, gegen den Ersten Verfassungszusatz verstößt. Die Anhörung im Bundesgericht St. Paul, die am Mittwoch um 9:30 Uhr begann, ist die letzte Runde in einem Streit, der zu einem nationalen Testfall darüber geworden ist, wie weit Staaten bei der Regulierung von KI-generierten Bildern realer Menschen gehen können.

Auf dem Spiel steht Minnesotas KI-„Nacktheits“-Gesetz, das am 1. August in Kraft trat und KI-Tools verbietet, das Abbild einer realen Person zu verwenden, um gefälschte Nacktbilder zu erstellen. Das Gesetz gibt Opfern auch das Recht, Klagen vor einem Zivilgericht zu erheben, und sieht eine Strafe von 500.000 US-Dollar für jeden rechtswidrigen Zugriff oder Download von Bildern vor, die mit KI verändert wurden, um jemanden nackt erscheinen zu lassen – eine Zahl, die die Härte widerspiegelt, mit der die Gesetzgeber des Bundesstaates das Problem behandelt haben.

Ein Gesetz, das fast einstimmig verabschiedet wurde

Der politische Hintergrund macht die Auseinandersetzung im Gerichtssaal ungewöhnlich. Das Nacktifizierungsverbot wurde in der vergangenen Sitzung im Parlament von Minnesota vorgeschlagen und mit nahezu vollständiger Unterstützung angenommen: 132:1 im Repräsentantenhaus und 65:0 im Senat, laut KSTP. Dieser Spielraum ist für jede Technologieregulierung selten und zeigt, wie politisch aufgeladen nicht einvernehmliche Deepfake-Bilder über Parteigrenzen hinweg geworden sind.

xAI reichte seine Bundesklage einen Tag vor Inkrafttreten des Gesetzes ein und beantragte gleichzeitig eine einstweilige Verfügung zur Blockierung der Durchsetzung. Der Richter lehnte diesen Antrag ab, verwies auf die verspätete Einreichung und wies darauf hin, dass der Schaden für das Unternehmen nicht unmittelbar eingetreten sei, wie CBS News berichtete. In der Anhörung am Mittwoch ging es um den umfassenderen Antrag von xAI auf eine einstweilige Verfügung, und am Abend dachte der Richter immer noch über die Argumente nach.

Die Kollision mit dem ersten Verfassungszusatz

Laut xAI schränkt das Verbot die freie Meinungsäußerung und die visuellen Ausdrucksmittel verfassungswidrig ein. Die Klage des Unternehmens zielt auf den Kernmechanismus des Gesetzes ab: das Verbot von KI-Systemen, Nacktdarstellungen von echten Menschen zu produzieren, die ihnen nie zugestimmt haben. Diese Position bringt xAI in die unangenehme Lage, aus verfassungsrechtlichen Gründen eine Produktkategorie zu verteidigen – nicht einvernehmliche synthetische Nacktheit –, von der selbst das Unternehmen anerkennt, dass sie missbräuchlich ist, wenn sie produziert wird.

Das Büro des Generalstaatsanwalts von Minnesota, Keith Ellison, hat entgegnet, dass das Gesetz eng zugeschnitten sei und dass xAI bei seiner verfassungsrechtlichen Anfechtung wahrscheinlich keinen Erfolg haben werde. Die Berichterstattung über die Anhörung durch Law Commentary brachte das schärfste Argument des Staates auf den Punkt: Minnesota behauptet, dass der Grok-Bildgenerator von xAI ein Werkzeug und keine geschützte Rede sei und dass die Regulierung dessen, was ein Produkt tut, sich von der Regulierung dessen, was eine Person sagt, unterscheidet. Der Staat hat auch die Stellung von xAI angefochten, wobei MLex berichtet, dass die Generalstaatsanwaltschaft argumentiert, dass xAI Minnesota nicht im Namen seiner Nutzer verklagen kann.

Die Unterscheidung ist weit über Minnesota hinaus von Bedeutung. Wenn ein generatives Modell selbst als geschützte Meinungsäußerung gilt, könnte eine Vielzahl staatlicher Gesetze, die auf Deepfake-Pornografie, Betrug und Wahlfehlinformationen abzielen, für dasselbe Argument anfällig sein. Wenn Gerichte Modellergebnisse stattdessen als Produkte behandeln, die einer gewöhnlichen Regulierung unterliegen, erhalten Staaten einen dauerhaften Einfluss auf synthetische Medien, den das Bundesrecht derzeit nicht vorsieht.

Ein dunklerer Hintergrund

Der Gerichtsstreit um die Verfassungsdoktrin entfaltet sich vor dem Hintergrund einer düstereren Faktenlage. Wie Minnesota Lawyer berichtete, wird in einer separaten Bundesklage behauptet, dass die Tools von xAI die Erstellung von KI-generiertem Material über sexuellen Kindesmissbrauch ermöglichten. Dieser Rechtsstreit, gepaart mit dokumentierten Wellen nicht einvernehmlicher Nacktheit, die sich an Oberstufenschüler im ganzen Land richtete, hat die Stimmung in der Öffentlichkeit stark gegen die unregulierte, auf Ähnlichkeiten basierende Bildgenerierung gewendet – und trägt zur Erklärung der 132 zu 1 und 65 zu 0 Stimmen bei.

xAI seinerseits hat zuvor erklärt, dass es missbräuchliche Generationen einschränkt, und das rechtliche Argument des Unternehmens ist nicht, dass solche Bilder in jedem Fall rechtmäßig sein sollten, sondern dass ein umfassendes Verbot einer Werkzeugkategorie das falsche Verfassungsinstrument ist. Staatsanwälte antworteten am Mittwoch, dass Minnesota sein Gesetz genau so formuliert habe, dass es auf den Missbrauchsfall abzielt, und dass die Herausforderung darauf hinauslaufe, dass ein Unternehmen eines der am meisten unterstützten Datenschutzgesetze der Sitzung für ungültig erklären wolle.

Was als nächstes passiert

Die ausstehende Entscheidung des Richters über die einstweilige Verfügung wird darüber entscheiden, ob Minnesota das Verbot weiterhin durchsetzen kann, während die zugrunde liegende Klage andauert – ein Prozess, der viele Monate dauern könnte und wahrscheinlich letztendlich höhere Gerichte involvieren wird. Was auch immer das Ergebnis sein mag, der Fall wird von anderen Landesgesetzgebern genau beobachtet. Dutzende Bundesstaaten haben in den letzten Jahren Deepfake-Maßnahmen erlassen oder erwogen, und eine Entscheidung, die den Ansatz von Cabin Minnesota angeht, würde die Art und Weise beeinflussen, wie der Rest seinen Ansatz schreibt.

Der Streit findet auch zu einem Zeitpunkt statt, an dem die Praktiken von xAI immer genauer unter die Lupe genommen werden. Gleichzeitig verteidigt das Unternehmen seine Inhaltsrichtlinien in anderen Foren und versucht gleichzeitig, Grok als ein möglichst ungehemmtes kreatives Werkzeug zu positionieren – eine Kombination, die nun zu einem direkten verfassungsrechtlichen Konflikt mit einem der parteiübergreifendsten Datenschutzbestimmungen geführt hat, die ein Staat je erlassen hat. Für Leser, die die Regulierung synthetischer Medien verfolgen: In diesem Gerichtssaal in St. Paul wird derzeit der folgenreichste Kampf um freie Meinungsäußerung in der Branche ausgetragen.

---

Der KI einen Schritt voraus sein

Erhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Weitere KI-Neuigkeiten lesen →