OpenAI und Meta warnen Bundesrichter: Deepfake-Beweise übertreffen die Fähigkeit der Gerichte, sie zu überprüfen

Vertreter von OpenAI und Meta Platforms sagten am Donnerstag vor einem Bundesgerichtsgremium, dass KI-generierte Deepfakes so weit fortgeschritten seien, dass die Überprüfung der Authentizität von Audio- und Videobeweisen vor Gericht schwieriger werde, berichtete Reuters.

Die Technologieexperten brachten ihre Bedenken bei einem Treffen des Beratenden Ausschusses für Beweisregeln der US-Justizkonferenz in Boston vor – dem Gremium, das für die Empfehlung von Änderungen der Bundesregeln zuständig ist, die regeln, welche Beweismittel Gerichte zulassen dürfen. Das Komitee arbeitet seit 2023 daran, wie den Risiken gefälschter KI-generierter Beweise in Gerichtssälen begegnet werden kann. Weitere Informationen zu dieser Geschichte finden Sie in unserer aktuelle KI-Trends.

AI Labs sagen, dass die Erkennung keine wissenschaftliche Zukunft hat

Shira Anderson, Politikberaterin bei OpenAI, sagte dem Ausschuss, dass die Qualität von KI-Bildern sich weiter verbessere, und sagte, sie glaube nicht, dass es in Zukunft eine wissenschaftliche Methode zur Erkennung geben werde – ein bemerkenswertes Eingeständnis eines Unternehmens, das die generativen Systeme baut, die diese Inhalte produzieren.

Devin Norder, Leiter des Produktmanagements bei Meta, erklärte dem Gremium, dass Medien, die mit neueren KI-Modellen erstellt wurden, von Menschen nicht von authentischen Inhalten unterschieden werden können und dass die Erstellung solcher Medien jetzt nur minimale Kosten und Zeit erfordert.

Beide Unternehmen haben Herkunfts- und Verifizierungstools für visuelle Inhalte entwickelt, und neue Gesetze in Kalifornien und der Europäischen Union erfordern die Kennzeichnung von KI-generierten Medien mit Wasserzeichen. Anderson warnte das Komitee jedoch davor, dass jedes Unternehmen sein eigenes System verwende, was bedeutet, dass es keine universelle Methode gibt, um alle Wasserzeichen zuverlässig zu erkennen oder die Authentizität visueller Inhalte im gesamten Ökosystem zu überprüfen.

Gerichte haben die Welle noch nicht gespürt

Der Vorsitzende des Ausschusses, der US-Bezirksrichter Jesse Furman aus Manhattan, bot ein Gegengewicht zum Alarm: Während wissenschaftliche Kommentare voraussagen, dass Gerichte sich mit Deepfakes befassen werden, ist das Problem in tatsächlichen Fällen noch nicht häufig aufgetreten.

Eine im März vom Bundesjustizzentrum durchgeführte Umfrage verdeutlichte diese Lücke. Nur 15 von 931 Richtern, die geantwortet haben, waren mit einem Fall konfrontiert, in dem eine Partei Beweise mit der Begründung angefochten hatte, es handele sich um eine Deepfake.

Diese Kluft zwischen Vorhersage und Praxis ist das Kerndilemma des Ausschusses. Gemäß den Federal Rules of Evidence 901 und 902 ist der bestehende Standard für die Authentifizierung von Beweismitteln – wie es im Bericht des Ausschusses selbst heißt – mild: Eine Partei muss lediglich ausreichende Beweise vorlegen, um die Feststellung zu stützen, dass es sich bei dem Gegenstand um das handelt, was der Befürworter behauptet. Deepfakes stellen diesen Standard auf einen Stresstest, da die traditionellen Wege zur Authentifizierung von Aufzeichnungen (Zeugenaussagen, Systemdokumentation) davon ausgehen, dass Fälschungen in großem Maßstab schwierig, teuer und erkennbar sind.

Die eigene Berichterstattung des Ausschusses hat das Problem mit ungewöhnlicher Deutlichkeit dargelegt. Der Bericht vom Dezember 2025 untersuchte, was passiert, wenn es sich bei einem vor Gericht angebotenen Video oder Audio um einen Deepfake handelt, und kam zu dem Schluss, dass dies eine direkte Herausforderung für die Authentizitätsanforderungen gemäß den Regeln 901 und 902 darstellt, gerade weil der bestehende Authentizitätsstandard mild ist. Wie – und ob – dieser Standard verschärft werden soll, ist die Frage, mit der sich das Komitee seit drei Jahren beschäftigt, und sie wird noch dringlicher, wenn, wie die Laborvertreter warnten, die Erkennungswissenschaft nie mit der Generationswissenschaft mithalten kann.

Was Praktiker jetzt tun können

Bis sich die Regeln ändern, liegt die praktische Belastung bei Prozessanwälten und Prozessrichtern. Provenance-Tools – kryptografische Anmeldeinformationen für Inhalte, die zum Zeitpunkt der Erstellung eingebettet werden – verbreiten sich über Kamera-Apps und Kreativsoftware, helfen jedoch nur bei Medien, die sie enthalten. Derzeitige Verteidigungsmaßnahmen sind ein Kreuzverhör unter Eid der Person, die eine Aufnahme gemacht hat, Forderungen nach Offenlegung von Originaldateien und Generierungsmetadaten sowie eine genauere Prüfung von Clips ohne Quellenangabe, die auf sozialen Plattformen verbreitet werden. Die Botschaft des Beratungsausschusses in dieser Woche war im Grunde, dass diese Notlösungen eine formelle Grundlage auf Regelebene benötigen, da die informellen Lösungen eine Erkennbarkeit voraussetzen, die laut OpenAI und Meta nicht mehr existiert.

Warum die Aussage der Labore wichtig ist

Es ist bemerkenswert, dass die Unternehmen, deren Produkte das Risiko darstellen, die Justiz davor warnen. OpenAI und Meta haben direkte kommerzielle und Reputationsinteressen daran, wie die Regeln umgesetzt werden: Strenge Authentifizierungsanforderungen könnten die legitime Nutzung von KI-Medien erschweren, während laxe Anforderungen ihre Tools zu Vektoren für Gerichtsbetrug machen könnten. Ihre Botschaft an das Komitee lautete im Wesentlichen, dass Herkunftsstandards – Wasserzeichen, Inhaltsnachweise, Dokumentation der Lieferkette – der praktikable Weg seien, da die Erkennung allein nicht skalierbar sei.

Die dreijährige Überprüfung des Ausschusses soll Aufschluss darüber geben, ob die bundesstaatlichen Beweisregeln für das KI-Zeitalter geändert werden müssen. Jede Änderung würde den Regelsetzungsprozess der Justizkonferenz einschließlich der öffentlichen Stellungnahme durchlaufen, bevor sie dem Kongress vorgelegt wird.

Das umfassendere regulatorische Bild

Die Anhörung findet inmitten einer Welle politischer Aktivitäten im Zusammenhang mit Deepfakes statt. Kalifornien und die EU haben Wasserzeichenvorschriften erlassen. Dänemark hat Gesetze erlassen, die die Weitergabe von KI-Deepfakes ohne Zustimmung verbieten. US-Gerichte haben bereits festgestellt, dass KI-generierte Fälschungen in Akten auftauchen, und Richter haben Anwälte sanktioniert, weil sie von Chatbots generierte gefälschte Zitate eingereicht hatten.

Derzeit zieht die Bundesjustiz sorgfältige Untersuchungen den Vorzug vor raschen Regeländerungen. Doch die Aussagen der Unternehmen, die die Technologie entwickeln, deuten darauf hin, dass die Branche selbst nicht damit rechnet, dass die Erkennungstools mithalten können – was die Last auf Herkunftsstandards, Verfahrensgarantien wie Anforderungen an die Zeugenaussage und letztlich auf das Urteil von Richtern und Geschworenen darüber verlagert, was sie glauben sollen.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →