Ein Berufungsgericht in Arizona hat ein Mordurteil abgewiesen, weil der Richter ein von der KI erstelltes Video gesehen hatte, in dem das Opfer – nachgebildet aus Familienaufzeichnungen – seinem Mörder von jenseits des Grabes aus zu vergeben schien.

Gabriel Paul Horcasitas wurde von einer Jury wegen der Erschießung und Tötung des 37-jährigen Christopher Pelkey ​​während einer Straßenkonfrontation an einer roten Ampel im Jahr 2021 verurteilt und zu 10 Jahren Gefängnis verurteilt. Doch sein Anwaltsteam legte Berufung ein und argumentierte, dass dem Urteilsrichter niemals ein KI-Video von Pelkey ​​hätte gezeigt werden dürfen, das seine Familie letztes Jahr vor der Urteilsverkündung erstellt und vor Gericht abgespielt hatte. Das Berufungsgericht von Arizona stimmte zu und entschied diese Woche, dass der 55-jährige Horcasitas erneut verurteilt werden muss, weil der Clip „diese Grenze überschritten“ habe, wie die BBC berichtete.

Das Urteil ist der bisher folgenreichste Test dafür, wie das amerikanische Justizsystem mit synthetischen Medien umgehen wird – und es setzt ein Zeichen dafür, dass selbst emotional starke KI-Nachbildungen einer Strafverfolgung den gewünschten Ausgang kosten können. Um weiterhin über die KI-Regulierung und die Gerichte zu berichten, folgen Sie unseren neuesten KI-Entwicklungen.

Das Video, das einen Gerichtssaal bewegte

Das Video war das Werk von Pelkeys Familie, die seine Sprachaufnahmen, Heimvideos und Fotos nutzte, um ihn nachzubilden – ein digitales Double, das eine graue Baseballkappe trägt und eine Aussage macht, die der echte Mann nie mehr geben würde.

„Für Gabriel Horcasitas, den Mann, der mich erschossen hat, ist es eine Schande, dass wir uns an diesem Tag unter diesen Umständen begegnet sind“, sagte die KI-Version von Pelkey ​​dem Gericht im Jahr 2025. „In einem anderen Leben hätten wir wahrscheinlich Freunde sein können.“

Die Erholung ging noch weiter und bot Vergebung in explizit spiritueller Form an. „Ich glaube an Vergebung und an einen Gott, der vergibt. Das habe ich immer getan und tue es immer noch“, fuhr der von der KI erzeugte Pelkey ​​fort.

Pelkeys Schwester Stacey Wales erzählte der BBC letztes Jahr, dass die Familie das Video aus seiner eigenen aufgezeichneten Stimme und seinem Konterfei erstellt habe. Der Urteilsrichter schien dies damals zu begrüßen. „Ich habe diese KI geliebt, vielen Dank dafür“, sagte Richter Todd Lang und fügte hinzu: „So wütend Sie auch sind, so berechtigterweise wütend die Familie auch ist, ich habe die Vergebung gehört … ich habe das Gefühl, dass das echt war.“

Warum das Berufungsgericht intervenierte

Das Berufungsgericht von Arizona sah dasselbe Video ganz anders. „Anstatt ein Ereignis zu dokumentieren oder einen bestimmten Moment aufzuzeichnen, präsentiert das KI-Video eine Darstellung des Opfers und seiner Gedanken, die aus den Vorstellungen der Schwester des Opfers entstanden sind“, schrieb das Gremium in seinem Urteil vom Mittwoch.

Diese Unterscheidung – zwischen der Dokumentation dessen, was passiert ist, und der Synthese dessen, was hätte sein können – ist die rechtliche Bruchlinie, die sich jetzt rund um die generative KI in Gerichtssälen auftut. Eine Opferauswirkungserklärung ist traditionell der Teil eines Strafverfahrens, bei dem Emotionen und persönlicher Meinung freien Lauf gelassen werden. Das Gericht befürchtet, dass eine KI-Nachbildung diesen Platz einer Erfindung überlässt, wie liebevoll sie auch konstruiert sein mag, und es der Verteidigung unmöglich macht, die Worte des Verstorbenen ins Kreuzverhör zu nehmen, die er nie gesprochen hat.

Keine Seite äußerte sich zu dem Urteil. Die Anwältin von Horcasitas, Kristen Reller, die die Berufung eingelegt hatte, lehnte eine Stellungnahme ab, und Jessica Gattuso, eine Anwältin der Opfer in dem Fall, reagierte laut BBC nicht auf eine Bitte um Stellungnahme.

Ein Testfall für KI im Justizsystem

Gerichte auf der ganzen Welt beginnen gerade erst, sich mit generativer KI auseinanderzusetzen. Richter haben Anwälte mit Sanktionen belegt, weil sie durch KI halluzinierte Vorladungen eingereicht hatten, und in Strafprozessen sind Fake-Beweise aufgetaucht. Dieser Fall ist jedoch ungewöhnlich, da die synthetischen Medien nicht zur Täuschung, sondern zur Humanisierung eingeführt wurden – und es war die Empathie der Erfindung, die sich juristisch als fatal erwies.

Die Einsätze laufen in beide Richtungen. Opferbefürworter argumentieren, dass Familien die Freiheit haben sollten, geliebten Menschen nach eigenem Ermessen zu gedenken, und dass Pelkeys Familie einen Weg gefunden habe, Vergebung auszudrücken, die ihnen wichtig sei. Verteidiger sehen ein Problem des ordnungsgemäßen Verfahrens: Der Richter einer Jury wurde durch eine von Trauer inszenierte und durch ein Modell generierte Darbietung bewegt, die plausibel die Schwere des Urteils beeinflusst haben könnte.

Das Berufungsgericht zog seine Linie eng, aber klar. Zu den Beweisen für Opfereinwirkungen können Aufnahmen der realen Person gehören; Es darf keine KI-Simulation der Gedanken der Person beinhalten, die aus der Vorstellungskraft zusammengestellt und in ihrem Gesicht und ihrer Stimme wiedergegeben werden.

Was als nächstes passiert

Horcasitas wird erneut verurteilt, dieses Mal ohne das KI-Video. Die Verurteilung selbst bleibt bestehen – der Einspruch des Berufungsgerichts bezog sich auf das Urteilsverfahren, nicht auf das Urteil der Jury zum Mord im Jahr 2021.

Die umfassendere Frage steht nun vor Gerichten und Gesetzgebern: Wenn eine Familie aus Aufnahmen eine überzeugende digitale Darbietung zaubern kann, welche Regeln verhindern dann, dass synthetische Trauer lebensverändernde Entscheidungen beeinflusst? Arizonas Antwort lautet vorerst, dass die Toten vor Gericht nicht sprechen – selbst wenn die Technologie es so aussehen und klingen lassen kann, als ob sie es täten.

---

Der KI einen Schritt voraus sein

Erhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Weitere KI-Neuigkeiten lesen →