Een hof van beroep in Arizona heeft een moordvonnis verworpen omdat de rechter een door AI gegenereerde video bekeek waarin het slachtoffer – nagebouwd op basis van familieopnames – zijn moordenaar van achter het graf leek te vergeven.

Gabriel Paul Horcasitas werd door een jury veroordeeld voor het neerschieten en vermoorden van Christopher Pelkey, 37, tijdens een wegconfrontatie bij een rood licht in 2021, en werd veroordeeld tot 10 jaar gevangenisstraf. Maar zijn juridische team ging in beroep en voerde aan dat de rechter nooit een AI-video van Pelkey ​​had mogen zien die zijn familie had gemaakt en in de rechtbank had afgespeeld voorafgaand aan de veroordeling van vorig jaar. Het Arizona Court of Appeals was het daarmee eens en oordeelde deze week dat Horcasitas, 55, opnieuw moet worden veroordeeld omdat de clip "die grens overschreed", zoals de BBC meldde.

De uitspraak is de meest consequente test tot nu toe van hoe het Amerikaanse rechtssysteem synthetische media zal behandelen – en het zet een teken dat zelfs emotioneel krachtige AI-recreatie een vervolging de gewenste uitkomst kan kosten. Volg onze nieuwste AI-ontwikkelingen voor voortdurende berichtgeving over AI-regelgeving en de rechtbanken.

De video die een rechtszaal in beweging bracht

De video was het werk van de familie van Pelkey, die zijn stemopnames, homevideo's en foto's gebruikte om hem na te bootsen: een digitale dubbelganger met een grijze baseballpet op, die een verklaring aflegde die de echte man nooit heeft kunnen afleggen.

"Voor Gabriel Horcasitas, de man die mij heeft neergeschoten, is het jammer dat we elkaar die dag in die omstandigheden zijn tegengekomen", zei de AI-versie van Pelkey ​​in 2025 tegen de rechtbank. "In een ander leven hadden we waarschijnlijk vrienden kunnen zijn."

De recreatie ging verder en bood vergeving in expliciet spirituele termen. "Ik geloof in vergeving, en in een God die vergeeft. Dat heb ik altijd gedaan en dat doe ik nog steeds", vervolgde de door AI gegenereerde Pelkey.

Pelkey's zus, Stacey Wales, vertelde vorig jaar aan de BBC dat de familie de video had opgebouwd op basis van zijn eigen opgenomen stem en beeltenis. Destijds leek de rechter dit toe te juichen. "Ik hield van die AI, bedankt daarvoor", zei rechter Todd Lang, en voegde eraan toe: "Hoe boos je ook bent, hoe terecht boos de familie ook is, ik heb de vergeving gehoord... ik heb het gevoel dat dat oprecht was."

Waarom het Hof van Beroep tussenbeide kwam

Het Arizona Court of Appeals zag dezelfde video heel anders. “In plaats van een gebeurtenis te documenteren of een bepaald moment vast te leggen, presenteert de AI-video een afbeelding van het slachtoffer en zijn gedachten, gecreëerd op basis van de fantasieën van de zus van het slachtoffer”, schreef het panel in zijn uitspraak van woensdag.

Dat onderscheid – tussen het documenteren van wat er is gebeurd en het synthetiseren van wat er had kunnen gebeuren – is de juridische breuklijn die zich nu opent rond generatieve AI in rechtszalen. Een slachtofferverklaring is van oudsher het enige onderdeel van een strafprocedure waarin emotie en persoonlijke stem de vrije loop krijgen. De zorg van de rechtbank is dat een AI-spel een verzinsel in handen heeft, hoe liefdevol ook geconstrueerd, en de verdediging niet in staat stelt woorden te onderzoeken die de overledene nooit heeft gesproken.

Geen van beide partijen gaf commentaar op de uitspraak. De advocaat van Horcasitas, Kristen Reller, die het beroep heeft ingediend, weigerde commentaar te geven, en Jessica Gattuso, een advocaat voor de slachtoffers in de zaak, reageerde niet op een verzoek om commentaar, aldus de BBC.

Een testcase voor AI in het rechtssysteem

Rechtbanken over de hele wereld beginnen nog maar net de confrontatie aan te gaan met generatieve AI. Rechters hebben advocaten gesanctioneerd voor het indienen van AI-gehallucineerde citaten, en deepfake-bewijsmateriaal is opgedoken in strafzaken. Maar deze zaak is ongebruikelijk omdat de synthetische media niet zijn geïntroduceerd om te misleiden, maar om te humaniseren – en het was de empathie van de verzinsels die juridisch fataal bleek.

De inzet loopt in beide richtingen. Voorstanders van slachtoffers beweren dat families de vrijheid moeten hebben om dierbaren te herdenken hoe zij dat willen, en dat Pelkey's familie een manier heeft gevonden om vergeving te betuigen die voor hen belangrijk was. Advocaten van de verdediging zien een probleem met een eerlijk proces: de rechter van een jury was ontroerd door een optreden dat was geschreven door verdriet en gegenereerd door een model, dat plausibel de ernst van de straf had kunnen beïnvloeden.

Het hof van beroep trok zijn lijn smal maar duidelijk. Bewijsmateriaal over de impact van slachtoffers kan opnames van de echte persoon omvatten; het kan geen AI-simulatie van de gedachten van de persoon omvatten, samengesteld uit de verbeelding en weergegeven in zijn gezicht en stem.

Wat gebeurt er vervolgens

Horcasitas zal worden veroordeeld, dit keer zonder de AI-video. De veroordeling zelf blijft staan: het bezwaar van het hof van beroep had betrekking op de veroordelingsprocedure, niet op het oordeel van de jury over de moord in 2021.

De bredere vraag ligt nu voor de rechter en de wetgevende macht: wanneer een gezin een overtuigende digitale uitvoering uit opnames kan toveren, welke regels weerhouden synthetisch verdriet ervan levensveranderende beslissingen te beïnvloeden? Het antwoord van Arizona is voorlopig dat de doden niet in de rechtszaal spreken – ook al kan de technologie ervoor zorgen dat het lijkt alsof ze dat wel doen.

---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →