En appellationsdomstol i Arizona har kastat ut en morddom eftersom rättegångsdomaren tittade på en AI-genererad video där offret – återskapat från familjeinspelningar – verkade förlåta sin mördare från andra sidan graven.

Gabriel Paul Horcasitas dömdes av en jury för att ha skjutit och dödat Christopher Pelkey, 37, under en vägkonfrontation vid rött ljus 2021, och dömdes till 10 års fängelse. Men hans juridiska team överklagade och hävdade att den dömande domaren aldrig borde ha visat en AI-video av Pelkey ​​som hans familj skapade och spelade upp i domstolen före domen förra året. Arizona Court of Appeals gick med på det och beslutade den här veckan att Horcasitas, 55, måste ångras eftersom klippet "korsade den gränsen", som BBC rapporterade.

Domen är det mest följdriktiga testet hittills av hur det amerikanska rättssystemet kommer att behandla syntetiska medier - och det sätter en markör för att även känslomässigt kraftfulla AI-rekreationer kan kosta en åtal dess föredragna resultat. För fortsatt täckning av AI-reglering och domstolar, följ vår senaste AI-utveckling.

Videon som flyttade en rättssal

Videon var ett verk av Pelkeys familj, som använde hans röstinspelningar, hemmavideor och fotografier för att återskapa honom - en digital dubbelgång klädd i en grå baseballkeps, som levererade ett uttalande som den riktiga mannen aldrig levde för att ge.

"Till Gabriel Horcasitas, mannen som sköt mig, det är synd att vi stötte på varandra den dagen under de omständigheterna", sa AI-versionen av Pelkey ​​till domstolen 2025. "I ett annat liv kunde vi förmodligen ha varit vänner."

Rekreationen gick längre och erbjöd förlåtelse i uttryckligen andliga termer. "Jag tror på förlåtelse och en Gud som förlåter. Jag har alltid gjort det och det gör jag fortfarande", fortsatte den AI-genererade Pelkey.

Pelkeys syster, Stacey Wales, berättade för BBC förra året att familjen byggde videon från hans egen inspelade röst och likhet. Vid den tidpunkten verkade den dömande domaren välkomna det. "Jag älskade den AI, tack för det," sa domaren Todd Lang och tillade: "Hur arg som du är, lika berättigad arg som familjen är, jag hörde förlåtelsen ... jag känner att det var äkta."

Varför hovrätten ingrep

Arizona Court of Appeals såg samma video mycket annorlunda. "Istället för att dokumentera en händelse eller spela in ett speciellt ögonblick, presenterar AI-videon en skildring av offret och hans tankar skapade utifrån föreställningarna om offrets syster", skrev panelen i sitt beslut i onsdags.

Den skillnaden - mellan att dokumentera vad som hände och att syntetisera vad som kan ha varit - är den juridiska fellinjen som nu öppnas kring generativ AI i rättssalar. Ett offerkonsekvensuttalande har traditionellt varit den ena delen av ett brottmål där känslor och personlig röst får fritt spelrum. Rättens oro är att en AI-rekreation överlämnar det till ett påhitt, hur kärleksfullt det än är konstruerat, och gör att försvaret inte kan korsförhöra ord som den avlidne aldrig talade.

Ingendera sidan kommenterade domen. Horcasitas advokat, Kristen Reller, som lämnade in överklagandet, avböjde att kommentera, och Jessica Gattuso, en advokat för offren i fallet, svarade inte på en begäran om kommentar, enligt BBC.

Ett testfall för AI i rättssystemet

Domstolar runt om i världen har bara börjat konfrontera generativ AI. Domare har sanktionerat advokater för att ha lämnat in AI-hallucinerade citat, och djupfalska bevis har dykt upp i brottmål. Men det här fallet är ovanligt eftersom de syntetiska medierna inte introducerades för att lura, utan för att humanisera – och det var empatin i påhittat som visade sig juridiskt ödesdigert.

Insatserna går åt båda hållen. Offerförespråkare hävdar att familjer borde vara fria att minnas sina nära och kära hur de än vill, och att Pelkeys familj hittade ett sätt att uttrycka förlåtelse som betydde något för dem. Försvarsadvokater ser ett problem med rättegången: en jurys domare blev rörd av en prestation skriven av sorg och genererad av en modell, vilket troligtvis kunde ha påverkat straffens svårighetsgrad.

Kammarrätten drog sin gräns snävt men tydligt. Bevis för offerpåverkan kan innefatta inspelningar av den verkliga personen; den kan inte inkludera en AI-simulering av personens tankar, sammanställda utifrån fantasi och återgivna i hans ansikte och röst.

Vad händer härnäst

Horcasitas kommer att bli förbittrade, denna gång utan AI-videon. Själva fällande domen står fast - appellationsdomstolens invändning gick till dömandeförfarandet, inte juryns dom om mordet 2021.

Den bredare frågan ligger nu rakt fram inför domstolar och lagstiftande församlingar: när en familj kan trolla fram en övertygande digital prestation från inspelningar, vilka regler hindrar syntetisk sorg från att svaja livsförändrande beslut? Arizonas svar för tillfället är att de döda inte talar i domstol - även när tekniken kan få det att se ut och låta som om de gör det.

---

Stay ahead of AI

Få de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.

Läs mer AI-nyheter →