Odvolací soud v Arizoně zrušil rozsudek za vraždu, protože soudce zhlédl video vytvořené umělou inteligencí, ve kterém se zdálo, že oběť – vytvořená z rodinných nahrávek – odpustila svému vrahovi až za hrob.
Gabriel Paul Horcasitas byl porotou usvědčen ze střelby a zabití Christophera Pelkeyho (37) během silniční konfrontace na červenou v roce 2021 a byl odsouzen k 10 letům vězení. Jeho právní tým se ale odvolal a tvrdil, že soudci, který vynesl rozsudek, nemělo být nikdy ukázáno AI video Pelkeyho, které jeho rodina vytvořila a hrála u soudu před vynesením rozsudku v loňském roce. Odvolací soud v Arizoně souhlasil a tento týden rozhodl, že Horcasitas (55) musí být odsouzen, protože klip „překročil tuto hranici“, jak uvedla BBC.
Rozsudek je dosud nejdůslednějším testem toho, jak bude americký soudní systém zacházet se syntetickými médii – a nastavuje ukazatel, že i emocionálně silné rekreace umělé inteligence mohou stát stíhání preferovaný výsledek. Chcete-li pokračovat v pokrytí regulace AI a soudů, sledujte náš nejnovější vývoj AI.
Video, které pohnulo soudní síní
Video bylo dílem Pelkeyho rodiny, která použila jeho hlasové nahrávky, domácí videa a fotografie, aby ho znovu vytvořila – digitálního dvojníka s šedou baseballovou čepicí, poskytující prohlášení, které skutečný muž nikdy nedožil.
"Gabrielu Horcasitasovi, muži, který mě zastřelil, je škoda, že jsme se ten den za takových okolností potkali," řekla soudu Pelkeyho verze AI v roce 2025. "V jiném životě jsme pravděpodobně mohli být přáteli."
Zábava šla ještě dále a nabídla odpuštění v výslovně duchovních termínech. "Věřím v odpuštění a v Boha, který odpouští. Vždycky jsem to dělal a stále věřím," pokračoval Pelkey vygenerovaný AI.
Pelkeyho sestra Stacey Walesová loni pro BBC řekla, že rodina vytvořila video z jeho vlastního nahraného hlasu a podoby. Tehdy se zdálo, že soudce, který trest odsoudil, to uvítal. "Miloval jsem tu AI, děkuji za ni," řekl soudce Todd Lang a dodal: "Ať se zlobíš ty, tak oprávněně naštvaná jako rodina, slyšel jsem to odpuštění... mám pocit, že to bylo skutečné."
Proč zasáhl odvolací soud
Odvolací soud v Arizoně viděl stejné video velmi odlišně. „Spíše než dokumentovat událost nebo zaznamenávat konkrétní okamžik, video AI představuje zobrazení oběti a její myšlenky vytvořené z představ sestry oběti,“ napsal panel ve svém středečním rozhodnutí.
Tento rozdíl – mezi dokumentováním toho, co se stalo, a syntézou toho, co by mohlo být – je právní chybou, která se nyní otevírá kolem generativní umělé inteligence v soudních síních. Prohlášení o dopadu na oběť je tradičně tou částí trestního řízení, kde mají emoce a osobní hlas volný průchod. Soud se obává, že rekreační umělá inteligence se podřizuje výmyslu, jakkoli láskyplně vytvořenému, a nechává obhajobu neschopnou přezkoumat slova, která zesnulý nikdy neřekl.
Ani jedna strana rozhodnutí nekomentovala. Horcasitasova právnička Kristen Rellerová, která odvolání podala, se odmítla vyjádřit a Jessica Gattuso, advokátka obětí v případu, podle BBC na žádost o komentář nereagovala.
Testovací případ pro AI v systému spravedlnosti
Soudy po celém světě teprve začínají čelit generativní umělé inteligenci. Soudci posvětili právníky za podávání citací s halucinacemi AI a v trestních řízeních se objevily hluboce falešné důkazy. Tento případ je však neobvyklý, protože syntetická média nebyla zavedena proto, aby klamala, ale aby humanizovala – a právě empatie výmyslu se ukázala být právně fatální.
Sázky běží oběma směry. Obhájci obětí tvrdí, že rodiny by měly mít možnost uctívat památku svých blízkých, ať se rozhodnou jakkoli, a že Pelkeyho rodina našla způsob, jak vyjádřit odpuštění, na kterém jim záleželo. Obhájci vidí problém řádného procesu: soudce poroty byl dojat představením napsaným smutkem a generovaným modelem, což mohlo věrohodně ovlivnit přísnost trestu.
Odvolací soud se vymezil úzce, ale jasně. Důkazy o dopadu na oběť mohou zahrnovat nahrávky skutečné osoby; nemůže zahrnovat AI simulaci myšlenek dané osoby sestavenou z představivosti a vykreslenou v její tváři a hlasu.
Co se stane dál
Horcasitas budou odsuzováni, tentokrát bez videa AI. Samotné odsouzení platí – námitka odvolacího soudu se týkala řízení o odsouzení, nikoli verdiktu poroty o zabití v roce 2021.
Širší otázka je nyní přímo před soudy a zákonodárnými sbory: když rodina dokáže z nahrávek vykouzlit přesvědčivé digitální představení, jaká pravidla zabrání syntetickému smutku, aby ovlivnil rozhodnutí, která změní život? Odpověď Arizony je prozatím taková, že mrtví u soudu nemluví – i když to díky technologii může vypadat a znít, jako by to bylo.
---
Stay Ahead of AIZískejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
