Zástupci OpenAI a Meta Platforms ve čtvrtek federálnímu soudnímu panelu řekli, že deepfakes generované umělou inteligencí jsou tak pokročilé, že ověřování pravosti audio a video důkazů u soudu bude stále obtížnější, uvedla agentura Reuters.
Technologičtí experti prezentovali své obavy na schůzce v Bostonu Poradního výboru pro pravidla dokazování Americké soudní konference – orgánu odpovědného za doporučování změn federálních pravidel, kterými se řídí, jaké důkazy mohou soudy připustit. Výbor od roku 2023 pracuje na tom, jak řešit rizika vykonstruovaných důkazů generovaných umělou inteligencí v soudních síních. For more context on this story, see our ongoing AI industry coverage.
AI Labs říkají, že detekce nemá žádnou vědeckou budoucnost
Shira Anderson, politická poradkyně OpenAI, řekla výboru, že kvalita obrázků AI se neustále zlepšuje, a řekla, že nevěří, že v budoucnu bude existovat vědecká metoda k jejich detekci – což je překvapivé přiznání od společnosti, která vytváří generativní systémy produkující tento obsah.
Devin Norder, ředitel produktového managementu ve společnosti Meta, řekl panelu, že média vytvořená nedávnými modely umělé inteligence nemohou lidé odlišit od autentického obsahu a že vytváření takových médií nyní vyžaduje minimální náklady a čas.
Obě společnosti vyvinuly provenienční a ověřovací nástroje pro vizuální obsah a nové zákony v Kalifornii a Evropské unii vyžadují vodoznaky médií generovaných umělou inteligencí. Anderson však varoval výbor, že každá společnost používá svůj vlastní systém, což znamená, že neexistuje žádná univerzální metoda, která by spolehlivě detekovala všechny vodoznaky nebo ověřila pravost vizuálního obsahu v celém ekosystému.
Soudy ještě nepocítily vlnu
Předseda výboru, americký okresní soudce Jesse Furman z Manhattanu, nabídl protiváhu poplachu: zatímco akademické komentáře předpovídají, že se soudy budou zabývat deepfakes, ve skutečných případech se tento problém zatím často neobjevuje.
Průzkum provedený Federálním soudním centrem v březnu tuto mezeru podtrhl. Pouze 15 z 931 soudců, kteří odpověděli, se setkalo s případem, kdy strana zpochybnila důkazy na základě toho, že šlo o falešný důkaz.
Tato mezera mezi předpovědí a praxí je hlavním dilematem výboru. Podle Federálních pravidel důkazů 901 a 902 je stávající standard pro ověřování důkazů – jak to uvedla vlastní zpráva výboru – mírný: strana potřebuje pouze předložit důkazy dostatečné k podpoře zjištění, že předmět je tím, za co navrhovatel tvrdí, že je. Deepfakes tento standard zátěžově testuje, protože tradiční způsoby ověřování nahrávek (svědecké výpovědi, systémová dokumentace) předpokládají, že padělání v měřítku je obtížné, drahé a odhalitelné.
Vlastní zprávy výboru zarámovaly problém s neobvyklou přímostí. Její zpráva z prosince 2025 zkoumala, co se stane, když je video nebo audio nabízené u soudu hluboce falešné, a dospěla k závěru, že představuje přímou výzvu k požadavkům na pravost podle pravidel 901 a 902 právě proto, že stávající standard pravosti je mírný. Jak – a zda – zpřísnit tento standard, to je otázka, kterou se komise zabývá již tři roky, a stává se naléhavější, jak varovali zástupci laboratoře, detekční věda nikdy nedohoní generační vědu.
Co nyní mohou praktikující dělat
Dokud se pravidla nezmění, praktické břemeno leží na soudních sporech a soudcích. Nástroje provenience – přihlašovací údaje pro kryptografický obsah vložené při vytváření – se šíří prostřednictvím aplikací pro fotoaparáty a kreativního softwaru, i když pomáhají pouze pro média, která je přenášejí. Současnou obranou je křížový výslech pod přísahou osoby, která nahrávku pořídila, požadavky na zjištění původních souborů a generování metadat a bližší prozkoumání nezdrojovaných klipů kolujících na sociálních platformách. Poselstvím poradního výboru z tohoto týdne bylo fakticky, že tyto překážky budou potřebovat formální základ na úrovni pravidel, protože ta neformální předpokládají detekovatelnost, o které OpenAI a Meta říkají, že již neexistuje.
Proč na svědectví laboratoří záleží
Je pozoruhodné, že společnosti, jejichž produkty představují riziko, jsou těmi, kdo na něj varují justici. OpenAI a Meta mají přímé komerční a reputační zájmy na tom, jak pravidla dopadnou: přísné požadavky na autentizaci by mohly způsobit tření na legitimní použití médií AI, zatímco ty laxní by mohly jejich nástroje použít jako vektory pro podvody v soudní síni. Jejich poselstvím pro výbor bylo fakticky, že standardy původu – vodoznaky, pověření obsahu, dokumentace spotřebitelského řetězce – jsou funkční cestou, protože samotná detekce se nezmění.
Očekává se, že tříletý přezkum výboru bude informovat o tom, zda federální pravidla pro důkazy potřebují změnu pro éru AI. Jakákoli změna by prošla procesem tvorby pravidel Soudní konference, včetně veřejného komentáře, předtím, než půjde do Kongresu.
Širší regulační obrázek
Slyšení skončí uprostřed výbuchu politických aktivit souvisejících s deepfake. Kalifornie a EU uzákonily mandáty pro vodoznaky. Dánsko má pokročilou legislativu zakazující sdílení AI deepfakes bez souhlasu. Americké soudy již zaznamenaly výmysly generované umělou inteligencí v podáních a soudci uvalili sankce na právníky za předkládání falešných citací generovaných chatboty.
Federální soudnictví prozatím volí pečlivé studium před rychlými změnami pravidel. Ale svědectví od společností, které vytvářejí technologii, naznačují, že samotný průmysl neočekává, že by detekční nástroje udržely krok – což přesouvá zátěž na standardy původu, procesní záruky, jako jsou požadavky na živá svědectví, a nakonec úsudek soudců a porot o tom, čemu mají věřit.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
