Przedstawiciele OpenAI i Meta Platforms powiedzieli w czwartek federalnemu panelowi sądowemu, że deepfakes generowane przez sztuczną inteligencję stały się tak zaawansowane, że weryfikacja autentyczności dowodów audio i wideo w sądzie stanie się trudniejsza – podaje Reuters.

Eksperci ds. technologii przedstawili swoje obawy na spotkaniu w Bostonie Komitetu Doradczego ds. Reguł Dowodowych Konferencji Sądowej Stanów Zjednoczonych — organu odpowiedzialnego za rekomendowanie zmian w przepisach federalnych regulujących dopuszczalność dowodów przez sądy. Od 2023 r. komisja pracuje nad sposobami zaradzenia ryzyku związanemu ze sfabrykowanymi dowodami generowanymi przez sztuczną inteligencję na salach sądowych. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.

Laboratoria AI twierdzą, że wykrywanie nie ma przyszłości naukowej

Shira Anderson, doradca ds. polityki w OpenAI, powiedziała komisji, że jakość obrazów AI stale się poprawia, i nie wierzy, że w przyszłości będzie istniała naukowa metoda ich wykrywania – co jest uderzającym wyznaniem firmy, która buduje systemy generatywne wytwarzające te treści.

Devin Norder, dyrektor ds. zarządzania produktami w Meta, powiedział panelowi, że ludzie nie mogą odróżnić mediów tworzonych przez najnowsze modele sztucznej inteligencji od autentycznych treści oraz że tworzenie takich mediów wymaga obecnie minimalnych kosztów i czasu.

Obie firmy opracowały narzędzia dotyczące pochodzenia i weryfikacji treści wizualnych, a nowe przepisy obowiązujące w Kalifornii i Unii Europejskiej wymagają znakowania wodnego w mediach generowanych przez sztuczną inteligencję. Anderson ostrzegł jednak komisję, że każda firma korzysta z własnego systemu, co oznacza, że ​​nie istnieje uniwersalna metoda niezawodnego wykrywania wszystkich znaków wodnych lub weryfikacji autentyczności treści wizualnych w całym ekosystemie.

Sądy jeszcze nie poczuły fali

Przewodniczący komisji, amerykański sędzia okręgowy Jesse Furman z Manhattanu, przedstawił przeciwwagę dla alarmu: chociaż komentarze akademickie przewidują, że sądy zajmą się deepfakesami, problem ten nie pojawiał się jeszcze często w rzeczywistych sprawach.

Ankieta przeprowadzona przez Federalne Centrum Sądownictwa w marcu podkreśliła tę różnicę. Tylko 15 z 931 sędziów, którzy odpowiedzieli, zetknęło się ze sprawą, w której strona kwestionowała dowody, twierdząc, że były to fałszywki.

Ta rozbieżność między przewidywaniami a praktyką jest głównym dylematem komisji. Zgodnie z federalnymi przepisami dowodowymi nr 901 i 902 istniejący standard uwierzytelniania dowodów jest – jak to ujęto we własnym raporcie komisji – łagodny: strona musi jedynie przedstawić dowody wystarczające do ustalenia, że ​​przedmiot jest tym, czym twierdzi wnioskodawca. Deepfakes testują ten standard, ponieważ tradycyjne ścieżki uwierzytelniania nagrań (zeznania świadków, dokumentacja systemowa) zakładają, że fałszerstwo na dużą skalę jest trudne, kosztowne i wykrywalne.

Własne raporty komisji ujęły problem w niezwykle dosadny sposób. W swoim raporcie z grudnia 2025 r. zbadano, co się dzieje, gdy wideo lub dźwięk oferowane na rozprawie jest deepfake, stwierdzając, że stanowi to bezpośrednie wyzwanie dla wymogów autentyczności określonych w Zasadach 901 i 902 właśnie dlatego, że istniejący standard autentyczności jest łagodny. Jak – i czy – zaostrzyć ten standard, to pytanie, nad którym komisja zastanawia się od trzech lat, i staje się ono pilniejsze, jeśli – jak ostrzegali przedstawiciele laboratorium – nauka o wykrywaniu nigdy nie dogoni nauki o pokoleniach.

Co praktycy mogą teraz zrobić

Dopóki przepisy się nie zmienią, ciężar praktyczny spadnie na sędziów procesowych i sędziów procesowych. Narzędzia pochodzenia — dane uwierzytelniające treści kryptograficzne wbudowane w czasie tworzenia — rozprzestrzeniają się za pośrednictwem aplikacji aparatu i oprogramowania kreatywnego, choć pomagają tylko w przypadku nośników, które je zawierają. Obecne metody obrony to przesłuchanie pod przysięgą osoby, która uchwyciła nagranie, żądanie odnalezienia oryginalnych plików i metadanych generacji, a także dokładniejsza analiza niepotwierdzonych klipów krążących na platformach społecznościowych. Przesłanie komitetu doradczego w tym tygodniu było w rzeczywistości takie, że te tymczasowe luki będą wymagały formalnych podstaw na poziomie zasad, ponieważ nieformalne zakładają wykrywalność, która według OpenAI i Meta już nie istnieje.

Dlaczego zeznania laboratoriów mają znaczenie

Warto zauważyć, że to firmy, których produkty stwarzają ryzyko, ostrzegają przed nim wymiar sprawiedliwości. OpenAI i Meta mają bezpośredni interes handlowy i reputacyjny w tym, jak te zasady zostaną wprowadzone: rygorystyczne wymogi dotyczące uwierzytelniania mogą nałożyć trudności w legalnym korzystaniu z mediów AI, podczas gdy luźne wymagania mogą sprawić, że ich narzędzia staną się wektorami oszustw na salach sądowych. Ich przesłanie dla komisji było w istocie takie, że standardy pochodzenia – znak wodny, dane uwierzytelniające dotyczące treści, dokumentacja łańcucha dostaw – to wykonalna ścieżka, ponieważ samo wykrywanie nie zapewni skali.

Oczekuje się, że trzyletni przegląd komisji poinformuje, czy federalne zasady dotyczące dowodów wymagają zmian w odniesieniu do ery sztucznej inteligencji. Jakakolwiek zmiana zostanie poddana procesowi stanowienia prawa przez Konferencję Sądownictwa, w tym komentarzowi publicznemu, zanim trafi do Kongresu.

Szerszy obraz przepisów

Przesłuchanie odbywa się w związku z falą działań politycznych związanych z deepfake’ami. Kalifornia i UE wprowadziły przepisy dotyczące znaków wodnych. Dania wprowadziła zaawansowane przepisy zakazujące udostępniania deepfakes AI bez zgody. Amerykańskie sądy dostrzegły już, że w dokumentach pojawiają się fabrykacje generowane przez sztuczną inteligencję, a sędziowie nałożyli sankcje na prawników za składanie fałszywych cytatów generowanych przez chatboty.

Na razie sądownictwo federalne woli dokładne badania niż szybkie zmiany przepisów. Jednak zeznania firm tworzących tę technologię sugerują, że sama branża nie oczekuje, że narzędzia do wykrywania dotrzymają kroku – co przenosi ciężar na standardy pochodzenia, zabezpieczenia proceduralne, takie jak wymogi dotyczące zeznań na żywo, a ostatecznie na ocenę sędziów i przysięgłych na temat tego, w co wierzyć.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →