Reprezentanții OpenAI și Meta Platforms au declarat joi unui complet judiciar federal că deepfake-urile generate de AI au devenit atât de avansate încât verificarea autenticității probelor audio și video în instanță va deveni mai dificilă, a raportat Reuters.

Experții în tehnologie și-au prezentat preocupările la o întâlnire la Boston a Comitetului consultativ al Conferinței Judiciare din SUA privind regulile privind probele - organismul responsabil cu recomandarea modificărilor regulilor federale care guvernează probele pe care instanțele pot admite. Comitetul lucrează din 2023 la modul de abordare a riscurilor dovezilor fabricate generate de IA în sălile de judecată. For more context on this story, see our ongoing latest AI developments.

Laboratoarele AI spun că detecția nu are viitor științific

Shira Anderson, consilier politic la OpenAI, a declarat comitetului că imaginile AI continuă să se îmbunătățească în calitate și a spus că nu crede că va exista o metodă științifică pentru a le detecta în viitor - o recunoaștere izbitoare din partea unei companii care construiește sistemele generative care produc acel conținut.

Devin Norder, director de management de produs la Meta, a declarat panelului că mediile create de modelele recente de AI nu pot fi distinse de oameni de conținutul autentic și că crearea unor astfel de media necesită acum costuri și timp minim.

Ambele companii au dezvoltat instrumente de proveniență și verificare pentru conținutul vizual, iar noile legi din California și Uniunea Europeană impun filigranarea media generată de AI. Dar Anderson a avertizat comitetul că fiecare companie folosește propriul sistem, ceea ce înseamnă că nu există o metodă universală pentru a detecta în mod fiabil toate filigranele sau pentru a verifica autenticitatea conținutului vizual din ecosistem.

Tribunalele nu au simțit încă valul

Președintele comisiei, judecătorul districtual american Jesse Furman din Manhattan, a oferit o contrapondere la alarmă: în timp ce comentariile academice prevăd că instanțele se vor ocupa de deepfakes, problema nu a apărut încă frecvent în cazuri reale.

Un sondaj realizat de Centrul Judiciar Federal în martie a subliniat această decalaj. Doar 15 din 931 de judecători care au răspuns s-au confruntat cu un caz în care o parte a contestat dovezi pe motiv că era o falsificare.

Acel decalaj dintre predicție și practică este dilema de bază a comitetului. În conformitate cu Regulile Federale de Probă 901 și 902, standardul existent pentru autentificarea probelor este – după cum spune propriul raport al comitetului – unul ușor: o parte trebuie doar să prezinte dovezi suficiente pentru a susține o constatare că elementul este ceea ce susține susținătorul că este. Deepfakes testează standardul, deoarece căile tradiționale de autentificare a înregistrărilor (mărturia martorilor, documentația sistemului) presupun că falsificarea la scară este dificilă, costisitoare și detectabilă.

Raportarea comisiei a încadrat problema cu o claritate neobișnuită. Raportul său din decembrie 2025 a examinat ce se întâmplă atunci când un videoclip sau un audio oferit la proces este un deepfake, concluzionand că prezintă o provocare directă a cerințelor de autenticitate din Regulile 901 și 902 tocmai pentru că standardul de autenticitate existent este unul blând. Cum – și dacă – să se întărească acest standard este întrebarea pe care comitetul a încercat-o de trei ani și devine mai urgentă dacă, așa cum au avertizat reprezentanții laboratorului, știința detectării nu ajunge niciodată din urmă cu știința generației.

Ce pot face practicienii acum

Până la schimbarea regulilor, sarcina practică revine justiției și judecătorilor de fond. Instrumentele de proveniență – acreditările de conținut criptografic încorporate în momentul creării – se răspândesc prin intermediul aplicațiilor pentru cameră și al software-ului creativ, deși ajută doar pentru media care le poartă. Examinarea încrucișată sub jurământ a persoanei care a capturat o înregistrare, cererile de descoperire pentru fișiere originale și metadate de generație și o examinare mai atentă a clipurilor fără sursă care circulă pe platformele sociale sunt apărările actuale. Mesajul comitetului consultativ din această săptămână a fost efectiv că aceste obstacole vor avea nevoie de o bază formală la nivel de reguli, deoarece cele informale presupun o detectabilitate despre care OpenAI și Meta spun că nu mai există.

De ce contează mărturia laboratoarelor

Este de remarcat faptul că companiile ale căror produse creează riscul sunt cele care avertizează justiția despre acest lucru. OpenAI și Meta au interese comerciale și reputaționale directe în ceea ce privește modul în care regulile ajung: cerințele stricte de autentificare ar putea impune fricțiuni asupra utilizărilor legitime ale media AI, în timp ce cele laxe ar putea face instrumentele lor vectori pentru frauda în sala de judecată. Mesajul lor către comitet a fost efectiv că standardele de proveniență - filigran, acreditări de conținut, documentație privind lanțul de custodie - sunt calea viabilă, deoarece detectarea singură nu se va scala.

Se așteaptă ca revizuirea de trei ani a comitetului să informeze dacă regulile federale privind dovezile trebuie modificate pentru era AI. Orice schimbare va trece prin procesul de reglementare al Conferinței Judiciare, inclusiv comentariul public, înainte de a merge la Congres.

Imaginea mai largă a reglementărilor

Audierea aterizează pe fondul unei explozii de activități politice legate de deepfake. California și UE au adoptat mandate de watermarking. Danemarca a avansat o legislație care interzice partajarea deepfake-urilor AI fără consimțământ. Instanțele americane au văzut deja invenții generate de inteligența artificială la suprafață în dosare, iar judecătorii i-au sancționat pe avocați pentru că au trimis citații false generate de chatbot.

Deocamdată, justiția federală alege un studiu atent față de schimbările rapide ale regulilor. Dar mărturia companiilor care construiesc tehnologia sugerează că industria în sine nu se așteaptă ca instrumentele de detectare să țină pasul – ceea ce transferă povara către standarde de proveniență, garanții procedurale, cum ar fi cerințele de mărturie în direct și, în cele din urmă, judecata judecătorilor și juriilor despre ceea ce să creadă.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →