ओपनएआय आणि मेटा प्लॅटफॉर्मच्या प्रतिनिधींनी गुरुवारी फेडरल न्यायिक पॅनेलला सांगितले की एआय-व्युत्पन्न डीपफेक इतके प्रगत झाले आहेत की न्यायालयात ऑडिओ आणि व्हिडिओ पुराव्याची सत्यता पडताळणे अधिक कठीण होईल, रॉयटर्सने अहवाल दिला.
यूएस ज्युडिशियल कॉन्फरन्सच्या ॲडव्हायझरी कमिटी ऑन एव्हिडन्स रुल्स च्या बोस्टन येथील बैठकीत तंत्रज्ञान तज्ञांनी त्यांच्या समस्या मांडल्या - न्यायालये कोणते पुरावे स्वीकारू शकतात हे नियंत्रित करणाऱ्या फेडरल नियमांमध्ये बदल करण्याची शिफारस करण्यासाठी जबाबदार असलेली संस्था. ही समिती 2023 पासून कोर्टरूममध्ये बनावट AI-व्युत्पन्न पुराव्याच्या जोखमीचे निराकरण कसे करावे यावर काम करत आहे. For more context on this story, see our ongoing breaking AI news.एआय लॅब्सचे म्हणणे आहे की शोधण्याचे कोणतेही वैज्ञानिक भविष्य नाही
OpenAI मधील धोरण सल्लागार शिरा अँडरसन यांनी समितीला सांगितले की AI प्रतिमांची गुणवत्ता सुधारत आहे आणि ती म्हणाली की ती शोधण्याची वैज्ञानिक पद्धत भविष्यात अस्तित्वात असेल - ती सामग्री तयार करणाऱ्या जनरेटिव्ह सिस्टम तयार करणाऱ्या कंपनीकडून धक्कादायक प्रवेश.
डेव्हिन नॉर्डर, मेटा येथील उत्पादन व्यवस्थापन संचालक, यांनी पॅनेलला सांगितले की अलीकडील एआय मॉडेल्सद्वारे तयार केलेले मीडिया अस्सल सामग्रीपासून मानवाकडून वेगळे केले जाऊ शकत नाही आणि असे मीडिया तयार करण्यासाठी आता किमान खर्च आणि वेळ आवश्यक आहे.
दोन्ही कंपन्यांनी व्हिज्युअल सामग्रीसाठी उत्पत्ती आणि पडताळणी साधने विकसित केली आहेत आणि कॅलिफोर्निया आणि युरोपियन युनियनमधील नवीन कायद्यांना AI-व्युत्पन्न मीडियाचे वॉटरमार्किंग आवश्यक आहे. परंतु अँडरसनने समितीला चेतावणी दिली की प्रत्येक कंपनी स्वतःची प्रणाली वापरते, याचा अर्थ सर्व वॉटरमार्क विश्वसनीयपणे शोधण्यासाठी किंवा संपूर्ण इकोसिस्टममधील व्हिज्युअल सामग्रीची सत्यता सत्यापित करण्यासाठी कोणतीही सार्वत्रिक पद्धत अस्तित्वात नाही.
न्यायालयांना अद्याप लाट जाणवलेली नाही
समितीचे अध्यक्ष, मॅनहॅटनचे यूएस जिल्हा न्यायाधीश जेसी फरमन यांनी अलार्मला काउंटरवेट ऑफर केले: शैक्षणिक समालोचन न्यायालये डीपफेक्सचा सामना करतील असे भाकीत करते, परंतु वास्तविक प्रकरणांमध्ये ही समस्या अद्याप वारंवार दिसून आलेली नाही.
मार्चमध्ये फेडरल ज्युडिशियल सेंटरने केलेल्या सर्वेक्षणात ही तफावत अधोरेखित झाली. प्रतिसाद देणाऱ्या 931 न्यायाधीशांपैकी फक्त 15 न्यायमूर्तींना असे प्रकरण समोर आले होते जेथे एका पक्षाने ते डीपफेक असल्याच्या आधारावर पुराव्याला आव्हान दिले होते.
अंदाज आणि सराव यातील अंतर ही समितीची मुख्य कोंडी आहे. फेडरल रूल्स ऑफ एव्हिडन्स 901 आणि 902 अंतर्गत, पुराव्याचे प्रमाणीकरण करण्याचे विद्यमान मानक आहे — जसे की समितीच्या स्वतःच्या अहवालात असे म्हटले आहे — एक सौम्य आहे: एखाद्या पक्षाला केवळ ती वस्तू आहे ज्याचा दावा करणारा दावा करतो हे सिद्ध करण्यासाठी पुरेसे पुरावे सादर करणे आवश्यक आहे. डीपफेक्स त्या मानकाची तणाव-चाचणी करतात, कारण रेकॉर्डिंग (साक्षीदारांची साक्ष, सिस्टम दस्तऐवजीकरण) प्रमाणीकरण करण्याचे पारंपारिक मार्ग असे गृहीत धरतात की मोठ्या प्रमाणावर बनावट, महाग आणि शोधण्यायोग्य आहे.
समितीच्या स्वत:च्या अहवालाने असामान्य बोथटपणाने समस्या मांडली आहे. त्याच्या डिसेंबर 2025 च्या अहवालात चाचणीच्या वेळी ऑफर केलेला व्हिडिओ किंवा ऑडिओ डीपफेक असल्यास काय होते याचे परीक्षण केले आहे, असा निष्कर्ष काढला आहे की ते नियम 901 आणि 902 अंतर्गत सत्यतेच्या आवश्यकतांना थेट आव्हान देतात कारण सत्यतेचे विद्यमान मानक सौम्य आहे. हे प्रमाण कसे कठोर करायचे - आणि की नाही - हा प्रश्न समिती तीन वर्षांपासून प्रदक्षिणा घालत आहे आणि प्रयोगशाळेच्या प्रतिनिधींनी चेतावणी दिल्याप्रमाणे, शोध विज्ञान कधीही पिढीच्या विज्ञानाशी जुळत नसेल तर ते अधिक निकडीचे बनते.
अभ्यासक आता काय करू शकतात
जोपर्यंत नियम बदलत नाहीत, तोपर्यंत व्यावहारिक भार याचिकाकर्ते आणि खटल्याच्या न्यायाधीशांवर पडतो. प्रोव्हेन्स टूल्स — निर्मितीच्या वेळी एम्बेड केलेली क्रिप्टोग्राफिक सामग्री क्रेडेन्शियल्स — कॅमेरा ॲप्स आणि क्रिएटिव्ह सॉफ्टवेअरद्वारे पसरत आहेत, जरी ते फक्त त्यांना घेऊन जाणाऱ्या मीडियासाठी मदत करतात. रेकॉर्डिंग कॅप्चर केलेल्या व्यक्तीची शपथ घेऊन उलटतपासणी, मूळ फायली आणि जनरेशन मेटाडेटा शोधण्याची मागणी आणि सोशल प्लॅटफॉर्मवर फिरत नसलेल्या क्लिपची बारकाईने तपासणी करणे हे सध्याचे संरक्षण आहे. या आठवड्यात सल्लागार समितीचा संदेश प्रभावीपणे होता की या स्टॉपगॅप्सना औपचारिक नियम-स्तरीय पायाची आवश्यकता असेल, कारण अनौपचारिक लोक हे ओळखतात की OpenAI आणि Meta म्हणतात की आता अस्तित्वात नाही.
लॅबची साक्ष का महत्त्वाची आहे
हे लक्षात घेण्यासारखे आहे की ज्या कंपन्यांची उत्पादने जोखीम निर्माण करतात त्या त्याबद्दल न्यायपालिकेला चेतावणी देतात. ओपनएआय आणि मेटा यांचे नियम कसे लागू होतात यात थेट व्यावसायिक आणि प्रतिष्ठित हितसंबंध आहेत: कठोर प्रमाणीकरण आवश्यकता AI मीडियाच्या कायदेशीर वापरांवर घर्षण लादू शकतात, तर ढिलाई त्यांच्या उपकरणांना कोर्टरूम फसवणुकीसाठी वेक्टर बनवू शकतात. समितीला त्यांचा संदेश प्रभावीपणे होता की मूळ मानके - वॉटरमार्किंग, सामग्री क्रेडेन्शियल्स, चेन-ऑफ-कस्टडी दस्तऐवजीकरण - हे कार्य करण्यायोग्य मार्ग आहेत, कारण केवळ शोधणे मोजले जाणार नाही.
AI युगासाठी फेडरल पुरावा नियमांमध्ये सुधारणा आवश्यक आहे की नाही हे समितीच्या तीन वर्षांच्या पुनरावलोकनात सूचित करणे अपेक्षित आहे. कोणताही बदल काँग्रेसमध्ये जाण्यापूर्वी, सार्वजनिक टिप्पणीसह, ज्युडिशियल कॉन्फरन्सच्या नियम बनविण्याच्या प्रक्रियेतून पुढे जाईल.
व्यापक नियामक चित्र
डीपफेक-संबंधित धोरणात्मक क्रियाकलापांच्या स्फोटात सुनावणी सुरू झाली. कॅलिफोर्निया आणि EU ने वॉटरमार्किंग आदेश लागू केले आहेत. डेन्मार्कने संमतीशिवाय AI deepfakes शेअर करण्यावर बंदी घालणारा प्रगत कायदा केला आहे. यूएस न्यायालयांनी फाइलिंगमध्ये एआय-व्युत्पन्न बनावट पृष्ठभाग पाहिले आहेत आणि न्यायाधीशांनी वकिलांना चॅटबॉट्सद्वारे व्युत्पन्न केलेली बनावट उद्धरणे सबमिट करण्यासाठी मंजूरी दिली आहे.
सध्या, फेडरल न्यायव्यवस्था जलद नियम बदलांवर काळजीपूर्वक अभ्यास करणे निवडत आहे. परंतु तंत्रज्ञान तयार करणाऱ्या कंपन्यांच्या साक्षीवरून असे सूचित होते की उद्योग स्वतः शोध टूलिंगची गती ठेवण्याची अपेक्षा करत नाही — जे मूळ प्रमाण, थेट साक्ष आवश्यकतांसारख्या प्रक्रियात्मक सुरक्षा आणि शेवटी काय विश्वास ठेवायचा याबद्दल न्यायाधीश आणि ज्यूरींच्या निर्णयाकडे वळवते.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
