रॉयटर्स की रिपोर्ट के अनुसार, ओपनएआई और मेटा प्लेटफॉर्म के प्रतिनिधियों ने गुरुवार को एक संघीय न्यायिक पैनल को बताया कि एआई-जनित डीपफेक इतने उन्नत हो गए हैं कि अदालत में ऑडियो और वीडियो साक्ष्य की प्रामाणिकता की पुष्टि करना और अधिक कठिन हो जाएगा।
प्रौद्योगिकी विशेषज्ञों ने बोस्टन में अमेरिकी न्यायिक सम्मेलन की साक्ष्य नियमों पर सलाहकार समिति की एक बैठक में अपनी चिंताओं को प्रस्तुत किया - संघीय नियमों में बदलाव की सिफारिश करने के लिए जिम्मेदार निकाय जो यह नियंत्रित करते हैं कि अदालतें क्या साक्ष्य स्वीकार कर सकती हैं। समिति 2023 से इस बात पर काम कर रही है कि अदालत कक्षों में मनगढ़ंत एआई-जनित साक्ष्य के जोखिमों को कैसे संबोधित किया जाए। For more context on this story, see our ongoing AI trends.
एआई लैब्स का कहना है कि जांच का कोई वैज्ञानिक भविष्य नहीं है
ओपनएआई की नीति सलाहकार शिरा एंडरसन ने समिति को बताया कि एआई छवियों की गुणवत्ता में सुधार जारी है, और उन्हें विश्वास नहीं है कि भविष्य में उनका पता लगाने के लिए कोई वैज्ञानिक तरीका मौजूद होगा - उस सामग्री का उत्पादन करने वाली जेनरेटर सिस्टम बनाने वाली कंपनी की ओर से एक चौंकाने वाली स्वीकारोक्ति।
मेटा में उत्पाद प्रबंधन के निदेशक डेविन नोर्डर ने पैनल को बताया कि हाल के एआई मॉडल द्वारा बनाए गए मीडिया को मनुष्यों द्वारा प्रामाणिक सामग्री से अलग नहीं किया जा सकता है, और ऐसे मीडिया को बनाने के लिए अब न्यूनतम लागत और समय की आवश्यकता होती है।
दोनों कंपनियों ने दृश्य सामग्री के लिए उद्गम और सत्यापन उपकरण विकसित किए हैं, और कैलिफ़ोर्निया और यूरोपीय संघ में नए कानूनों के लिए एआई-जनित मीडिया की वॉटरमार्किंग की आवश्यकता होती है। लेकिन एंडरसन ने समिति को चेतावनी दी कि प्रत्येक कंपनी अपने स्वयं के सिस्टम का उपयोग करती है, जिसका अर्थ है कि सभी वॉटरमार्क का विश्वसनीय रूप से पता लगाने या पारिस्थितिकी तंत्र में दृश्य सामग्री की प्रामाणिकता को सत्यापित करने के लिए कोई सार्वभौमिक तरीका मौजूद नहीं है।
न्यायालयों को अभी तक लहर महसूस नहीं हुई है
समिति के अध्यक्ष, मैनहट्टन के अमेरिकी जिला न्यायाधीश जेसी फुरमैन ने अलार्म का जवाब देने की पेशकश की: जबकि अकादमिक टिप्पणी में भविष्यवाणी की गई है कि अदालतें डीपफेक से निपटेंगी, वास्तविक मामलों में यह मुद्दा अभी तक बार-बार सामने नहीं आया है।
मार्च में संघीय न्यायिक केंद्र द्वारा किए गए एक सर्वेक्षण ने उस अंतर को रेखांकित किया। जवाब देने वाले 931 न्यायाधीशों में से केवल 15 न्यायाधीशों को ऐसे मामले का सामना करना पड़ा जहां एक पक्ष ने इस आधार पर साक्ष्य को चुनौती दी कि यह एक डीपफेक था।
भविष्यवाणी और अभ्यास के बीच का अंतर समिति की मुख्य दुविधा है। साक्ष्य के संघीय नियमों 901 और 902 के तहत, साक्ष्य को प्रमाणित करने के लिए मौजूदा मानक - जैसा कि समिति की अपनी रिपोर्ट में कहा गया है - एक हल्का मानक है: एक पक्ष को केवल इस निष्कर्ष का समर्थन करने के लिए पर्याप्त सबूत पेश करने की आवश्यकता है कि आइटम वही है जो प्रस्तावक का दावा है। डीपफेक उस मानक का तनाव-परीक्षण करते हैं, क्योंकि रिकॉर्डिंग को प्रमाणित करने के पारंपरिक रास्ते (गवाह गवाही, सिस्टम दस्तावेज़ीकरण) मानते हैं कि बड़े पैमाने पर जालसाजी कठिन, महंगी और पता लगाने योग्य है।
समिति की अपनी रिपोर्टिंग ने समस्या को असामान्य स्पष्टता के साथ प्रस्तुत किया है। इसकी दिसंबर 2025 की रिपोर्ट में जांच की गई कि क्या होता है जब परीक्षण के दौरान पेश किया गया कोई वीडियो या ऑडियो डीपफेक होता है, जिससे यह निष्कर्ष निकलता है कि यह नियम 901 और 902 के तहत प्रामाणिकता आवश्यकताओं के लिए एक सीधी चुनौती पेश करता है क्योंकि प्रामाणिकता का मौजूदा मानक हल्का है। कैसे - और क्या - उस मानक को सख्त किया जाए, यह वह प्रश्न है जिस पर समिति तीन वर्षों से विचार कर रही है, और यह और भी जरूरी हो जाता है यदि, जैसा कि प्रयोगशाला प्रतिनिधियों ने चेतावनी दी है, पता लगाने का विज्ञान कभी भी पीढ़ी विज्ञान के बराबर नहीं आता है।
अभ्यासकर्ता अब क्या कर सकते हैं
जब तक नियम नहीं बदलते, व्यावहारिक बोझ मुकदमा करने वालों और सुनवाई करने वाले न्यायाधीशों पर पड़ता है। प्रोवेंस टूल - निर्माण के समय एम्बेडेड क्रिप्टोग्राफ़िक सामग्री क्रेडेंशियल - कैमरा ऐप्स और रचनात्मक सॉफ़्टवेयर के माध्यम से फैल रहे हैं, हालांकि वे केवल उन मीडिया के लिए मदद करते हैं जो उन्हें ले जाते हैं। रिकॉर्डिंग कैप्चर करने वाले व्यक्ति की शपथ के तहत जिरह, मूल फ़ाइलों और जेनरेशन मेटाडेटा की खोज की मांग, और सोशल प्लेटफॉर्म पर प्रसारित बिना स्रोत वाले क्लिप की बारीकी से जांच करना वर्तमान बचाव हैं। इस सप्ताह सलाहकार समिति का संदेश प्रभावी ढंग से था कि इन स्टॉपगैप को औपचारिक नियम-स्तरीय नींव की आवश्यकता होगी, क्योंकि अनौपचारिक लोग एक पहचान क्षमता मानते हैं कि ओपनएआई और मेटा का कहना है कि अब मौजूद नहीं है।
लैब्स की गवाही क्यों मायने रखती है
उल्लेखनीय है कि जिन कंपनियों के उत्पाद जोखिम पैदा करते हैं वे ही न्यायपालिका को इसके बारे में चेतावनी देते हैं। नियम कैसे लागू होते हैं, इसमें ओपनएआई और मेटा के प्रत्यक्ष वाणिज्यिक और प्रतिष्ठित हित हैं: सख्त प्रमाणीकरण आवश्यकताएं एआई मीडिया के वैध उपयोग पर घर्षण पैदा कर सकती हैं, जबकि ढिलाई बरतने वाले अपने टूल को अदालत कक्ष में धोखाधड़ी के लिए वाहक बना सकते हैं। समिति को उनका संदेश प्रभावी ढंग से था कि उद्गम मानक - वॉटरमार्किंग, सामग्री क्रेडेंशियल, चेन-ऑफ-कस्टडी दस्तावेज़ीकरण - व्यावहारिक मार्ग हैं, क्योंकि अकेले पता लगाने से कोई पैमाना नहीं बनेगा।
समिति की तीन साल की समीक्षा से यह जानकारी मिलने की उम्मीद है कि क्या संघीय साक्ष्य नियमों में एआई युग के लिए संशोधन की आवश्यकता है। कोई भी बदलाव कांग्रेस में जाने से पहले सार्वजनिक टिप्पणी सहित न्यायिक सम्मेलन की नियम-निर्माण प्रक्रिया के माध्यम से आगे बढ़ेगा।
व्यापक नियामक तस्वीर
डीपफेक-संबंधी नीतिगत गतिविधियों में तेजी के बीच सुनवाई शुरू हुई। कैलिफ़ोर्निया और यूरोपीय संघ ने वॉटरमार्किंग अधिदेश अधिनियमित किया है। डेनमार्क ने सहमति के बिना एआई डीपफेक साझा करने पर प्रतिबंध लगाने वाला कानून उन्नत किया है। अमेरिकी अदालतों ने पहले ही फाइलिंग में एआई-जनित मनगढ़ंत बातें देखी हैं, और न्यायाधीशों ने चैटबॉट्स द्वारा उत्पन्न नकली उद्धरण प्रस्तुत करने के लिए वकीलों को मंजूरी दे दी है।
फिलहाल, संघीय न्यायपालिका तेजी से नियम परिवर्तन के बजाय सावधानीपूर्वक अध्ययन का चयन कर रही है। लेकिन प्रौद्योगिकी का निर्माण करने वाली कंपनियों की गवाही से पता चलता है कि उद्योग स्वयं पता लगाने के टूलींग की गति बनाए रखने की उम्मीद नहीं करता है - जो बोझ को उद्गम मानकों, लाइव गवाही आवश्यकताओं जैसे प्रक्रियात्मक सुरक्षा उपायों और अंततः न्यायाधीशों और जूरी के निर्णय की ओर स्थानांतरित करता है कि क्या विश्वास करना है।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
