कनेक्टिकट के एक न्यायाधीश ने यह पहचान की है कि ऐसा प्रतीत होता है कि पहली बार एक अमेरिकी वादी ने अपना मामला जीतने के प्रयास में, अदालती दाखिलों में पाठ को छिपाने की कोशिश की है, जिसे केवल एक कृत्रिम बुद्धिमत्ता प्रणाली ही पढ़ सकती है। योजना विफल हो गई, वादी को मंजूरी दे दी गई, और यह फैसला अब कानूनी प्रौद्योगिकी जगत का ध्यान आकर्षित कर रहा है क्योंकि देश भर की अदालतें अपने स्वयं के एआई टूल को अपनाना शुरू कर रही हैं।
यह निर्णय पिछले सप्ताह कनेक्टिकट सुपीरियर कोर्ट के न्यायाधीश वाल्टर स्पैडर जूनियर द्वारा प्रकाशित किया गया था और इस सप्ताह एर्स टेक्निका और रॉयटर्स द्वारा विस्तृत किया गया था। कृत्रिम बुद्धिमत्ता और न्याय प्रणाली के बीच टकराव पर [ब्रेकिंग एआई समाचार] (https://aibuzzwire.news) के लिए, यह मामला उस समस्या का पूर्वावलोकन है जिसके बारे में सुरक्षा शोधकर्ताओं ने वर्षों से चेतावनी दी है: प्रतिकूल इनपुट को मनुष्यों के बजाय मशीनों द्वारा पढ़ने के लिए डिज़ाइन किया गया है।
छुपे हुए संकेत कैसे काम करते थे
वादी, मैथ्यू इलियट, एक स्वास्थ्य सेवा प्रदाता के साथ विवाद में फंस गया था, जिसमें उसने आरोप लगाया था कि वह अनुचित तरीके से उसके रिकॉर्ड तक पहुंच को रोक रहा था। फैसले के अनुसार, उनके द्वारा उठाए गए पहले तर्क पराजित हो गए थे, इलियट ने बाद की फाइलिंग में निर्देश एम्बेड किए थे, जो स्पैडर के शब्दों में थे, "दस्तावेज़ के पाठ को पढ़ने वाले किसी भी सॉफ़्टवेयर के लिए पूरी तरह से सुपाठ्य रहते हुए मानव पाठक के लिए अदृश्य होने के लिए स्वरूपित किया गया था।"
पाठ को छोटे-बिंदु प्रकार में छोटा कर दिया गया था और सफेद पृष्ठभूमि पर सफेद रंग दिया गया था। इसने दस्तावेज़ की समीक्षा करने वाले किसी भी एआई सिस्टम को यह सुनिश्चित करने का निर्देश दिया कि उसके आउटपुट वादी के तर्कों से सहमत हों, अदालत से पूर्व इनकारों को नजरअंदाज कर दिया, और यह सुनिश्चित किया कि वादी की इच्छा के अनुसार निवारण किया जाएगा - एक पाठ्यपुस्तक शीघ्र इंजेक्शन हमला, जिसका उद्देश्य किसी चैटबॉट पर नहीं बल्कि किसी भी सॉफ्टवेयर पर है जो एक दिन एक वादी और एक न्यायाधीश के बीच बैठ सकता है।
छिपे हुए पाठ का मामले पर कोई प्रभाव नहीं पड़ा। अदालत ने इलियट की याचिका को उसके गुण-दोष के आधार पर तौला। लेकिन स्पैडर ने लिखा कि हमले का प्रयास फिर भी एक "खतरनाक" मिसाल कायम करता है, और अमेरिकी अदालतें संभवतः दुर्भावनापूर्ण रणनीति को फिर से देखेंगी क्योंकि एआई उपकरण अदालत प्रणालियों में अधिक सामान्य हो गए हैं।
"गंभीर मुकदमेबाजी का दुरुपयोग" - और कुछ अजीब चुटकुले
इलियट को मामूली प्रतिबंधों का सामना करना पड़ा, लेकिन केवल मूल छिपे हुए निर्देशों के लिए नहीं। फैसले के अनुसार, अदालत द्वारा चेतावनी दिए जाने के बाद भी वह नई फाइलिंग में छिपा हुआ पाठ जोड़ता रहा, जिसे स्पैडर ने अंततः "गंभीर मुकदमेबाजी दुरुपयोग" के लिए दंड का सामना करना पड़ सकता है।
इलियट ने अदालत को बताया कि बाद में छिपाए गए कुछ संदेश मजाक के तौर पर थे। उनमें एक नोस्फेरातु यूट्यूब वीडियो का लिंक, एक साधारण संदेश शामिल था जिसमें लिखा था "हाय :) मुझे आशा है कि आप मुझे नहीं देख पाएंगे," और एक संदेश जिसे वादी ने बकवास बताया है: "शॉन को बताएं कि मैंने अपना परिधान भेजा है!!!! हाहाहा आप लोगों को यह अंडा मिलता है???? आह।"
स्पैडर ने लिखा, "तथ्य यह है कि वादी ने इस [प्रतिबंध] सुनवाई की सूचना प्राप्त करने के बाद भी नई दलीलों में संदेश छिपाना जारी रखा।" जहां तक इस दावे का सवाल है कि संदेश हास्यप्रद थे, न्यायाधीश ने कहा कि दाखिल करने वाले के लिए दलीलों के अंदर चुटकुले दफन करना "तर्क की अवहेलना करता है" जिसे वह चाहता है कि अदालत गंभीरता से ले।
"ऑडिट" बचाव
अपने बचाव में, इलियट ने तर्क दिया कि न्यायाधीश द्वारा चिह्नित सबसे चिंताजनक संकेत वास्तव में एक सार्वजनिक सेवा के रूप में अदालत का "ऑडिट" करने का प्रयास था, क्योंकि उन्हें डर था कि अदालत एआई को उनके मामले में गलत तरीके से निर्णय लेने दे रही है। उन्होंने रॉयटर्स के समक्ष अपनी स्थिति दोहराते हुए कहा कि उनका इरादा अदालत में हेरफेर करने के बजाय उसका परीक्षण करने का था।
स्पैडर को यह तर्क विश्वसनीय नहीं लगा। न्यायाधीश ने लिखा, यदि इलियट वास्तव में मानते हैं कि अदालत एआई का अनुचित उपयोग कर रही है, तो वह "सादे, दृश्यमान शब्दों में लिखने के लिए स्वतंत्र थे, जिन्हें हर कोई देख सकता था और उत्तर दे सकता था।" इसके बजाय पाठ को छिपाना, स्पैडर ने निष्कर्ष निकाला, "इसके दुर्भावनापूर्ण उद्देश्य का सबूत है।" न्यायाधीश ने कहा कि ऐसा प्रतीत होता है कि इलियट "एक ऐसा परिणाम प्राप्त करने का प्रयास कर रहा था जो उसने तब हासिल नहीं किया जब कानून के जानकार इंसानों ने उसकी दलीलें पढ़ीं।"
विशेष रूप से, कनेक्टिकट न्यायिक शाखा फाइलिंग की समीक्षा या निर्णय लेने के लिए एआई का उपयोग नहीं करती है, स्पैडर ने बताया - इसलिए कभी भी कोई वास्तविक जोखिम नहीं था कि अदालत एआई प्रणाली अदालत के निर्देशों के लिए इलियट के संकेतों को भूल जाएगी। उन्होंने लिखा, "अन्यत्र कई अदालत प्रणालियों के विपरीत, मूर्ख बनाने के लिए दूसरी तरफ कोई मशीन नहीं थी।"
क्यों एक असफल हमला अभी भी मायने रखता है
सुरक्षा शोधकर्ताओं ने यह प्रदर्शित करने में वर्षों बिताए हैं कि एआई सिस्टम जो दस्तावेज़ पढ़ते हैं - चैटबॉट, कोडिंग एजेंट, ईमेल सहायक - को उनके द्वारा ग्रहण किए गए पाठ के अंदर छिपे निर्देशों द्वारा अपहृत किया जा सकता है। अप्रत्यक्ष त्वरित इंजेक्शन के रूप में जानी जाने वाली तकनीक को एआई एजेंटों को तैनात करने में सबसे कठिन अनसुलझी समस्याओं में से एक माना जाता है। जो चीज़ कनेक्टिकट मामले को असामान्य बनाती है वह है लक्ष्य: स्वयं न्याय की मशीनरी।
स्पैडर ने लिखा, "एक दस्तावेज़ के अंदर एक कमांड छिपाकर जिसे सिस्टम बाद में ग्रहण करता है, फाइलर अपने स्वयं के निर्देशों को उस स्ट्रीम में तस्करी करने का प्रयास करता है ताकि सिस्टम इसे ऐसे समझे जैसे कि यह सिस्टम के ऑपरेटर से आया हो।" "इस मामले में उस ऑपरेटर को अदालत, उसका कर्मचारी या विरोधी वकील माना जाता है।"
कानूनी पर्यवेक्षकों का कहना है कि हमले की सतह के रूप में अदालत के दाखिल होने की यह रूपरेखा फैसले को महत्वपूर्ण बनाती है। जैसे-जैसे अदालतें और कानून कंपनियां फाइलिंग, मसौदा निर्णयों या ट्राइएज डॉकट्स को संक्षेप में प्रस्तुत करने के लिए एआई का उपयोग कर रही हैं, किसी पार्टी द्वारा प्रस्तुत प्रत्येक दस्तावेज़ हेरफेर के लिए एक संभावित चैनल बन जाता है। एक न्यायाधीश का क्लर्क एक सफेद पन्ने पर सफेद पाठ पकड़ सकता है; एक स्वचालित सारांशीकरण पाइपलाइन नहीं हो सकती है।
आगे क्या होगा
इलियट के ख़िलाफ़ प्रतिबंध, अदालत के अपने विवरण के अनुसार, मामूली हैं। लेकिन यह निर्णय अमेरिकी अदालतों को छिपे हुए मशीन-पठनीय निर्देशों को कानूनी प्रक्रिया के दुरुपयोग के रूप में मानने के लिए एक लिखित मिसाल देता है, और यह ऐसे क्षण में आता है जब कई राज्य अदालत प्रणालियाँ एआई समीक्षा टूल के साथ सक्रिय रूप से प्रयोग कर रही हैं।
फिलहाल, कनेक्टिकट से सबक सरल है: अदालतें इस पर नजर रख रही हैं। जैसा कि न्यायाधीश स्पैडर के फैसले से स्पष्ट है, अमेरिकी अदालत में शीघ्र इंजेक्शन लगाने का प्रयास करने वाले पहले व्यक्ति को पकड़ लिया गया - और उसे मंजूरी दे दी गई - भले ही कोई एआई सिस्टम कभी नहीं सुन रहा था।
एआई से आगे रहें अधिक AI समाचार पढ़ें →
