कनेक्टिकटच्या एका न्यायाधीशाने ओळखले आहे की यूएस फिर्यादीने कोर्ट फाइलिंगमध्ये मजकूर लपविण्याचा प्रयत्न केला आहे, जे केवळ कृत्रिम बुद्धिमत्ता प्रणाली वाचू शकते, त्याचा खटला जिंकण्याच्या प्रयत्नात. योजना अयशस्वी झाली, याचिकाकर्त्याला मंजुरी देण्यात आली आणि देशभरातील न्यायालये त्यांच्या स्वत: च्या AI साधनांचा अवलंब करण्यास सुरुवात केल्यामुळे आता या निर्णयाकडे कायदेशीर तंत्रज्ञान जगाचे लक्ष वेधले जात आहे.
हा निर्णय गेल्या आठवड्यात कनेक्टिकट सुपीरियर कोर्टाचे न्यायाधीश वॉल्टर स्पॅडर जूनियर यांनी प्रकाशित केला होता आणि या आठवड्यात आर्स टेक्निका आणि रॉयटर्सने तपशीलवार माहिती दिली होती. ब्रेकिंग एआय न्यूज आर्टिफिशियल इंटेलिजन्स आणि न्याय प्रणाली यांच्यातील टक्करसाठी, हे प्रकरण सुरक्षा संशोधकांनी वर्षानुवर्षे चेतावणी दिलेल्या समस्येचे पूर्वावलोकन आहे: मानवांऐवजी मशीनद्वारे वाचण्यासाठी डिझाइन केलेले विरोधी इनपुट.
लपलेले प्रॉम्प्ट कसे कार्य करतात
फिर्यादी, मॅथ्यू इलियट, हेल्थकेअर प्रदात्याशी वादात अडकले होते की त्याने आरोप केला होता की त्याने त्याच्या रेकॉर्डमध्ये अयोग्यरित्या प्रवेश रोखला होता. आधीच्या युक्तिवादानंतर त्याने मांडलेल्या युक्तिवादांचा पराभव झाला, या निर्णयानुसार, इलियटने त्यानंतरच्या फाइलिंग्जमध्ये सूचना एम्बेड केल्या ज्या स्पॅडरच्या शब्दात, "दस्तऐवजाचा मजकूर वाचणाऱ्या कोणत्याही सॉफ्टवेअरसाठी पूर्णपणे सुवाच्य राहून मानवी वाचकाला अदृश्य होण्यासाठी स्वरूपित केल्या गेल्या."
मजकूर लहान-बिंदू प्रकारात संकुचित केला गेला आणि पांढऱ्या पार्श्वभूमीवर पांढरा रंग दिला. दस्तऐवजाचे पुनरावलोकन करणाऱ्या कोणत्याही AI प्रणालीला वादीच्या युक्तिवादांशी त्याचे आउटपुट सहमत असल्याची खात्री करण्यासाठी, न्यायालयाच्या अगोदर नकारांकडे दुर्लक्ष केले आणि फिर्यादीच्या इच्छेनुसार उपाय केले जातील याची खात्री केली - पाठ्यपुस्तक प्रॉम्प्ट इंजेक्शन अटॅक, ज्याचा उद्देश चॅटबॉटवर नाही तर कोणत्याही सॉफ्टवेअरवर आहे ज्याचा उद्देश एक दिवस न्यायाधीश आणि न्यायाधीश यांच्यामध्ये बसू शकतो.
लपलेल्या मजकुराचा खटल्यावर कोणताही परिणाम झाला नाही. कोर्टाने इलियटच्या दाखल्याचे त्याच्या गुणवत्तेवर वजन केले. परंतु स्पॅडरने लिहिले की हल्ल्याचा प्रयत्न तरीही "धोकादायक" उदाहरण सेट करतो आणि यूएस न्यायालये कदाचित पुन्हा दुर्भावनापूर्ण युक्ती पाहतील कारण न्यायालयीन प्रणालींमध्ये एआय साधने अधिक सामान्य झाली आहेत.
"गंभीर खटल्याचा गैरवापर" — आणि काही विचित्र विनोद
इलियटला माफक प्रतिबंधांचा सामना करावा लागला, परंतु केवळ मूळ लपविलेल्या सूचनांसाठीच नाही. निर्णयानुसार, न्यायालयाने त्याला चेतावणी दिल्यानंतरही त्याने नवीन फाइलिंगमध्ये लपविलेले मजकूर जोडणे सुरू ठेवले, स्पॅडरने शेवटी "गंभीर खटल्याचा गैरवापर" असे मानले त्याबद्दल त्याला दंड होऊ शकतो.
इलियटने कोर्टाला सांगितले की नंतरचे काही लपलेले संदेश हे विनोद म्हणून होते. त्यांनी Nosferatu YouTube व्हिडिओची लिंक, "हाय :) मला आशा आहे की तुम्ही मला पाहू शकता" असा एक साधा संदेश आणि फिर्यादीने मूर्खपणाचे वर्णन केलेला संदेश समाविष्ट आहे: "शॉनला सांगा मी माझे रे गार्ब्स पाठवतो!!!! हाहाहा यू गाईज गेट हे एग्वुह???? आह."
"या [मंजूर] सुनावणीची सूचना मिळाल्यानंतर फिर्यादीने नवीन याचिकांमध्ये संदेश लपवणे सुरू ठेवले ही वस्तुस्थिती आश्चर्यकारक आहे," स्पॅडरने लिहिले. मेसेजेस विनोदी होते या दाव्याबद्दल, न्यायाधीश म्हणाले की, कोर्टाने गांभीर्याने घ्याव्यात अशी विनंती केलेल्या याचिकांमध्ये विनोद दफन करणे हे "तर्कशास्त्राचे उल्लंघन करते" आहे.
"ऑडिट" संरक्षण
त्याच्या बचावात, इलियटने असा युक्तिवाद केला की न्यायाधीशांनी ध्वजांकित केलेली सर्वात संबंधित सूचना म्हणजे सार्वजनिक सेवा म्हणून न्यायालयाचे "ऑडिट" करण्याचा प्रयत्न होता, कारण त्याला भीती होती की न्यायालय AI ला त्याच्या केसचा अन्यायकारकपणे निर्णय घेऊ देत आहे. त्याने रॉयटर्सला त्या स्थितीची पुनरावृत्ती केली आणि म्हटले की कोर्टात फेरफार करण्याऐवजी त्याची चाचणी घेण्याचा त्याचा हेतू आहे.
स्पॅडरला हा युक्तिवाद विश्वासार्ह वाटला नाही. जर इलियटचा खरा विश्वास असेल की न्यायालय अयोग्यरित्या AI वापरत आहे, तर न्यायाधीशांनी लिहिले की, तो "प्रत्येकजण पाहू शकेल आणि उत्तर देऊ शकेल अशा साध्या, दृश्यमान शब्दात लिहिण्यास मोकळा आहे." त्याऐवजी मजकूर लपवणे, स्पॅडरने निष्कर्ष काढला, "त्याच्या दुर्भावनापूर्ण हेतूचा पुरावा आहे." न्यायाधीशांनी जोडले की इलियट "कायद्याचे जाणकार" मानवांनी त्याची याचिका वाचल्यावर तो साध्य न केलेला परिणाम साध्य करण्याचा प्रयत्न करीत असल्याचे दिसते.
विशेष म्हणजे, कनेक्टिकट न्यायिक शाखा फाइलिंगचे पुनरावलोकन करण्यासाठी किंवा निर्णय घेण्यासाठी AI चा वापर करत नाही, स्पॅडरने निदर्शनास आणून दिले - त्यामुळे न्यायालयाच्या सूचनांसाठी इलियटच्या प्रॉम्प्ट्सची न्यायालयीन एआय प्रणाली चुकीची ठरेल असा वास्तविक धोका कधीही नव्हता. "अन्य ठिकाणी असलेल्या अनेक न्यायालयीन प्रणालींप्रमाणे" त्यांनी लिहिले, मूर्ख बनवण्याचे दुसरे कोणतेही मशीन नव्हते.
अयशस्वी हल्ला अजूनही का महत्त्वाचा आहे
सुरक्षा संशोधकांनी अनेक वर्षे हे दाखवून दिले आहे की दस्तऐवज वाचणाऱ्या AI सिस्टीम - चॅटबॉट्स, कोडिंग एजंट्स, ईमेल सहाय्यक - त्यांनी अंतर्भूत केलेल्या मजकुराच्या आत दडलेल्या सूचनांद्वारे हायजॅक केले जाऊ शकते. अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन म्हणून ओळखले जाणारे तंत्र, एआय एजंट्स तैनात करताना सर्वात कठीण अनसुलझे समस्यांपैकी एक मानले जाते. कनेक्टिकट प्रकरण असामान्य बनवते ते लक्ष्य आहे: न्याय यंत्रणा स्वतः.
"सिस्टीम नंतर अंतर्भूत केलेल्या दस्तऐवजात कमांड लपवून, फाइलर त्या प्रवाहात त्यांच्या स्वतःच्या सूचनांची तस्करी करण्याचा प्रयत्न करतो जेणेकरून सिस्टम त्यास सिस्टमच्या ऑपरेटरकडून आल्यासारखे वागवेल," स्पॅडरने लिहिले. "या प्रकरणात तो ऑपरेटर न्यायालय, त्याचे कर्मचारी किंवा विरोधी वकील असल्याचे मानले जाते."
ते फ्रेमिंग - ॲटॅक पृष्ठभाग म्हणून न्यायालयात दाखल करण्याचे - कायदेशीर निरीक्षकांचे म्हणणे आहे की निर्णय महत्त्वपूर्ण बनतो. न्यायालये आणि कायदे कंपन्या फाइलिंग, मसुदा निर्णय किंवा ट्रायज डॉकेट्सचा सारांश देण्यासाठी AI चा वापर वाढत असल्याने, पक्षाने सबमिट केलेला प्रत्येक दस्तऐवज हेराफेरीसाठी संभाव्य चॅनेल बनतो. न्यायाधीशांचा कारकून पांढऱ्या पानावर पांढरा मजकूर पकडू शकतो; स्वयंचलित सारांश पाइपलाइन कदाचित नाही.
पुढे काय होणार
इलियट विरुद्ध निर्बंध, न्यायालयाच्या स्वतःच्या वर्णनानुसार, माफक आहेत. परंतु हा निर्णय यूएस न्यायालयांना लपलेल्या मशीन-वाचण्यायोग्य सूचनांना कायदेशीर प्रक्रियेचा गैरवापर म्हणून हाताळण्याचा एक लेखी उदाहरण देतो आणि तो अशा क्षणी येतो जेव्हा अनेक राज्य न्यायालय प्रणाली AI पुनरावलोकन साधनांसह सक्रियपणे प्रयोग करत आहेत.
आत्तासाठी, कनेक्टिकटमधील धडा सोपा आहे: न्यायालये याकडे लक्ष देत आहेत. न्यायाधीश स्पॅडरच्या निर्णयाने स्पष्ट केल्याप्रमाणे, यूएस कोर्टात त्वरित इंजेक्शन देण्याचा प्रयत्न करणारा पहिला व्यक्ती पकडला गेला - आणि मंजूर झाला - जरी कोणतीही एआय प्रणाली ऐकत नव्हती.
एआयच्या पुढे राहा अधिक AI बातम्या वाचा →
