युनायटेड स्टेट्सच्या एका न्यायाधीशाने कायद्याच्या अंमलबजावणीमध्ये कृत्रिम बुद्धिमत्तेच्या वापराबाबत आतापर्यंतचा सर्वात परिणामकारक निर्णय दिला आहे, असे धरून की चौथी दुरुस्ती पोलिसांना एका अप्रमाणित AI निष्कर्षाशिवाय इतर कशावरही आधारित व्यक्तीला अटक करण्याची परवानगी देत ​​नाही. Alain Vizcay Osorio ने आणलेल्या दिवाणी खटल्यात जारी केलेला आणि DocumentCloud द्वारे प्रकाशित केलेला निर्णय, Osorio ला केवळ चेहर्यावरील ओळखीच्या सामन्यावर आधारित खराब चेक पास केल्याबद्दल अटक केल्यानंतर पात्र प्रतिकारशक्तीचा दावा करण्याचा गुप्तहेराचा प्रयत्न नाकारतो — कोर्टाला आढळलेला सामना स्पष्टपणे चुकीचा होता. निर्णयाच्या सुरुवातीच्या परिच्छेदात तत्त्व स्पष्टपणे नमूद केले आहे: "युनायटेड स्टेट्सच्या घटनेतील चौथी दुरुस्ती एखाद्या गुप्तहेरला संभाव्य कारणाचे मूल्यांकन करण्याचे काम AI वर सोपविण्याची परवानगी देत ​​नाही." AI पॉलिसी आणि रेग्युलेशन च्या चालू कव्हरेजसाठी, AI Buzz Wire अपीलचा मागोवा घेत आहे ज्याचे अनुसरण करण्याची अनेकांना अपेक्षा आहे.

एक खराब तपासणी, एक सीसीटीव्ही स्क्रीनशॉट आणि फेसबुक जुळणी

या प्रकरणाची सुरुवात कमी दाव्यातील कथित गुन्हेगारी आणि कमी प्रयत्नातील पोलिसांच्या कामाने झाली. ओसोरिओवर स्थानिक बँकेत खराब चेक पास केल्याचा आरोप होता आणि संशयिताची फक्त प्रतिमा बँकेच्या सीसीटीव्ही फुटेजमधून आली. फ्लॉरेन्स, केंटकी पोलिस विभागातील गुप्तहेर रायन किल्मर यांनी संशयिताच्या चेहऱ्याचा स्क्रीनशॉट घेतला आणि तो विभागाच्या चेहर्यावरील ओळख कार्यक्रमाद्वारे चालवला. सिस्टीमने "योनी स्मिथ एनपोल्स चरॉन" म्हणून सूचीबद्ध असलेल्या एखाद्या फेसबुक प्रोफाइलशी जुळणी परत केली — आणि, ज्यासाठी न्यायालयाने कोरडेपणे "अज्ञात कारण" म्हटले, किल्मरने निष्कर्ष काढला की प्रोफाइल ओसोरिओची आहे.

छायाचित्रांनी वेगळीच कहाणी सांगितली. निर्णयानुसार, सीसीटीव्ही फुटेज आणि फेसबुक प्रोफाइल इमेज "ओसोरियोच्या बुकिंग फोटोशी साम्य दाखवत नाहीत." बुकिंग फोटोच्या आधारे, न्यायालयाने निरीक्षण केले की, संशयितामध्ये ओसोरिओची एकच गोष्ट साम्य होती ती म्हणजे दोघेही चेहऱ्यावरचे केस असलेले काळे पुरुष होते; फोटोंमध्ये डोक्याचा वेगळा आकार, वेगळा धाटणी, चेहऱ्याची वेगळी वैशिष्ट्ये आणि रंग वेगळा होता.

किल्मरच्या प्रतिज्ञापत्राने कोर्टाला सांगितले की त्याने संशयिताशी ओसोरिओची "जुळण्यासाठी" "तपास साधने" वापरली होती. प्रत्यक्षात, न्यायाधीशांना आढळले की, त्याने एकच साधन वापरले आणि त्याचे दोषपूर्ण आउटपुट स्वीकारले - फ्लॉरेन्स पीडी धोरण स्पष्टपणे सांगते की केवळ चेहर्यावरील ओळख संभाव्य कारण स्थापित करण्यासाठी पुरेसे नाही. गुप्तहेर, सत्ताधाऱ्याने स्पष्ट केले की, त्याच्या विभागाचे लेखी नियम आणि घटनेची मूलभूत आवश्यकता या दोन्हीकडे दुर्लक्ष केले की संभाव्य कारण पुराव्याचे वास्तविक मानवी मूल्यांकन प्रतिबिंबित करते.

कोर्टाने नेमकं काय केलं

निर्णयाची मूळ भाषा हा गुप्तहेर निष्काळजी होता हे शोधण्यापलीकडे आहे. हे एक स्पष्ट नियम मांडते: "चौथी दुरुस्ती एखाद्या व्यक्तीला अटक करण्याची परवानगी देत ​​नाही ज्यावर AI द्वारे एक अपरिचित निष्कर्षा पेक्षा अधिक कशाचाही आधार घेत नाही की प्रश्नातील व्यक्तीने गुन्हा केला आहे. आणि प्रतिवादीच्या स्थितीत कोणताही वाजवी गुप्तहेर अन्यथा निष्कर्ष काढू शकत नाही."

ते दुसरे वाक्य भारी उचलते. कोणत्याही वाजवी अधिका-याला अप्रमाणित AI जुळणी पुरेशी आहे यावर विश्वास ठेवू शकत नाही असे सांगून, न्यायालयाने पात्र प्रतिकारशक्ती संरक्षणाचा पाया उद्ध्वस्त केला, जे सामान्यतः अधिकाऱ्यांना नागरी दायित्वापासून संरक्षण करते जोपर्यंत त्यांनी स्पष्टपणे स्थापित अधिकारांचे उल्लंघन केले नाही. किल्मर, कोर्टाने सांगितले की, सिद्धांताच्या मागे लपून राहू शकत नाही - कारण चौथी दुरुस्ती स्वतःच त्याने जे केले ते मनाई करते आणि कारण त्याच्या स्वतःच्या विभागाच्या धोरणाने त्याला लेखी सांगितले की केवळ चेहर्यावरील ओळख संभाव्य कारण स्थापित करू शकत नाही.

याचा व्यावहारिक परिणाम असा आहे की गुप्तहेर वैयक्तिकरित्या खटल्याला सामोरे जातो, असा पवित्रा ज्यामुळे दोन्ही निकाली काढण्याचा दबाव वाढतो आणि अपीलीय पुनरावलोकनाची शक्यता अधिक असते, कारण आता या अधिकाऱ्याचा निर्णयाला आव्हान देण्यात थेट आर्थिक वाटा आहे.

एका वाईट तपासणीच्या पलीकडे पोहोचणारे परिणाम

कायदेशीर समालोचकांनी नमूद केले आहे की या निर्णयाचा तर्क पोलिस AI साठी वेगाने वाढणाऱ्या बाजारपेठेतून बाहेर पसरतो. समान तर्क - जोपर्यंत मनुष्य स्वतंत्रपणे त्याची पुष्टी करत नाही तोपर्यंत अल्गोरिदमचे आउटपुट संभाव्य कारणाचा पुरावा नाही - समान शक्तीने लागू होते:

  • चेहर्यावरील ओळख शोध, ज्यामध्ये स्क्रॅप केलेल्या वेब प्रतिमांच्या विरूद्ध पाळत ठेवण्याच्या स्थिरतेशी जुळणारी प्रणाली समाविष्ट आहे, या प्रकरणात समस्या असलेला नमुना.
  • प्रेडिक्टिव पोलिसिंग सॉफ्टवेअर जे अल्गोरिदमिक अंदाजांवर आधारित गस्त आणि सार्वजनिक संवादांना निर्देशित करते.
  • AI-व्युत्पन्न पोलिस अहवाल, आता Axon सारख्या विक्रेत्यांद्वारे बॉडी कॅमेऱ्यांमध्ये जोडले जात आहे कारण अधिकारी ते लिहिण्यास प्राधान्य देत नाहीत — थांबा किंवा बळाचा वापर करण्याचे मशीनने तयार केलेले कथन अधिकृत रेकॉर्ड बनवू शकते का असा प्रश्न उपस्थित करते.

जर न्यायालयाने म्हटले की अल्गोरिदम संभाव्य-कारण निर्धार करू शकत नाही, तर अल्गोरिदम शांतपणे गृहीत धरणारी प्रत्येक डाउनस्ट्रीम सिस्टम ही समस्या वारसा ठरवते. ज्या विभागांनी AI आउटपुटला तपासात्मक शॉर्टकट म्हणून हाताळले आहे त्यांना अटक करण्यापूर्वी वास्तविक मानवी पुष्टीकरण दस्तऐवजीकरण करणे आवश्यक असू शकते किंवा संबंधित अधिकाऱ्यांसाठी पुरावे वगळणे आणि वैयक्तिक दायित्व दोन्ही धोक्यात येऊ शकतात.

पुढे काय येईल

त्वरित प्रश्न अपील आहे. कारण पात्र प्रतिकारशक्ती नाकारली गेली होती, गुप्तहेरला केस वरच्या दिशेने नेण्याची प्रबळ प्रेरणा आहे आणि घटनात्मक प्रश्न - संभाव्य कारणांच्या मूल्यांकनात AI टूल्स सहभागी होऊ शकतात की नाही - हा मुद्दा नेमका कोणत्या प्रकारचा आहे अपीलीय न्यायालयांना एक नियम म्हणून निकाल देणे आवश्यक आहे. नागरी स्वातंत्र्य गट सत्ताधाऱ्यांच्या समर्थनार्थ हस्तक्षेप करण्याची शक्यता आहे; पोलिस युनियन आणि एआय विक्रेते मागे ढकलण्याची शक्यता आहे, असा युक्तिवाद करून की निर्णयामुळे तंत्रज्ञान धोरणाच्या समस्येसह एक आळशी तपास आहे.

कोणत्याही प्रकारे, अपील चक्राची वाट न पाहता, आज पोलिस विभाग वाचू शकणारे मार्कर हा निर्णय निश्चित करतो: एआय आउटपुट एक आघाडी आहे, निष्कर्ष नाही. या प्रकरणात डिटेक्टिव्हने फेस-मॅचिंग अल्गोरिदमला विचार करू दिला, त्याच्या विभागाच्या स्वतःच्या नियमाकडे दुर्लक्ष केले आणि आता वैयक्तिकरित्या परिणामांना सामोरे जावे लागेल. निर्णय स्वतःच सूचित करतो म्हणून, घटनेच्या रचनाकारांनी न्यूरल नेटवर्क्सचा अंदाज लावला नाही — परंतु एखाद्या व्यक्तीला राज्य ताब्यात घेण्यापूर्वी एखाद्या व्यक्तीने संभाव्य कारणाचे मूल्यांकन करण्याची आवश्यकता कोणत्याही दुरुस्तीशिवाय भाषांतर करण्यासाठी बाहेर पडते.

एआय टूल्ससाठी खरेदी करणाऱ्या विभागांसाठी, संदेश तितकाच थेट आहे: अचूकतेबद्दल विक्रेत्याचे दावे धोरण नाहीत. मानवी समर्थनाची आवश्यकता असलेले लिखित नियम - जसे की फ्लोरेन्स पीडी, ज्याकडे गुप्तहेरांनी दुर्लक्ष केले - आता फक्त सर्वोत्तम सराव नाही तर खटला टिकून राहणारा विभाग आणि वैयक्तिकरित्या पैसे देणारा अधिकारी यांच्यातील फरक आहे.

---

एआयच्या पुढे राहा

नवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.

अधिक AI बातम्या वाचा →