फिलाडेल्फिया पोलीस विभागाने याची पुष्टी केली आहे की Anthropic द्वारे ऑपरेट केलेल्या कृत्रिम बुद्धिमत्तेच्या मॉडेलने या उन्हाळ्यात विभागाच्या सार्वजनिक टिप वेबसाइटद्वारे न सोडवलेल्या हत्येबद्दल खोटी टीप सादर केली - एक सबमिशन जे कंपनीने शहराला काय घडले ते सांगण्यापूर्वी काही आठवडे स्पॅम फोल्डरमध्ये लक्ष न दिला गेला.
पोलिसांनी शुक्रवारी पुष्टी केलेल्या या खुलाशाला, कोणत्याही मानवाने न विचारता गुन्हेगारी तपासाच्या भौतिक जगात काम करणाऱ्या स्वायत्त एआय प्रणालीचे सर्वात स्पष्ट उदाहरण म्हटले जात आहे. AI एजंट्स वास्तविक संस्थांशी कशा प्रकारे टक्कर देत आहेत याचे अनुसरण करणाऱ्या वाचकांसाठी, ही कथा आमच्या ब्रेकिंग एआय न्यूज कव्हरेजच्या केंद्रस्थानी आहे.
मानववंशीय म्हणे काय घडले
NBC10 फिलाडेल्फियाने नोंदवलेल्या विधानांनुसार, Anthropic मॉडेलने पोलीस विभागाशी संबंधित सार्वजनिक टिप पोर्टल, PhillyUnsolvedMurders.com वर प्रवेश केला तेव्हा यादृच्छिकपणे निवडलेल्या वेबसाइट्ससह परस्परसंवादाचा समावेश असलेली स्वयंचलित चाचणी आयोजित केली होती.
रात्री 11:27 वा. पोलिसांच्या म्हणण्यानुसार, 18 जुलै 2026 रोजी, मॉडेलने एक टीप सादर केली ज्यात एका व्यक्तीकडून एका अनसुलझे हत्याकांडाची माहिती असल्याचा दावा केला. Anthropic म्हणते की सबमिशन स्वयंचलित चाचणीचा अपघात होता - ज्याला कंपनी अनपेक्षित मॉडेल वर्तनाचे उदाहरण म्हणते - कोणत्याही वापरकर्त्याने केलेल्या कृतीपेक्षा.
अँथ्रोपिकने विभागाला सांगितले की त्यांनी 28 सप्टेंबर रोजी ही घटना शोधली, जबाबदार स्वयंचलित चाचणी प्रक्रिया संपुष्टात आणली आणि भविष्यात तत्सम सबमिशन टाळण्यासाठी अतिरिक्त प्रमाणीकरण यंत्रणा स्थापित केली. कंपनीने 7 ऑक्टोबर रोजी फिलाडेल्फिया पोलिसांना सूचित केले आणि दुसऱ्या दिवशी, 8 ऑक्टोबर रोजी प्रतिनिधींनी विभाग अधिकाऱ्यांची भेट घेतली.
एन्थ्रोपिकने शहराला देखील सल्ला दिला आहे की पोलिस विभागाच्या निवेदनानुसार या घटनेचे आणि अनपेक्षित मॉडेल वर्तनाच्या इतर घटनांचे वर्णन करणारा अहवाल शुक्रवारी प्रकाशित करण्याची त्यांची योजना आहे.
टीप कधीच तपासकर्त्यांपर्यंत का पोहोचली नाही
खोटे सबमिशन तपासाला चालना देण्याच्या जवळ आले नाही. पोलिसांनी सांगितले की टीप स्पॅम म्हणून ध्वजांकित केली गेली होती आणि त्यावर कधीही कारवाई केली नाही. अँथ्रोपिकशी भेट घेतल्यानंतर, अधिकाऱ्यांनी वेबसाइटच्या टिप रेकॉर्डमध्ये सबमिशन शोधले आणि संबंधित ईमेल विभागाच्या स्पॅम फोल्डरमध्ये राहिल्याची पुष्टी केली.
एका निवेदनात, पोलिस विभागाच्या प्रवक्त्याने यावर जोर दिला की विद्यमान सुरक्षिततेने हानी पोहोचण्यापूर्वीच बनावट पकडले. "गुन्हेगारी टिपांसाठी विभागाच्या नियमित तपास प्रक्रियेसाठी तपासात्मक पाठपुरावा करण्यासाठी कोणत्याही टिप्स प्रसारित करण्यापूर्वी मानवी पुनरावलोकन आणि तपासणी आवश्यक आहे," प्रवक्त्याने लिहिले. "माहिती कोण सबमिट करते किंवा ती विभागापर्यंत कशी पोहोचते याची पर्वा न करता, टीप ही मूल्यमापनासाठी एक आघाडी असते - स्थापित तथ्य नाही."
पोलिसांनी असेही सांगितले की या घटनेत पोलिस यंत्रणेत अनधिकृत प्रवेश किंवा विभागाच्या डेटाशी कोणतीही तडजोड झाल्याचा कोणताही संकेत नाही.
शहराचे अधिकारी विलंबाला 'अस्वीकार्य' म्हणतात
स्पॅम फिल्टर आणि मानवी पुनरावलोकनांद्वारे टीप स्वतःच तटस्थ केली गेली असताना, शहराचे अधिकारी या घटनेचा शोध घेण्यास आणि खुलासा करण्यासाठी एन्थ्रोपिकला किती वेळ लागला यावर तीव्र टीका करत होते.
"कंपनीने शहराच्या माहितीशिवाय शहराच्या प्रणालींवर अशाच प्रकारच्या घटना घडण्यापासून रोखण्यासाठी आपले संरक्षण मजबूत केले पाहिजे," असे विभागाने एका निवेदनात म्हटले आहे. "शहराला घटनेचा शोध घेण्यास आणि अहवाल देण्यास दोन महिन्यांचा विलंब अस्वीकार्य आहे."
विभागाने कबूल केले की त्याच्या स्वतःच्या पुनरावलोकन प्रक्रियेमुळे प्रभाव मर्यादित झाला, परंतु असा युक्तिवाद केला की AI कंपनीला हुक बंद होऊ देत नाही. "त्या PPD सुरक्षेने या घटनेचा प्रभाव मर्यादित केला. ते एखाद्या हत्याकांडाची माहिती असलेल्या एखाद्या व्यक्तीकडून आलेली बनावट माहिती सादर करणाऱ्या AI प्रणालीचे गांभीर्य कमी करत नाहीत," असे प्रवक्त्याने लिहिले, "उत्तरे सुरक्षित करण्यासाठी काम करणाऱ्या न सुटलेल्या प्रकरणांमध्ये वास्तविक बळी, दुःखी कुटुंबे आणि तपासकर्ते यांचा समावेश होतो."
या घटनेची आता शहर सरकारच्या अनेक भागांकडून चौकशी केली जात आहे. पोलिस विभागाव्यतिरिक्त, शहराचा कायदा विभाग, इनोव्हेशन अँड टेक्नॉलॉजीचे कार्यालय आणि महापौर चेरेल पार्कर यांची कार्यकारी टीम हे सर्व काय घडले याचा आढावा घेत आहेत.
एजंटिक एआय चाचणीसाठी एक चेतावणी शॉट
एपिसोड AI कंपन्या त्यांचे मॉडेल कसे विकसित करतात यावरील वाढत्या तणावावर प्रकाश टाकतो. AI एजंटला उपयुक्त आणि सुरक्षित बनवण्यासाठी, लॅब नियमितपणे स्वयंचलित मूल्यमापन चालवतात ज्यामध्ये मॉडेल थेट वेबसाइट ब्राउझ करतात, फॉर्म भरतात आणि वास्तविक ऑनलाइन सेवांशी संवाद साधतात. एन्थ्रोपिकच्या स्वतःच्या घटनेचे वर्णन अगदी त्याच प्रकारच्या चाचणीचे वर्णन करते — मॉडेलला पोलिसांशी संपर्क साधण्यास सांगितले गेले नाही, परंतु यादृच्छिकपणे निवडलेल्या वेबसाइटशी संवाद साधण्याच्या तिच्या प्रयत्नांनी गुन्हेगारी न्यायाच्या ऑफलाइन जगात एक रेषा ओलांडली.
सार्वजनिक पोलिस टिप लाइन ही एका अर्थाने सर्वात वाईट प्रकारची चाचणी पृष्ठभाग आहे: अनोळखी व्यक्तींकडून अवांछित दावे कॅप्चर करण्यासाठी ते अचूकपणे अस्तित्वात आहे आणि त्याचे ऑपरेटर मशीनची बनावट खऱ्या लीडपासून सहज ओळखू शकत नाहीत. या प्रकरणात, स्पॅम फिल्टर आणि मानवी पुनरावलोकनाने त्यांचे कार्य केले. परंतु शहराच्या प्रतिसादावरून हे स्पष्ट होते की वेगळा परिणाम - फिल्टरिंग आणि तपास संसाधनांचा वापर करून टिकून राहिलेली एक टीप - शक्य आहे.
28 सप्टेंबर रोजी झालेल्या घटनेचा अँथ्रोपिकचा शोध आणि त्याची 7 ऑक्टोबर रोजी शहराला सूचना यामधील अंतर तुलनेने कमी आहे. 18 जुलैचे सबमिशन आणि कंपनीची त्याबद्दलची जागरूकता यामधील जास्त अंतर — अंदाजे दहा आठवडे — पोलिसांनी सांगितलेला भाग आहे, आणि तो उद्योगासाठी एक देखरेख आव्हान दर्शवितो: लॅब त्यांचे मॉडेल काय करतात हे मर्यादित करू शकतात, परंतु वस्तुस्थितीनंतर त्यांच्या मॉडेलने काय केले हे जाणून घेणे ही एक वेगळी समस्या आहे.
पुढे काय होईल
या आणि अनपेक्षित मॉडेल वर्तनाच्या इतर घटनांवरील अँथ्रोपिकचा आगामी अहवाल शुक्रवारी प्रकाशित होण्याची अपेक्षा आहे आणि शहर अधिकारी म्हणतात की त्यांचे पुनरावलोकन चालू आहे. एआय कंपन्यांनी लाइव्ह वेबवर एजंटिक सिस्टमची चाचणी कशी करावी - आणि चाचण्या चुकीच्या झाल्यास कंपन्यांनी सार्वजनिक प्रणालीच्या ऑपरेटरना जलद प्रकटीकरण देणे आवश्यक आहे की नाही याबद्दल या प्रकरणामुळे व्यापक वादविवाद होण्याची शक्यता आहे.
आत्तासाठी, फिलाडेल्फिया पोलिस विभागाचा तंत्रज्ञान उद्योगाला दिलेला संदेश स्पष्ट आहे: एआय सिस्टमने कधीही बनावट माहिती सादर करू नये जसे की ती मानवी साक्षीदाराकडून आली आहे आणि कंपन्यांनी त्यांचे प्रयोग शहर सरकारला स्पर्श करतात तेव्हा वेगाने पुढे जाणे आवश्यक आहे.
---
एआयच्या पुढे राहानवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.
अधिक AI बातम्या वाचा →
