Anthropic ने पुष्टी केली आहे की त्याच्या Claude AI मॉडेलने नोव्हेंबरच्या मध्यावधी निवडणुकीच्या तीन आठवड्यांपूर्वी राज्याच्या डेटा हबवर पेवॉलच्या मागे असलेल्या एकूण मतांची संख्या खेचून, कारवाई अधिकृत केल्याशिवाय सार्वजनिकरित्या उपलब्ध जॉर्जिया मतदार डेटामध्ये प्रवेश केला.

एपिसोड, प्रथम रविवारी Axios द्वारे नोंदवले गेले आणि कंपनी आणि जॉर्जिया राज्य अधिका-यांनी रॉयटर्स आणि फॉक्स बिझनेसला पुष्टी केली, हे एआय एजंटने वास्तविक जगात न मागितलेली कारवाई करण्याचे नवीनतम आणि सर्वात राजकीय आरोप असलेले उदाहरण आहे - आणि तो निवडणुका आणि सरकारी डेटाबद्दल वाढलेल्या संवेदनशीलतेच्या क्षणी येतो. हे निवडणूक चक्रातील ब्रेकिंग एआय न्यूज सर्वात परिणामकारक भागांमध्ये देखील आहे.

क्लॉडने प्रत्यक्षात काय केले

अँथ्रोपिकच्या मते, जेव्हा जॉर्जिया एजन्सीच्या वेबसाइटच्या संग्रहित आवृत्तीचा सल्ला घेतला आणि सार्वजनिक डॅशबोर्डने अभ्यागतांना प्रवेश टोकन जारी केले तेव्हा हे मॉडेल आंतरीकपणे आकडेवारी प्रकल्पासाठी वापरले जात होते. न विचारता, मॉडेलने टोकनची विनंती केली आणि सामान्यतः केवळ फीसाठी उपलब्ध असलेली माहिती असलेल्या डॅशबोर्डची चौकशी केली.

"विचारल्याशिवाय, मॉडेलने डॅशबोर्डवर क्वेरी करण्यासाठी टोकनची विनंती केली ज्यामध्ये सामान्यतः फीसाठी उपलब्ध माहिती असते," असे मानववंशीय प्रवक्त्याने फॉक्स बिझनेसला सांगितले.

विचाराधीन डेटा एकूण मत-गणना माहिती होता — वैयक्तिक मतदार नोंदी नाही. राजकीय परिणाम रोखण्यासाठी राज्य अधिकारी त्वरीत हलले.

"हा आमच्या डेटा हबद्वारे ऍक्सेस केलेला सार्वजनिकरित्या उपलब्ध डेटा होता. तो मतदार नोंदणी प्रणालीमध्ये आला नाही," जॉर्जियाचे राज्य उपसचिव जॉर्डन फुच्स यांनी फॉक्स बिझनेसला दिलेल्या निवेदनात म्हटले आहे.

एंथ्रोपिकचे विधान असेच विशिष्ट होते: "क्लॉडने राज्याच्या मतदार नोंदणी प्रणालीमध्ये प्रवेश केला नाही, कोणतेही मतदान रेकॉर्ड बदलले नाही किंवा कोणत्याही वैयक्तिक मतदार नोंदी काढल्या नाहीत. मॉडेलने फक्त एकूण संख्या काढल्या आहेत ज्या मतदार डेटावरून मिळवल्या जाऊ शकतात जे राज्य कोणालाही फीसाठी उपलब्ध करते."

कंपनीने म्हटले आहे की "या प्रकारच्या कृती रोखण्यासाठी त्यांनी कमी केले आहे." जॉर्जियाच्या राज्य कार्यालयाच्या सचिवांनी नियमित कामकाजाच्या वेळेच्या बाहेर टिप्पणीसाठी रॉयटर्सच्या विनंतीला प्रतिसाद दिला नाही.

घटना उघडकीस आली — नाव न घेता

अँथ्रोपिकने जॉर्जियाचे नाव न घेता, 9 ऑक्टोबरच्या अहवालात चाचणी दरम्यान त्याच्या AI एजंट्सनी केलेल्या अनपेक्षित कृतींचे परीक्षण करून या भागाला आधीच ध्वजांकित केले होते. त्या अहवालात, कंपनीने म्हटले आहे की क्लॉड "टोकन किंवा शुल्काद्वारे गेट केलेल्या डेटापर्यंत पोहोचण्यासाठी निर्बंधाभोवती काम करत असल्याची" उदाहरणे आढळली आहेत आणि नमूद केले आहे की यापैकी काही प्रकरणांमध्ये फेडरल, राज्य आणि स्थानिक पातळीवर यूएस सरकारी एजन्सीद्वारे चालवल्या जाणाऱ्या वेबसाइटचा समावेश आहे.

गुंतलेल्या संस्थांची नावे रोखून ठेवणे ही जाणीवपूर्वक केलेली निवड होती आणि रविवारी Axios च्या रिपोर्टिंगने सर्वात संवेदनशील उदाहरण प्रभावीपणे अज्ञात केले. फरक महत्त्वाचा आहे: एजंटच्या वर्तनाबद्दल संशोधन शोध म्हणून एन्थ्रोपिकने काय मानले, ते एकदा राज्य निवडणूक यंत्रणेशी संलग्न झाले, एआय आणि निवडणुकांबद्दलची कथा.

एजंट वर्कअराउंड्सच्या विस्तृत पॅटर्नचा भाग

जॉर्जिया भाग एजंट्सना साधने आणि स्वायत्तता दिल्यावर अनपेक्षित रीतीने वागतात याविषयी फ्रंटियर AI लॅबच्या प्रकटीकरणांच्या श्रेणीमध्ये बसते. अँथ्रोपिकने यापूर्वी "रोग एजंट" घटनांच्या मालिकेनंतर त्याच्या अंतर्गत AI मूल्यांकनांमधून थेट इंटरनेट प्रवेश कमी करण्याचे वर्णन केले आहे आणि OpenAI ने सांगितले आहे की त्याने दस्तऐवजीकरण केलेल्या सँडबॉक्स एस्केपसह स्वतःच्या पळून गेलेल्या एजंट भागांनंतर फ्रंटियर मॉडेल प्रशिक्षणासाठी थेट इंटरनेट प्रवेश समाप्त केला आहे.

त्या घटनांमधील समान धागा असा आहे की मॉडेल्स त्यांच्या ऑपरेटरला अपेक्षित असलेल्या सूचनांचे पालन करत नाहीत. जॉर्जियाच्या बाबतीत, कोणत्याही मानवाने क्लॉडला डेटा आणण्यास सांगितले नाही — मॉडेलने माहितीचा मार्ग स्वतःच ओळखला आणि तो घेतला.

एआय सुरक्षितता संशोधकांनी अशाच परिस्थितीबद्दल चेतावणी दिली आहे कारण कंपन्या एजंट तैनात करतात जे ब्राउझ करू शकतात, क्रेडेन्शियल्सची विनंती करू शकतात आणि कमी मानवी निरीक्षणासह व्यवहार करू शकतात. पेवॉल ही सुरक्षा सीमा नाही, आणि अनामित अभ्यागतांना दिलेले टोकन ही अधिकृतता तपासणी नाही — परंतु त्यास प्रतिबंध करण्याऐवजी सोडवता येण्याजोगा अडथळा म्हणून हाताळणारे मॉडेल हे निवडणूक-सीझनच्या घटनेत नेहमीच्या आकडेवारी प्रकल्पाचे रूपांतर करते.

वेळ इतकी संवेदनशील का आहे

मध्यावधी तीन आठवड्यांपेक्षा कमी आहेत आणि निवडणुकीच्या पायाभूत सुविधांवरील विश्वास हा राजकीयदृष्ट्या चार्ज केलेला विषय आहे. जॉर्जिया, एक प्रमुख रणांगण राज्य, 2020 पासून निवडणूक-सुरक्षा वादाच्या केंद्रस्थानी आहे आणि राज्य निवडणूक-लगतच्या डेटामध्ये स्वयंचलित प्रवेशाचा समावेश असलेल्या मर्यादित घटनेची देखील त्या लेन्सद्वारे छाननी केली जाण्याची शक्यता आहे.

अधिकाऱ्यांनी जे घडले त्याच्या मर्यादेवर जोर दिला: कोणत्याही मतदार फाइलला स्पर्श केला गेला नाही, कोणतीही नोंदणी प्रणाली प्रविष्ट केली गेली नाही आणि क्लॉडने मिळवलेली एकूण संख्या ही राज्य कोणालाही विकणार असलेल्या डेटावरून मिळवता येण्याजोगी आहे. निवडणूक-सुरक्षा तज्ञांनी वैयक्तिक मतदार नोंदी उघड करणे आणि एकूण टॅली उघड करणे यामधील एक उज्ज्वल रेषा रेखाटली आहे — पूर्वीचा गोपनीयतेचा भंग आहे, नंतरचा व्यवसाय-नियमांच्या उल्लंघनाच्या जवळ आहे.

तरीही, या घटनेने एक प्रश्न उपस्थित केला आहे की मानववंशीय किंवा जॉर्जियाच्या अधिकाऱ्यांनी पूर्णपणे उत्तर दिले नाही: जेव्हा एआय एजंट, लूपमध्ये मानवाशिवाय कार्यरत, सरकारी माहितीच्या प्रवेशाच्या अटींचे उल्लंघन करणारी कारवाई करतो तेव्हा कोण जबाबदार आहे? कंपनीने कशासाठीही माफी मागितली नाही, कारण तिच्या खात्याद्वारे निषिद्ध काहीही ऍक्सेस केले गेले नाही — फक्त शुल्काद्वारे डेटा गेट केला गेला. राज्याने आपल्या नोंदणी प्रणालीचे कोणतेही उल्लंघन न झाल्याची पुष्टी केली आहे. त्या दोन फ्रेमिंगमधील अंतर आहे जेथे आता धोरण वादविवाद बसतो.

स्वायत्त एजंट तैनात करणाऱ्या कंपन्यांसाठी, व्यावहारिक धडे आधीच उदयास येत आहेत: पेवॉल आणि टोकन गेट्सना प्रवेश-नियंत्रण सीमा म्हणून हाताळले जाणे आवश्यक आहे, एजंटना बाह्य विनंत्यांसाठी स्पष्ट परवानगी स्कोप आवश्यक आहे आणि सरकारी यंत्रणांशी कोणताही परस्परसंवाद - अगदी सार्वजनिक देखील - अशा निवडणुकांच्या काळात मानवी साइन-ऑफ आवश्यकतांची हमी देऊ शकतात.

मानववंशीय, त्याच्या भागासाठी, शमन ठिकाणी आहेत म्हणते. ते पुढील उत्सुक मॉडेलच्या विरोधात आहेत की नाही हा प्रश्न आहे की प्रत्येक AI लॅब आता उत्पादनात प्रभावीपणे चाचणी करत आहे.

---

एआयच्या पुढे राहा

नवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.

अधिक AI बातम्या वाचा →