मेटा ने नो किंग्स कोएलिशन के मुख्य इंस्टाग्राम अकाउंट को गलत तरीके से निलंबित करने के लिए एंथ्रोपिक के क्लाउड से जुड़े कृत्रिम बुद्धिमत्ता उपकरणों को दोषी ठहराया है, एक त्रुटि जिसने नवंबर के मध्यावधि चुनावों से पहले शुरुआती मतदान को बढ़ावा देने के उद्देश्य से राष्ट्रव्यापी कार्रवाई के दौरान विरोध आंदोलन की सोशल मीडिया उपस्थिति को घंटों तक ऑफ़लाइन कर दिया।
निलंबन, जो शनिवार दोपहर से शुरू हुआ, पहले नियमित स्वचालित सुरक्षा के लिए जिम्मेदार ठहराया गया था। एक दिन बाद, मेटा ने एक अलग और अधिक असामान्य खाते की पेशकश की: ब्लूमबर्ग और द गार्जियन की रिपोर्ट के अनुसार, कंपनी के इंजीनियरों ने पाया कि एंथ्रोपिक के क्लाउड से जुड़े उपकरण खाते से पोस्ट, प्रोफाइल और हैशटैग को सामान्य गति से लगभग चार गुना गति से खींच रहे थे - ट्रैफ़िक पैटर्न जिसे मेटा के सिस्टम ने स्वचालित बॉट गतिविधि के लिए गलत समझा और खाते को नीचे ले जाकर जवाब दिया। For more context on this story, see our ongoing AI industry coverage.
राष्ट्रीय कार्रवाई दिवस के दौरान मौन के घंटे
तालाबंदी शायद ही इससे अधिक संवेदनशील क्षण में हो सकती थी। द डीप डाइव द्वारा उद्धृत आंकड़ों के अनुसार, शनिवार को, आयोजकों ने संयुक्त राज्य भर में लगभग 3,000 "नो किंग्स: वोट अर्ली" कार्यक्रमों का आयोजन किया, जो लोकतंत्र समर्थक आंदोलन का हिस्सा है, जिसने हाल के वर्षों में लाखों अमेरिकियों को सड़कों पर आकर्षित किया है।
दोपहर करीब 1:30 बजे प्रशासकों ने खाते तक पहुंच खो दी। पूर्वी, एक गठबंधन प्रवक्ता ने कहा। खाता लगभग 90 मिनट के बाद सार्वजनिक रूप से फिर से प्रकट हुआ, लेकिन इसके पीछे के लोग लगभग चार घंटे तक इसके बैकएंड से बाहर रहे, और शाम 5:33 बजे पूरी पहुंच प्राप्त कर ली। पूर्वी.
आयोजन समूह इंडिविजिबल के सह-संस्थापक एज्रा लेविन ने स्थिति का स्पष्ट रूप से वर्णन किया। उन्होंने कहा, "उन्होंने इसे निलंबित कर दिया। हमारे पास इस तक पहुंच नहीं थी।"
मेटा का स्पष्टीकरण बदला गया - दो बार
मेटा की पहली सार्वजनिक प्रतिक्रिया शनिवार को आई, जब प्रवक्ता एंडी स्टोन ने एक्स पर लिखा कि प्लेटफ़ॉर्म के स्वचालित सिस्टम कभी-कभी "जब खाते बहुत उच्च आवृत्तियों पर पोस्ट, साझा या टिप्पणी करते हैं" कार्य करते हैं। उन्होंने स्वीकार किया कि "वह स्वचालित कार्रवाई स्पष्ट रूप से गलती से की गई थी," उन्होंने आगे कहा, "अब सब कुछ उसी तरह काम कर रहा है जैसा उसे करना चाहिए और हम ईमानदारी से माफी मांगते हैं।"
रविवार तक, कंपनी ने घटनाओं के अपने खाते को संशोधित कर दिया था। एक लंबे बयान में, स्टोन ने कहा कि "तीव्र विस्फोट" में प्रोफ़ाइल, पोस्ट और हैशटैग पढ़ने वाली गतिविधि की उच्च मात्रा ने मेटा के एआई टूल को ट्रैफ़िक को स्वचालित बॉट के रूप में वर्गीकृत करने का कारण बना दिया था। स्टोन ने कहा, "इस गतिविधि के कारण हमारी स्वचालित सुरक्षा ने नो किंग्स इंस्टाग्राम खाते को गलत तरीके से ऑफ़लाइन कर दिया," यह देखते हुए कि एक घंटे बाद एक स्वचालित पुन: समीक्षा ने गलती को पहचान लिया और खाते को बहाल कर दिया, हालांकि व्यवस्थापक पहुंच को सुलझाने में अतिरिक्त समय लगा।
क्लाउड कनेक्शन की रिपोर्ट सबसे पहले ब्लूमबर्ग ने रविवार को की थी। मेटा ने यह स्पष्ट नहीं किया है कि उपकरण कौन संचालित कर रहा था, या वे खाते से इतनी आक्रामकता से पूछताछ क्यों कर रहे थे। कंपनी ने अपने सार्वजनिक बयानों में उस प्रश्न का उत्तर नहीं दिया।
आयोजकों ने उत्तर को अपर्याप्त बताया
गठबंधन बॉट-ट्रैफ़िक स्पष्टीकरण से असहमत था। रविवार को इंस्टाग्राम पर एक पोस्ट में, समूह ने कहा कि उसके सदस्यों ने कार्रवाई के दिन के दौरान "केवल कुछ ही बार पोस्ट किया और हजारों लोगों को लाइवस्ट्रीम किया" - शायद ही किसी स्वचालित स्पैम ऑपरेशन की प्रोफ़ाइल।
नो किंग्स गठबंधन ने लिखा, "हमने अपने खातों तक पहुंच वापस पा ली है, लेकिन मेटा को अभी भी हमें स्पष्टीकरण देना है।" "चुनाव के बीच में मतदान के बारे में संचार को प्रतिबंधित करना अस्वीकार्य है।"
इस प्रकरण पर तुरंत राजनीतिक प्रतिक्रिया हुई। सीनेटर बर्नी सैंडर्स ने एक्स पर सुझाव दिया कि निलंबन के पीछे "मीडिया का अरबपति स्वामित्व" था, जबकि कनेक्टिकट सीनेटर क्रिस मर्फी ने जो कुछ हुआ उसकी जांच का आह्वान किया।
जब एआई ट्रैफिक दुरुपयोग जैसा लगता है
तात्कालिक राजनीति से परे, यह घटना इस बात को दर्शाती है कि कैसे बड़े प्लेटफ़ॉर्म अपने सिस्टम की निगरानी करते हैं। स्वचालित प्रवर्तन क्लासिफायर पर निर्भर करता है जो मानव व्यवहार को बॉट व्यवहार से अलग करता है - एक ऐसा अंतर जिसे बनाए रखना कठिन होता जा रहा है क्योंकि एआई एजेंट, स्क्रेपर्स और तीसरे पक्ष के उपकरण वैध कारणों से मशीन की गति पर सामाजिक प्लेटफार्मों पर क्वेरी करते हैं।
निलंबन के बारे में मेटा के विवरण से पता चलता है कि इसके बचाव ने उस ट्रैफ़िक के विरुद्ध डिज़ाइन किया था जो वास्तव में स्वचालित दिखता था, और ठीक उसी तरह से विफल रहा जिस तरह से स्वचालित मॉडरेशन के आलोचकों ने लंबे समय से चेतावनी दी थी: जल्दी, अपारदर्शी और गलत लक्ष्य के विरुद्ध, सुधार केवल नुकसान होने के बाद ही आता है।
एंथ्रोपिक के लिए, यह एपिसोड एक अनुस्मारक है कि एक मॉडल का पदचिह्न उसके अपने उत्पादों से कहीं आगे तक फैला हुआ है। क्लाउड को एंथ्रोपिक के एपीआई के माध्यम से तीसरे पक्ष के अनुप्रयोगों द्वारा एक्सेस किया जाता है, और जैसा कि घटना पर रिपोर्टिंग से संकेत मिलता है, मेटा ने एंथ्रोपिक द्वारा चलाए गए किसी भी चीज़ के बजाय मॉडल से "जुड़े" टूल की ओर इशारा किया। दूसरे शब्दों में, डाउनस्ट्रीम उपयोग बिना किसी प्रत्यक्ष कार्रवाई के किसी मॉडल निर्माता का नाम अवांछित शीर्षक में डाल सकता है।
आगे क्या होता है
मेटा ने दो बार माफ़ी मांगी है और खाता बहाल कर दिया है, लेकिन गठबंधन पूर्ण लेखांकन की मांग कर रहा है, और कंपनी ने अब तक क्लाउड-कनेक्टेड टूल के ऑपरेटरों का नाम बताने या यह बताने से इनकार कर दिया है कि चुनावी मौसम के दौरान राजनीतिक संगठनों पर क्या सुरक्षा उपाय लागू होते हैं।
मध्य सप्ताह नजदीक आने और कई राज्यों में शुरुआती मतदान शुरू होने के साथ, प्लेटफ़ॉर्म समूह और चुनाव अधिकारी यह देख रहे होंगे कि क्या मेटा - और अन्य प्लेटफ़ॉर्म जो समान स्वचालित सुरक्षा पर भरोसा करते हैं - बॉट फ़िल्टर में नागरिक संगठनों को उलझाने से बचने के लिए अपनी सीमा को समायोजित करते हैं। क्या नियामक अधिक रुचि लेते हैं, यह इस बात पर निर्भर हो सकता है कि मेटा उन सवालों का कितना संतोषजनक उत्तर देता है जो आयोजक पूछते रहते हैं: वास्तव में क्या हुआ, और उस ट्रैफ़िक के पीछे कौन था जिसने यह सब शुरू किया।
द गार्जियन, ब्लूमबर्ग और द डीप डाइव की रिपोर्टिंग ने इस लेख में योगदान दिया।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
