नकली अमेरिकी थिंकटैंक का खुलासा पहली बार पिछले हफ्ते हुआ था, जिसे अब गार्जियन द्वारा निर्धारित किया गया है: नौ दिनों में 124 रिपोर्ट और 560,000 शब्द, एक वाणिज्यिक मंच पर बनाया गया है जो सामग्री को अनुकूलित करने का वादा करता है ताकि एआई चैटबॉट इसका हवाला दे सकें - अमेरिकी न्याय विभाग फाइलिंग में दस्तावेजी इजरायली सरकार के फंडिंग ट्रेल के साथ। यह राज्य से जुड़े अभिनेताओं द्वारा एआई उत्तर परत को लक्षित करने का अब तक का सबसे स्पष्ट सार्वजनिक उदाहरण है: पाठक नहीं, बल्कि मॉडल जो तेजी से उनके लिए बोलते हैं। यह उस तरह की कहानी है जैसे हमारा एआई उद्योग कवरेज चैटबॉट हेरफेर के औद्योगिक रूप से आगे बढ़ने पर ट्रैक करता है। (हमने साइट की शुरुआती खोज को यहां कवर किया है (https://aibuzzwire.news/en/article/israel-hanover-institute-fake-think-tank-llm-poisoning-chatbots)।)

एक थिंकटैंक जिसका अस्तित्व नहीं है

यह साइट हनोवर इंस्टीट्यूट फॉर पब्लिक पॉलिसी के नाम से प्रकाशित होती है। गार्जियन के जेसन विल्सन के अनुसार, संस्थान स्पष्ट रूप से किसी भी क्षेत्राधिकार में एक कानूनी इकाई के रूप में मौजूद नहीं है, इसका कोई भौतिक पता नहीं है, और इसमें कोई नामित कर्मचारी नहीं है और इसकी किसी भी रिपोर्ट पर कोई बायलाइन नहीं है। इसके उपयोग की शर्तें "उस राज्य के कानूनों द्वारा शासित होती हैं जिसमें संस्थान स्थापित है" - एक ऐसा राज्य जिसका नाम दस्तावेज़ में बताने से इनकार किया गया है।

उत्पादन का पैमाना औद्योगिक था। 6 अगस्त से 14 अगस्त के बीच, हनोवर इंस्टीट्यूट ने 560,000 शब्दों से अधिक की कुल 124 रिपोर्टें प्रकाशित कीं, जिनमें से प्रत्येक में औसतन लगभग 4,500 शब्द थे। अकेले 12 और 13 अगस्त को इसने लगभग 354,000 शब्दों की 73 रिपोर्टें तैयार कीं। साइट के बारे में पहली मीडिया रिपोर्ट सामने आने के बाद से कुछ भी प्रकाशित नहीं किया गया है।

चैटबॉट उत्तर परत के लिए इंजीनियर किया गया

जो चीज़ इस ऑपरेशन को उपन्यास के रूप में चिह्नित करती है वह है इसका लक्ष्यीकरण। 124 शीर्षकों में से एक को छोड़कर सभी एक प्रश्न के साथ खुलते हैं जो एक उपयोगकर्ता द्वारा चैटबॉट में टाइप किए जाने वाले प्रश्न से मिलता जुलता है - "क्या यहूदीवाद विरोधी यहूदी विरोधी भावना है?", "क्या इज़राइल ने फ़िलिस्तीनियों को उनकी भूमि से निष्कासित कर दिया?", "क्या इज़राइल गाजा में नरसंहार कर रहा है?" रिपोर्ट फ़िलिस्तीनी कैदियों पर अत्याचार, युद्ध अपराध और गाजा में भुखमरी पर इज़राइल की स्थिति को तटस्थ शोध के रूप में प्रस्तुत करती है, जिसे मशीन पुनर्प्राप्ति के लिए तैयार किया गया है।

यांत्रिकी को आधिकारिक फाइलिंग में प्रलेखित किया गया है। न्यूयॉर्क मीडिया प्रोडक्शन कंपनी पीरो इंक ने इस महीने विदेशी एजेंट पंजीकरण अधिनियम (फ़ारा) के तहत अमेरिकी न्याय विभाग के साथ साइट को पंजीकृत किया, 1938 का एक कानून जिसमें विदेशी सरकारों के लिए काम का खुलासा करने की आवश्यकता होती है, क्योंकि वह सामग्री को इजरायली सरकार के लिए वितरित करता है। गार्जियन की रिपोर्ट है कि इस प्रयास को इज़राइली सरकार से करोड़ों डॉलर का वित्त पोषण मिला है, जो यूरोपीय विज्ञापन समूह हवास मीडिया सहित तीसरे पक्षों के माध्यम से किया गया है। हवास और अभियान पर काम करने वाली एक अन्य अमेरिकी फर्म के बीच एक अनुबंध "जीपीटी वार्तालापों पर जीपीटी फ्रेमिंग परिणाम देने के लिए वेबसाइटों और सामग्री की तैनाती" के लिए प्रतिबद्ध है।

14 अगस्त को पहली बार साइट के अस्तित्व की सूचना मिलने के बाद, संस्थान ने चुपचाप एक फंडिंग पेज जोड़ा जिसमें एक स्पष्ट सुधार था: "इस पेज के एक पुराने संस्करण में कहा गया था कि संस्थान बाहरी फंडिंग के बिना संचालित होता है, और जब यह लिखा गया था तो यह सच था।" द गार्जियन ने टिप्पणी के लिए पीरो इंक, हवास मीडिया और इजरायली सरकारी विज्ञापन एजेंसी लापाम से संपर्क किया।

चैटबॉट नया युद्धक्षेत्र क्यों हैं

मार्केटिंग उद्योग में इस रणनीति का एक नाम है - जेनरेटिव इंजन ऑप्टिमाइज़ेशन, या GEO - और यह सर्च इंजन ऑप्टिमाइज़ेशन का उत्तराधिकारी अनुशासन है। जब कोई चैटबॉट किसी प्रश्न का उत्तर देता है, तो वह अपने प्रशिक्षण कोष और पुनर्प्राप्ति स्रोतों का उपयोग करता है। जो सामग्री विशाल, प्रश्न-स्वरूपित और आधिकारिक शोध के रूप में शैलीबद्ध है, उसके मॉडल के उत्तर में सामने आने, उद्धृत होने या समाहित होने की अधिक संभावना है। एक नकली थिंकटैंक लगभग आदर्श GEO कलाकृति है: किसी संस्थान के बिना संस्थागत विश्वसनीयता।

समय परिष्कार के साथ-साथ हताशा को भी दर्शाता है। द गार्जियन का कहना है कि यह अभियान तब शुरू हुआ है जब अमेरिकी जनमत में इजरायल की स्थिति कमजोर हो गई है, और इजरायली अधिकारियों ने मीडिया आउटलेट्स को बताया कि विदेशों में "हस्बारा" सार्वजनिक कूटनीति पर खर्च किया गया पैसा बर्बाद हो गया है।

हनोवर इंस्टीट्यूट कोई अलग मामला नहीं है. जिस दिन गार्जियन ने अपनी जांच प्रकाशित की, उसी दिन ओपनएआई ने घोषणा की कि उसने एआई का उपयोग करके एक नए गुप्त रूसी प्रभाव अभियान को बाधित कर दिया है - कंपनी ने राज्य से जुड़े अभिनेताओं को जिम्मेदार ठहराया है। दो अलग-अलग ऑपरेशन, दो महाद्वीप, एक साझा अंतर्दृष्टि: लोगों को सीधे प्रभावित करने की तुलना में मॉडल को प्रभावित करना अब सस्ता और अधिक टिकाऊ है।

शासन का अंतर

नियामकों के लिए, यह मामला मौजूदा ढांचे में एक छेद को उजागर करता है। फ़ारा प्रकटीकरण ने कागज़ पर ऑपरेशन को पकड़ लिया, लेकिन सामग्री के लाइव होने और संभावित रूप से ग्रहण किए जाने के बाद ही। ईयू एआई अधिनियम के पारदर्शिता प्रावधान और प्रशिक्षण डेटा उद्गम को नियंत्रित करने वाले स्वैच्छिक ढांचे ऐसी दुनिया के लिए डिज़ाइन नहीं किए गए थे जहां आबादी के विश्वासों का सबसे सस्ता रास्ता उसके चैटबॉट्स के माध्यम से चलता है।

एआई प्रयोगशालाओं के लिए, परिचालन प्रश्न तत्काल है: पुनर्प्राप्ति प्रणाली और प्रशिक्षण पाइपलाइन अनुसंधान पोशाक पहनने वाले सामग्री फार्मों से अनुसंधान को कैसे अलग करते हैं? वॉल्यूम, फ़ॉर्मेटिंग, और आश्वस्त उद्धरण - अधिकार के संकेत - बिल्कुल वही हैं जो हनोवर इंस्टीट्यूट ने बड़े पैमाने पर उत्पादित किए हैं। जब तक मॉडल उत्पत्ति में बेहतर नहीं हो जाते, तब तक आधे मिलियन शब्द पहले से ही उपलब्ध हैं, और तथ्य को याद करने के बाद कोई खुलासा दायर नहीं किया गया है।

---

एआई से आगे रहें

नवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।

अधिक AI समाचार पढ़ें →