रिस्पॉन्सिबल स्टेटक्राफ्ट द्वारा सोमवार को प्रकाशित एक जांच के अनुसार, इजरायली सरकार की ओर से बनाए गए एक नकली थिंक टैंक ने सिर्फ एक हफ्ते में 100 से अधिक परिष्कृत शोध रिपोर्ट प्रकाशित की हैं, जिसे विश्लेषकों ने इजरायल और फिलिस्तीन के बारे में एआई चैटबॉट द्वारा उपयोगकर्ताओं को दिए जाने वाले उत्तरों में हेरफेर करने के लिए एक जानबूझकर अभियान के रूप में वर्णित किया है।

हनोवर इंस्टीट्यूट फॉर पब्लिक पॉलिसी नामक संगठन, खुद को इज़राइल/फिलिस्तीन पर केंद्रित एक नए शोध निकाय के रूप में प्रस्तुत करता है। लेकिन इसकी रिपोर्टों में कोई बायलाइन नहीं है, और इसकी वेबसाइट के नीचे एक अस्वीकरण यह स्वीकार करता है कि इसे इज़राइली सरकारी विज्ञापन एजेंसी की ओर से पिरो, इंक. द्वारा बनाया गया था, जो स्पाइक ली के "इनसाइड मैन" के फिल्म निर्माता डैनियल रोसेनबर्ग द्वारा सह-संस्थापक है। इस कहानी को अरब न्यूज़ और द क्रैडल सहित आउटलेट्स द्वारा उठाया गया था, और यह नवीनतम संकेत है कि प्रभाव संचालन सोशल मीडिया फ़ीड से एआई मॉडल में स्थानांतरित हो रहा है। एआई युग में हेरफेर कैसे विकसित हो रहा है, इस पर अधिक जानकारी के लिए हमारे ब्रेकिंग एआई समाचार कवरेज का अनुसरण करें। For more context on this story, see our ongoing artificial intelligence updates.

एलएलएम विश्वसनीयता कैसे आंकते हैं, इसके लिए इंजीनियर की गई रिपोर्ट

जो चीज़ हनोवर इंस्टीट्यूट को असामान्य बनाती है वह यह है कि बड़े भाषा मॉडल जिस तरह से स्रोतों का मूल्यांकन करते हैं, उसके अनुरूप इसका आउटपुट कितना सटीक दिखता है। इसकी "डेटा रिपोर्ट" फ़ुटनोट्स, सामग्री की तालिकाओं और एक मापा, तटस्थ स्वर के साथ आती है - उस प्रकार का स्वरूपण जो दस्तावेज़ों को क्लाउड या जेमिनी जैसे चैटबॉट्स को आकर्षित करने में मदद करता है, रिस्पॉन्सिबल स्टेटक्राफ्ट ने बताया।

कई शीर्षकों को सटीक प्रश्नों के रूप में प्रस्तुत किया गया है जो एक उपयोगकर्ता चैटबॉट में टाइप कर सकता है: "1948 में फ़िलिस्तीनियों के विस्थापन का कारण क्या था?" "किन मानवतावादी संगठनों ने इज़रायली युद्ध अपराधों का दस्तावेजीकरण किया है?" "गाजा पट्टी में वर्तमान स्थिति क्या है?" और "क्या आईडीएफ दुनिया की सबसे नैतिक सेना है?" - जिनमें से अंतिम में 2022 के सर्वेक्षण का हवाला दिया गया है कि 47% इजरायली यहूदियों ने उस विवरण पर विश्वास किया।

पीरो की अपनी वेबसाइट इस पद्धति के बारे में स्पष्ट है। कंपनी का कहना है कि वह "एलएलएम विश्वसनीयता का मूल्यांकन कैसे करती है, इसके लिए सामग्री तैयार करती है," एक सेवा जिसे वह "एआई स्टोरी ऑप्टिमाइजेशन" के रूप में विपणन करती है। शोधकर्ताओं के पास अभ्यास के लिए एक स्पष्ट नाम है: "एलएलएम विषाक्तता।"

एक विश्वसनीय संस्थान की 'परफेक्ट मिमिक्री'

दुष्प्रचार पर नज़र रखने वाली कंपनी न्यूज़गार्ड के एक विश्लेषक ऐलिस ली ने रिस्पॉन्सिबल स्टेटक्राफ्ट को बताया कि साइट की रिपोर्ट संघर्ष के बारे में उत्सुक अमेरिकी दर्शकों तक पहुंचने के लिए डिज़ाइन की गई है, चाहे वह खोज इंजन या एआई सहायकों के माध्यम से हो।

ली ने कहा, "एलएलएम ठोस आंकड़ों और डेटा के साथ-साथ मजबूत उद्धरणों और स्रोतों का समर्थन करते हैं, जो इन सभी लेखों में हैं।" "यह सामान्य नाम, साइट लेआउट और लाल-सफेद-नीले रंग योजना के ठीक नीचे एक विशिष्ट विश्वसनीय अमेरिकी थिंक टैंक की एक आदर्श नकल है।"

संस्थान ने यह भी प्रकाशित किया है कि वह जो दावा करता है वह मूल निष्कर्ष है - उदाहरण के लिए, एक अध्ययन में दावा किया गया है कि 36 सबसे ज्यादा देखे जाने वाले इज़राइल-गाजा व्याख्याता वीडियो में से 19 में विवादित दावे हैं, जिनमें से अधिकतर विवादित दावे फिलिस्तीनी कथा के साथ संरेखित हैं। अन्य रिपोर्टें स्थापित दस्तावेज़ों के ख़िलाफ़ हैं, जिनमें से एक रिपोर्ट यूनिसेफ के इस दावे पर संदेह जताती है कि गाजा में 90% पानी और संस्थागत बुनियादी ढाँचा क्षतिग्रस्त या नष्ट हो गया है।

विशेष रूप से, आउटपुट हमेशा इज़रायली सरकार की लाइन को ट्रैक नहीं करता है। एक रिपोर्ट इस सिद्धांत का वर्णन करती है कि विश्वविद्यालयों की विदेशी फंडिंग यहूदी विरोधी घटनाओं को "कमजोर और अपवादों से भरी" बताती है - भले ही प्रधान मंत्री बेंजामिन नेतन्याहू ने उस सिद्धांत को बढ़ावा दिया है, ब्रेइटबार्ट को बताया कि विदेशी अभिनेताओं ने अमेरिकी परिसरों पर "अरबों" खर्च किए हैं। कई रिपोर्टें इस विषय को बढ़ती यहूदी विरोधी भावना से जोड़कर निष्कर्ष निकालती हैं, अक्सर उन्हीं अध्ययनों का हवाला देते हुए।

पैसे का पालन करें: एक फ्रांसीसी पीआर समूह के माध्यम से $900,000

रिस्पॉन्सिबल स्टेटक्राफ्ट के अनुसार, पीरो, इंक. को अपने काम के लिए इजरायली सरकार से 900,000 डॉलर प्राप्त हुए हैं, जो एक फ्रांसीसी जनसंपर्क समूह हवास मीडिया के माध्यम से उप-ठेके पर दिया गया है - यह व्यवस्था विदेशी प्रभाव वाले काम के लिए अन्य इजरायली ठेकेदारों को भुगतान करने के तरीके के अनुरूप है।

हनोवर इंस्टीट्यूट ने 6 अगस्त को प्रकाशन शुरू किया था। तब से लगभग दस दिनों में, इसने 100 से अधिक रिपोर्ट तैयार की हैं, एक ऐसी गति जो तुलनीय आकार की कोई भी वास्तविक पॉलिसी शॉप कायम नहीं रख सकती है।

चैटबॉट हेरफेर अलग क्यों है

यह मामला एआई सहायकों द्वारा उत्तरों को इकट्ठा करने के तरीके में एक संरचनात्मक कमजोरी को रेखांकित करता है: वे अच्छी तरह से उद्धृत, सांख्यिकी-भारी दस्तावेजों को विश्वसनीय मानते हैं, भले ही उन्हें किसने या क्यों बनाया हो। पारंपरिक दुष्प्रचार ने सामाजिक मंचों पर मानव पाठकों को लक्षित किया, जहां भावनात्मक आघात सबसे अधिक मायने रखता था। तथाकथित एलएलएम विषाक्तता इसके बजाय पुनर्प्राप्ति और रैंकिंग परतों को लक्षित करती है जो यह तय करती है कि मॉडल किस स्रोत को उद्धृत करता है - और एक एकल प्रेरक दस्तावेज़ लाखों उत्तरों में प्रतिध्वनित हो सकता है।

चैटबॉट डेवलपर्स के लिए, हनोवर इंस्टीट्यूट स्रोत जांच का एक तनाव परीक्षण है। न्यूज़गार्ड के आकलन से पता चलता है कि नकल स्वचालित विश्वसनीयता संकेतों को मूर्ख बनाने के लिए काफी करीब है। पाठकों के लिए, पाठ सरल है: एक चैटबॉट आपको किसी विवादित संघर्ष के बारे में जो आत्मविश्वासपूर्ण, अच्छी तरह से फुटनोट उत्तर देता है, वह उस संगठन का पता लगा सकता है जिसे ठीक उसी उत्तर देने के लिए बनाया गया था, ब्रांडेड किया गया था और वित्त पोषित किया गया था।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →