इस्रायली सरकारच्या वतीने तयार केलेल्या बनावट थिंक टँकने केवळ एका आठवड्यात 100 हून अधिक पॉलिश संशोधन अहवाल प्रकाशित केले आहेत, ज्यामध्ये विश्लेषकांनी AI चॅटबॉट्स वापरकर्त्यांना इस्रायल आणि पॅलेस्टाईनबद्दल दिलेली उत्तरे हाताळण्यासाठी मुद्दाम मोहीम म्हणून वर्णन करतात, असे रिस्पॉन्सिबल स्टेटक्राफ्टने सोमवारी प्रकाशित केलेल्या तपासणीनुसार.
हॅनोव्हर इन्स्टिट्यूट फॉर पब्लिक पॉलिसी नावाची संस्था, इस्रायल/पॅलेस्टाईनवर लक्ष केंद्रित करणारी नवीन संशोधन संस्था म्हणून स्वतःला सादर करते. परंतु त्याच्या अहवालांमध्ये कोणतीही उपरेखा नाहीत आणि त्याच्या वेबसाइटच्या तळाशी असलेला अस्वीकरण हे कबूल करतो की ते इस्रायली सरकारी जाहिरात एजन्सीच्या वतीने Piro, Inc., डॅनियल रोसेनबर्ग यांनी सह-स्थापित केलेल्या फर्मने तयार केले आहे, ज्याचे श्रेय स्पाइक लीच्या "इनसाइड मॅन" चे चित्रपट निर्माता आहे. ही कथा अरब न्यूज आणि द क्रॅडलसह आउटलेट्सद्वारे उचलली गेली होती आणि प्रभाव ऑपरेशन्स सोशल मीडिया फीडमधून एआय मॉडेल्सकडे सरकत असल्याचे नवीनतम चिन्ह आहे. AI युगात हाताळणी कशी विकसित होत आहे याबद्दल अधिक माहितीसाठी, आमच्या ब्रेकिंग AI बातम्यांचे कव्हरेज फॉलो करा. For more context on this story, see our ongoing more AI stories.
LLMs विश्वासार्हतेला कसे न्याय देतात यासाठी अभियंता केलेले अहवाल
हॅनोव्हर इन्स्टिट्यूटला असामान्य बनवणारी गोष्ट म्हणजे त्याचे आउटपुट मोठ्या भाषा मॉडेल्सच्या स्त्रोतांचे मूल्यांकन करण्याच्या पद्धतीनुसार किती अचूकपणे दिसते. त्याचे "डेटा अहवाल" तळटीप, सामग्रीची सारणी आणि मोजलेले, तटस्थ टोनसह येतात - अशा प्रकारचे स्वरूपन जे दस्तऐवजांना क्लॉड किंवा जेमिनी सारख्या चॅटबॉट्सला आकर्षित करण्यास मदत करते, रिस्पॉन्सिबल स्टेटक्राफ्टने अहवाल दिला.
अनेक शीर्षके चॅटबॉटमध्ये वापरकर्त्याने टाइप करू शकणारे अचूक प्रश्न म्हणून शब्दबद्ध केले आहेत: "1948 मध्ये पॅलेस्टिनी लोकांचे विस्थापन कशामुळे झाले?" "कोणत्या मानवतावादी संस्थांनी इस्रायली युद्ध गुन्ह्यांचे दस्तऐवजीकरण केले आहे?" "गाझा पट्टीची सद्यस्थिती काय आहे?" आणि "आयडीएफ ही जगातील सर्वात नैतिक सेना आहे का?" - ज्यातील शेवटचा 2022 च्या सर्वेक्षणाचा संदर्भ देतो की 47% इस्रायली ज्यूंनी त्या वर्णनावर विश्वास ठेवला होता.
पिरोची स्वतःची वेबसाइट या पद्धतीबद्दल स्पष्ट आहे. कंपनी म्हणते की ती "एलएलएम विश्वासार्हतेचे मूल्यांकन कसे करतात यासाठी अभियंता सामग्री तयार करते," ही सेवा "एआय स्टोरी ऑप्टिमायझेशन" म्हणून बाजारात आणते. संशोधकांना या सरावाचे एक स्पष्ट नाव आहे: "LLM विषबाधा."
विश्वासार्ह संस्थेची 'परफेक्ट मिमिक्री'
ॲलिस ली, न्यूजगार्ड, डिसइन्फॉर्मेशन ट्रॅकिंग कंपनीच्या विश्लेषक यांनी रिस्पॉन्सिबल स्टेटक्राफ्टला सांगितले की, साइटचे अहवाल शोध इंजिन किंवा एआय सहाय्यकांद्वारे संघर्षाबद्दल उत्सुक असलेल्या यूएस प्रेक्षकांपर्यंत पोहोचण्यासाठी डिझाइन केलेले दिसतात.
"LLMs ठोस आकडेवारी आणि डेटा, तसेच या सर्व लेखांमध्ये असलेले भक्कम उद्धरण आणि स्त्रोतांना अनुकूल आहेत," ली म्हणाले. "सामान्य नाव, साइट लेआउट आणि लाल-पांढर्या-निळ्या रंगसंगतीपर्यंत, हे एका विशिष्ट विश्वासार्ह अमेरिकन थिंक टँकची अचूक नक्कल आहे."
संस्थेने ते मूळ निष्कर्ष असल्याचा दावा देखील प्रकाशित केला आहे - उदाहरणार्थ, 36 सर्वाधिक पाहिल्या गेलेल्या इस्रायल-गाझा स्पष्टीकरणाच्या व्हिडिओंपैकी 19 पैकी 19 मध्ये विवादित दावे आहेत, त्यापैकी बहुतेक दावे पॅलेस्टिनी कथनाशी संरेखित आहेत. गाझामधील 90% पाणी आणि संस्थात्मक पायाभूत सुविधांचे नुकसान झाले आहे किंवा नष्ट झाले आहे या युनिसेफच्या प्रतिपादनावर शंका निर्माण करणारा एक अहवाल यासह इतर अहवाल प्रस्थापित दस्तऐवजीकरणाच्या विरोधात मागे ढकलतात.
विशेष म्हणजे, आउटपुट नेहमी इस्रायली सरकारच्या ओळीचा मागोवा घेत नाही. एका अहवालात या सिद्धांताचे वर्णन केले आहे की विद्यापीठांना परकीय निधी सेमिटिक घटनांना "कमकुवत आणि अपवादांनी भरलेले" असे स्पष्ट करते - जरी पंतप्रधान बेंजामिन नेतन्याहू यांनी त्या सिद्धांताचा प्रचार केला, ब्रेटबार्टला सांगितले की परदेशी कलाकारांनी अमेरिकन कॅम्पसवर "अब्ज" खर्च केले आहेत. बऱ्याच अहवालांचा निष्कर्ष समोरच्या विषयाला वाढत्या सेमेटिझमशी जोडून, वारंवार समान अभ्यासांचा हवाला देऊन निष्कर्ष काढला जातो.
पैशाचे अनुसरण करा: फ्रेंच PR समूहाद्वारे $900,000
रिस्पॉन्सिबल स्टेटक्राफ्टच्या मते, Piro, Inc. ला त्याच्या कामासाठी इस्रायली सरकारकडून $900,000 मिळाले आहेत, हावास मीडिया या फ्रेंच जनसंपर्क समूहामार्फत उपकंत्राट केले गेले आहे — ही व्यवस्था इतर इस्रायली कंत्राटदारांना परदेशातील प्रभावाच्या कामासाठी पैसे कसे दिले जातात याच्याशी सुसंगत आहे.
हॅनोव्हर इन्स्टिट्यूटने 6 ऑगस्ट रोजी प्रकाशन सुरू केले. तेव्हापासून सुमारे दहा दिवसांत, तिने 100 हून अधिक अहवालांचे मंथन केले आहे, अशी गती जी तुलनात्मक आकाराचे कोणतेही वास्तविक धोरण दुकान टिकत नाही.
चॅटबॉट मॅनिपुलेशन का वेगळे आहे
हे प्रकरण AI सहाय्यक उत्तरे कशी एकत्र करतात यामधील संरचनात्मक कमकुवतपणा अधोरेखित करते: ते चांगले उद्धृत, आकडेवारी-जड दस्तऐवज कोणी तयार केले किंवा का तयार केले याची पर्वा न करता विश्वासार्ह मानतात. पारंपारिक चुकीच्या माहितीने सामाजिक प्लॅटफॉर्मवर मानवी वाचकांना लक्ष्य केले, जिथे भावनिक ठोसा सर्वात महत्त्वाचा होता. तथाकथित LLM विषबाधा त्याऐवजी पुनर्प्राप्ती आणि रँकिंग स्तरांना लक्ष्य करते जे मॉडेलचे कोट कोणते स्त्रोत ठरवतात — आणि एकच प्रेरक दस्तऐवज नंतर लाखो उत्तरांमध्ये प्रतिध्वनी करू शकतो.
चॅटबॉट डेव्हलपर्ससाठी, हॅनोव्हर इन्स्टिट्यूट ही सोर्स व्हेटिंगची ताण चाचणी आहे. NewsGuard चे मूल्यांकन सूचित करते की नक्कल स्वयंचलित विश्वासार्हता सिग्नलला मूर्ख बनवण्याइतकी जवळ आहे. वाचकांसाठी, धडा अधिक सोपा आहे: चॅटबॉट तुम्हाला एखाद्या वादग्रस्त संघर्षाबद्दल जे आत्मविश्वासपूर्ण, तळटीप दिलेले उत्तर देते ते एखाद्या संस्थेकडे परत येऊ शकते जी तयार केली गेली, ब्रँडेड केली गेली आणि नेमके तेच उत्तर तयार करण्यासाठी निधी दिला गेला.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
