गेल्या आठवड्यात प्रथम उघडकीस आलेली बनावट यूएस थिंकटँक आता गार्डियनने परिमाणित केली आहे: नऊ दिवसांत १२४ अहवाल आणि ५६०,००० शब्द, एका व्यावसायिक व्यासपीठावर तयार केले गेले आहे जे सामग्री ऑप्टिमाइझ करण्याचे वचन देते जेणेकरून AI चॅटबॉट्स ते उद्धृत करतील — यूएस न्याय विभागाच्या फाइलिंगमध्ये दस्तऐवजीकरण केलेल्या इस्रायली सरकारच्या निधी ट्रेलसह. राज्य-संबंधित अभिनेत्यांनी AI उत्तर स्तरावरच लक्ष्य केले याचे हे सर्वात स्पष्ट सार्वजनिक उदाहरण आहे: वाचक नाही, तर त्यांच्यासाठी अधिकाधिक बोलणारे मॉडेल. आमच्या एआय उद्योग कव्हरेज चॅटबॉट मॅनिप्युलेशन इंडस्ट्रीयल म्हणून ट्रॅक करते अशा प्रकारची ही कथा आहे. (आम्ही साइटचा प्रारंभिक शोध [येथे] कव्हर केला (https://aibuzzwire.news/en/article/israel-hanover-institute-fake-think-tank-llm-poisoning-chatbots).)

एक थिंकटँक जो अस्तित्वात नाही

साइट हॅनोवर इन्स्टिट्यूट फॉर पब्लिक पॉलिसी या नावाने प्रकाशित करते. गार्डियनच्या जेसन विल्सनच्या म्हणण्यानुसार, संस्था कोणत्याही अधिकारक्षेत्रात कायदेशीर अस्तित्व म्हणून अस्तित्वात नाही, तिचा कोणताही भौतिक पत्ता नाही आणि तिच्या कोणत्याही अहवालावर कोणतेही नामांकित कर्मचारी किंवा उपलाइन नाहीत. त्याच्या स्वत:च्या वापराच्या अटी "ज्या राज्यामध्ये संस्था स्थापन झाली आहे" - अशा राज्याच्या कायद्यांद्वारे शासित आहेत - दस्तऐवज नाव देण्यास नकार देते.

उत्पादनाचे प्रमाण औद्योगिक होते. 6 ऑगस्ट ते 14 ऑगस्ट दरम्यान, हॅनोव्हर संस्थेने एकूण 560,000 शब्दांपेक्षा जास्त, प्रत्येकी सरासरी 4,500 शब्दांचे 124 अहवाल प्रकाशित केले. एकट्या 12 आणि 13 ऑगस्ट रोजी सुमारे 354,000 शब्दांचे 73 अहवाल तयार केले. साइटबद्दल प्रथम मीडिया अहवाल दिसू लागल्यापासून काहीही प्रकाशित केले गेले नाही.

चॅटबॉट उत्तर स्तरासाठी अभियंता

ऑपरेशनला कादंबरी म्हणून काय चिन्हांकित करते ते त्याचे लक्ष्य आहे. 124 मथळ्यांपैकी एक सोडून इतर सर्व चॅटबॉटमध्ये वापरकर्त्याने टाइप करू शकणाऱ्या प्रश्नासह उघडतात — "झायोनिझम विरोधी सेमेटिझम आहे का?", "इस्राएलने पॅलेस्टिनींना त्यांच्या भूमीतून बाहेर काढले का?", "इस्राएल गाझामध्ये नरसंहार करत आहे का?" अहवालात पॅलेस्टिनी कैद्यांचा छळ, युद्ध गुन्हे आणि गाझामधील उपासमारीवर इस्रायलची भूमिका तटस्थ संशोधन म्हणून मांडली गेली आहे, मशीन पुनर्प्राप्तीसाठी स्वरूपित केले आहे.

यांत्रिकी अधिकृत फाइलिंगमध्ये दस्तऐवजीकरण केल्या आहेत. न्यूयॉर्क मीडिया प्रोडक्शन कंपनी Piro Inc ने या महिन्यात यूएस जस्टिस डिपार्टमेंटमध्ये फॉरेन एजंट रजिस्ट्रेशन ॲक्ट (फारा) अंतर्गत साइटची नोंदणी केली आहे, 1938 च्या कायद्यानुसार परदेशी सरकारांसाठी काम उघड करणे आवश्यक आहे, ते इस्त्रायली सरकारसाठी वितरीत करते. द गार्डियनने अहवाल दिला आहे की या प्रयत्नांना इस्रायली सरकारकडून लाखो डॉलर्सचे वित्तपुरवठा केले जाते, जे युरोपियन जाहिरात समूह हवास मीडियासह तृतीय पक्षांद्वारे मार्गस्थ केले जाते. मोहिमेवर काम करणाऱ्या Havas आणि दुसऱ्या अमेरिकन फर्ममधील करार "GPT संभाषणांवर GPT फ्रेमिंग परिणाम वितरीत करण्यासाठी वेबसाइट आणि सामग्री तैनात करण्यासाठी" वचनबद्ध आहे.

14 ऑगस्ट रोजी साइटच्या अस्तित्वाची प्रथम नोंद झाल्यानंतर, संस्थेने शांतपणे एक निधी पृष्ठ जोडले ज्यामध्ये एक सांगणे दुरुस्त आहे: "या पृष्ठाच्या पूर्वीच्या आवृत्तीत असे म्हटले आहे की संस्था बाह्य निधीशिवाय कार्यरत आहे आणि जेव्हा ते लिहिले गेले तेव्हा ते खरे होते." गार्डियनने टिप्पणीसाठी Piro Inc, Havas Media आणि इस्रायली सरकारी जाहिरात एजन्सी LaPam यांच्याशी संपर्क साधला.

चॅटबॉट्स हे नवीन युद्धक्षेत्र का आहेत

रणनीतीला विपणन उद्योगात एक नाव आहे — जनरेटिव्ह इंजिन ऑप्टिमायझेशन, किंवा GEO — आणि ही शोध इंजिन ऑप्टिमायझेशनची उत्तराधिकारी आहे. जेव्हा चॅटबॉट एखाद्या प्रश्नाचे उत्तर देतो, तेव्हा ते त्याच्या प्रशिक्षण निधी आणि पुनर्प्राप्ती स्त्रोतांवर लक्ष केंद्रित करते. विपुल, प्रश्न-स्वरूपित आणि अधिकृत संशोधन म्हणून शैलीबद्ध केलेली सामग्री मॉडेलच्या उत्तरामध्ये समोर येण्याची, उद्धृत केलेली किंवा शोषली जाण्याची अधिक शक्यता असते. बनावट थिंकटँक ही जवळजवळ आदर्श GEO कलाकृती आहे: संस्थेशिवाय संस्थात्मक विश्वासार्हता.

वेळ सुसंस्कृतपणाइतकीच निराशा प्रतिबिंबित करते. गार्डियनने नमूद केले आहे की अमेरिकेच्या जनमतामध्ये इस्रायलची भूमिका कोलमडली आहे आणि इस्रायली अधिकाऱ्यांनी प्रसारमाध्यमांना माहिती दिली की परदेशात "हसबारा" सार्वजनिक मुत्सद्देगिरीवर खर्च केलेला पैसा वाया गेला आहे.

हॅनोव्हर इन्स्टिट्यूट ही एक वेगळी केस नाही. ज्या दिवशी गार्डियनने त्याचा तपास प्रकाशित केला त्याच दिवशी OpenAI ने घोषणा केली की त्यांनी AI वापरून नवीन गुप्त रशियन प्रभाव मोहीम व्यत्यय आणली आहे - कंपनीने राज्य-संबंधित अभिनेत्यांना श्रेय दिलेली काढण्याच्या मालिकेतील नवीनतम. दोन स्वतंत्र ऑपरेशन्स, दोन खंड, एक सामायिक अंतर्दृष्टी: लोकांवर थेट प्रभाव टाकण्यापेक्षा मॉडेल्सवर प्रभाव टाकणे आता स्वस्त आणि अधिक टिकाऊ आहे.

प्रशासनातील अंतर

नियामकांसाठी, केस विद्यमान फ्रेमवर्कमधील छिद्र उघड करते. फारा प्रकटीकरणाने ऑपरेशन कागदावर पकडले, परंतु सामग्री थेट आणि संभाव्यतः अंतर्ग्रहण झाल्यानंतरच. EU AI कायद्याच्या पारदर्शकता तरतुदी आणि स्वयंसेवी फ्रेमवर्क प्रशिक्षण डेटा प्रोव्हेन्स नियंत्रित करणाऱ्या जगासाठी डिझाइन केलेले नाहीत जिथे लोकसंख्येच्या विश्वासाचा सर्वात स्वस्त मार्ग त्याच्या चॅटबॉट्सद्वारे चालतो.

एआय लॅबसाठी, ऑपरेशनल प्रश्न तात्काळ आहे: पुनर्प्राप्ती प्रणाली आणि प्रशिक्षण पाइपलाइन संशोधन कपडे परिधान केलेल्या सामग्री फार्मपासून संशोधन कसे वेगळे करतात? व्हॉल्यूम, फॉरमॅटिंग आणि आत्मविश्वासपूर्ण उद्धरणे — अधिकाराचे संकेत — हे हॅनोव्हर संस्थेने मोठ्या प्रमाणात उत्पादित केले आहेत. जोपर्यंत मॉडेल्सची उत्पत्ती चांगली होत नाही तोपर्यंत, अर्धा दशलक्ष शब्द आधीच बाहेर आहेत आणि वस्तुस्थिती आठवल्यानंतर कोणतेही प्रकटीकरण दाखल केले जात नाही.

---

एआयच्या पुढे राहा

नवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.

अधिक AI बातम्या वाचा →