اسرائیلی حکومت کی جانب سے بنائے گئے ایک جعلی تھنک ٹینک نے صرف ایک ہفتے کے دوران 100 سے زیادہ پالش شدہ تحقیقی رپورٹس شائع کی ہیں، جن میں تجزیہ کاروں نے AI چیٹ بوٹس کے ذریعے اسرائیل اور فلسطین کے بارے میں صارفین کو دیے جانے والے جوابات سے ہیرا پھیری کرنے کی ایک جان بوجھ کر مہم قرار دیا ہے، ایک تحقیقات کے مطابق جو پیر کو ذمہ دار سٹیٹ کرافٹ کی طرف سے شائع کی گئی تھی۔

ہینوور انسٹی ٹیوٹ فار پبلک پالیسی کہلانے والی یہ تنظیم خود کو اسرائیل/فلسطین پر مرکوز ایک نئی ریسرچ باڈی کے طور پر پیش کرتی ہے۔ لیکن اس کی رپورٹس میں کوئی ضمنی خطوط نہیں ہے، اور اس کی ویب سائٹ کے نچلے حصے میں ایک تردید اس بات کو تسلیم کرتی ہے کہ اسے اسرائیلی حکومت کی اشتہاری ایجنسی کی جانب سے Piro, Inc. کی جانب سے بنایا گیا تھا، جس کی بانی ایک فرم ڈینیئل روزن برگ نے کی تھی، جو اسپائیک لی کی "انسائیڈ مین" پر کریڈٹ دیا گیا فلم پروڈیوسر ہے۔ اس کہانی کو عرب نیوز اور دی کریڈل سمیت آؤٹ لیٹس نے اٹھایا، اور یہ تازہ ترین علامت ہے کہ اثر و رسوخ کی کارروائیاں سوشل میڈیا فیڈز سے AI ماڈلز میں منتقل ہو رہی ہیں۔ AI دور میں ہیرا پھیری کیسے تیار ہو رہی ہے اس کے بارے میں مزید جاننے کے لیے، ہماری بریکنگ AI نیوز کوریج کو فالو کریں۔ For more context on this story, see our ongoing artificial intelligence updates.

LLMs کی ساکھ کو کیسے جج کرتے ہیں اس کے لیے تیار کردہ رپورٹس

ہینوور انسٹی ٹیوٹ کو جو چیز غیر معمولی بناتی ہے وہ یہ ہے کہ اس کا آؤٹ پٹ کس حد تک درست طریقے سے ظاہر ہوتا ہے جس طرح سے بڑے لینگویج ماڈل ذرائع کا جائزہ لیتے ہیں۔ اس کی "ڈیٹا رپورٹس" فوٹ نوٹ، مشمولات کے جدولوں، اور ایک ناپے ہوئے، غیر جانبدار لہجے کے ساتھ آتی ہیں - اس قسم کی فارمیٹنگ جو دستاویزات کو چیٹ بوٹس جیسے کلاڈ یا جیمنی کو اپیل کرنے میں مدد دیتی ہے، ذمہ دار اسٹیٹ کرافٹ نے رپورٹ کیا۔

بہت سے عنوانات کو صحیح سوالات کے طور پر بیان کیا گیا ہے جو صارف چیٹ بوٹ میں ٹائپ کر سکتا ہے: "1948 میں فلسطینیوں کی نقل مکانی کی وجہ کیا تھی؟" "کون انسانی تنظیموں نے اسرائیلی جنگی جرائم کی دستاویز کی ہے؟" "غزہ کی پٹی کی موجودہ صورتحال کیا ہے؟" اور "کیا IDF دنیا کی سب سے اخلاقی فوج ہے؟" - جن میں سے آخری 2022 کے سروے کا حوالہ دیتا ہے جس سے پتہ چلتا ہے کہ 47٪ اسرائیلی یہودی اس تفصیل پر یقین رکھتے ہیں۔

پیرو کی اپنی ویب سائٹ اس طریقہ کار کے بارے میں دو ٹوک ہے۔ کمپنی کا کہنا ہے کہ اس نے "ایل ایل ایمز کی ساکھ کا اندازہ کرنے کے لیے مواد تیار کیا ہے،" ایک ایسی سروس جسے یہ "AI Story Optimization" کے نام سے مارکیٹ کرتی ہے۔ محققین کے پاس اس مشق کے لیے ایک دو ٹوک نام ہے: "LLM زہر۔"

ایک معتبر ادارے کی 'پرفیکٹ مِمکری'

ڈس انفارمیشن ٹریکنگ کمپنی نیوز گارڈ کے تجزیہ کار ایلس لی نے ریسپونسیبل سٹیٹ کرافٹ کو بتایا کہ سائٹ کی رپورٹس تنازعات کے بارے میں متجسس امریکی سامعین تک پہنچنے کے لیے بنائی گئی ہیں، چاہے سرچ انجنز یا AI معاونین کے ذریعے ہوں۔

"LLMs ٹھوس اعدادوشمار اور اعداد و شمار کے ساتھ ساتھ مضبوط حوالہ جات اور ذرائع کی حمایت کرتے ہیں، جو ان مضامین میں موجود ہیں،" لی نے کہا۔ "یہ ایک عام معتبر امریکی تھنک ٹینک کی مکمل نقل ہے، بالکل عام نام، سائٹ کی ترتیب، اور سرخ سفید نیلے رنگ کی سکیم تک۔"

انسٹی ٹیوٹ نے یہ بھی شائع کیا ہے جو اس کا دعویٰ ہے کہ وہ اصل نتائج ہیں - مثال کے طور پر، ایک مطالعہ جس میں دعویٰ کیا گیا ہے کہ اسرائیل-غزہ کے سب سے زیادہ دیکھے جانے والے 36 میں سے 19 وضاحتی ویڈیوز میں متنازعہ دعوے ہیں، جن میں سے زیادہ تر دعویٰ فلسطینی بیانیہ کے مطابق ہیں۔ دیگر رپورٹس قائم شدہ دستاویزات کے خلاف پیچھے ہٹتی ہیں، بشمول ایک جو یونیسیف کے اس دعوے پر شک کرتی ہے کہ غزہ میں 90% پانی اور ادارہ جاتی انفراسٹرکچر کو نقصان پہنچا یا تباہ ہو گیا ہے۔

خاص طور پر، آؤٹ پٹ ہمیشہ اسرائیلی حکومت کی لائن کو ٹریک نہیں کرتا ہے۔ ایک رپورٹ میں اس نظریہ کی وضاحت کی گئی ہے کہ یونیورسٹیوں کی غیر ملکی فنڈنگ ​​سام دشمنی کے واقعات کو "کمزور اور مستثنیات سے بھرپور" کے طور پر بیان کرتی ہے - حالانکہ وزیر اعظم بنجمن نیتن یاہو نے اس نظریہ کو فروغ دیا ہے، بریٹ بارٹ کو بتایا ہے کہ غیر ملکی اداکاروں نے امریکی کیمپس میں "اربوں" خرچ کیے ہیں۔ بہت سی رپورٹیں اس موضوع کو بڑھتے ہوئے سام دشمنی سے جوڑ کر نتیجہ اخذ کرتی ہیں، اکثر ایک ہی مطالعات کا حوالہ دیتے ہیں۔

رقم کی پیروی کریں: $900,000 فرانسیسی PR جماعت کے ذریعے

Responsible Statecraft کے مطابق، Piro، Inc نے اپنے کام کے لیے اسرائیلی حکومت سے $900,000 وصول کیے ہیں، جو فرانسیسی تعلقات عامہ کے ایک گروپ Havas Media کے ذریعے ذیلی معاہدہ کیا گیا ہے - ایک ایسا انتظام جس سے دوسرے اسرائیلی ٹھیکیداروں کو بیرون ملک اثر و رسوخ کے کام کے لیے ادائیگی کی جاتی ہے۔

ہینوور انسٹی ٹیوٹ نے 6 اگست کو اشاعت شروع کی۔ اس کے بعد سے تقریباً دس دنوں میں، اس نے 100 سے زیادہ رپورٹیں تیار کیں، یہ ایک ایسی رفتار ہے جس کا موازنہ کرنے والی کوئی حقیقی پالیسی شاپ برقرار نہیں رہتی۔

چیٹ بوٹ ہیرا پھیری مختلف کیوں ہے۔

یہ کیس ایک ساختی کمزوری کی نشاندہی کرتا ہے کہ AI معاونین جوابات کو کس طرح جمع کرتے ہیں: وہ اچھی طرح سے حوالہ شدہ، اعداد و شمار سے بھرپور دستاویزات کو قابل اعتبار سمجھتے ہیں اس سے قطع نظر کہ انہیں کس نے تیار کیا یا کیوں۔ روایتی غلط معلومات نے سماجی پلیٹ فارمز پر انسانی قارئین کو نشانہ بنایا، جہاں جذباتی پنچ سب سے زیادہ اہمیت رکھتا تھا۔ نام نہاد LLM پوائزننگ اس کے بجائے بازیافت اور درجہ بندی کی تہوں کو نشانہ بناتی ہے جو یہ فیصلہ کرتی ہے کہ ماڈل کون سے ذرائع کا حوالہ دیتا ہے — اور ایک ہی قائل کرنے والی دستاویز پھر لاکھوں جوابات میں گونج سکتی ہے۔

چیٹ بوٹ ڈویلپرز کے لیے، ہینوور انسٹی ٹیوٹ ماخذ کی جانچ کا ایک تناؤ کا امتحان ہے۔ NewsGuard کی تشخیص سے پتہ چلتا ہے کہ نقل خودکار ساکھ کے اشاروں کو بے وقوف بنانے کے لیے کافی قریب ہے۔ قارئین کے لیے، سبق آسان ہے: چیٹ بوٹ آپ کو ایک متنازعہ تنازعہ کے بارے میں جو پراعتماد، اچھی طرح سے فوٹ نوٹ کردہ جواب دیتا ہے وہ کسی ایسی تنظیم کا پتہ لگا سکتا ہے جو بالکل وہی جواب تیار کرنے کے لیے بنائی گئی، برانڈڈ، اور فنڈ فراہم کی گئی تھی۔

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →