نشر مركز أبحاث مزيف تم إنشاؤه نيابة عن الحكومة الإسرائيلية أكثر من 100 تقرير بحثي مصقول في ما يزيد قليلاً عن أسبوع، فيما وصفه المحللون بأنه حملة متعمدة للتلاعب بالإجابات التي تقدمها روبوتات الدردشة التي تعمل بالذكاء الاصطناعي للمستخدمين حول إسرائيل وفلسطين، وفقًا لتحقيق نشرته يوم الاثنين مؤسسة Responsible Statecraft.

وتقدم المنظمة، التي تسمى معهد هانوفر للسياسة العامة، نفسها كهيئة بحثية جديدة تركز على إسرائيل/فلسطين. لكن تقاريرها لا تحتوي على أي خطوط فرعية، ويقر إخلاء المسؤولية الموجود أسفل موقعها الإلكتروني بأنها تم إنشاؤها نيابة عن وكالة الإعلانات الحكومية الإسرائيلية بواسطة شركة Piro, Inc.، وهي شركة شارك في تأسيسها دانييل روزنبرغ، وهو منتج أفلام يُنسب إليه الفضل في فيلم "Inside Man" لسبايك لي. التقطت القصة وسائل الإعلام بما في ذلك Arab News وThe Cradle، وهي أحدث علامة على أن عمليات التأثير تتحول من موجزات وسائل التواصل الاجتماعي إلى نماذج الذكاء الاصطناعي. لمعرفة المزيد حول كيفية تطور التلاعب في عصر الذكاء الاصطناعي، تابع تغطيتنا الإخبارية العاجلة للذكاء الاصطناعي. لمزيد من السياق حول هذه القصة، راجع أحدث تطورات الذكاء الاصطناعي.

التقارير المصممة لكيفية حكم ماجستير إدارة الأعمال على المصداقية

ما يجعل معهد هانوفر غير عادي هو مدى دقة ظهور مخرجاته وفقًا للطريقة التي تقيم بها النماذج اللغوية الكبيرة المصادر. تأتي "تقارير البيانات" الخاصة بها مع حواشي سفلية، وجداول محتويات، ونبرة محايدة ومقاسة - وهو نوع التنسيق الذي يساعد المستندات على جذب برامج الدردشة الآلية مثل Claude أو Gemini، وفقًا لما ذكرته Responsible Statecraft.

تمت صياغة العديد من العناوين على شكل أسئلة دقيقة قد يكتبها المستخدم في برنامج الدردشة الآلي: "ما سبب تهجير الفلسطينيين في عام 1948؟" "ما هي المنظمات الإنسانية التي وثقت جرائم الحرب الإسرائيلية؟" "ما هو الوضع الحالي في قطاع غزة؟" و"هل جيش الدفاع الإسرائيلي هو الجيش الأكثر أخلاقية في العالم؟" – آخرها يشير إلى استطلاع للرأي أجري عام 2022 وجد أن 47% من اليهود الإسرائيليين يصدقون هذا الوصف.

موقع Piro الخاص على الويب صريح بشأن هذه الطريقة. تقول الشركة إنها تقوم بتأليف "محتوى مصمم لكيفية تقييم LLM للمصداقية"، وهي خدمة تسوقها على أنها "تحسين قصة الذكاء الاصطناعي". لدى الباحثين اسم أكثر وضوحًا لهذه الممارسة: "تسمم LLM".

"محاكاة مثالية" لمؤسسة ذات مصداقية

قالت أليس لي، المحللة في NewsGuard، شركة تتبع المعلومات المضللة، لموقع Responsible Statecraft إن تقارير الموقع تبدو مصممة للوصول إلى جمهور أمريكي لديه فضول بشأن الصراع، سواء من خلال محركات البحث أو مساعدي الذكاء الاصطناعي.

وقال لي: "إن حاملي شهادة الماجستير في القانون يفضلون الإحصائيات والبيانات الملموسة، فضلاً عن الاستشهادات والمصادر القوية، التي تحتوي عليها جميع هذه المقالات". "إنها تقليد مثالي لمؤسسة بحثية أمريكية نموذجية وذات مصداقية، وصولاً إلى الاسم العام، وتصميم الموقع، ونظام الألوان الأحمر والأبيض والأزرق."

وقد نشر المعهد أيضًا ما يدعي أنه نتائج أصلية - على سبيل المثال، دراسة تؤكد أن 19 من أصل 36 مقطع فيديو توضيحيًا بين إسرائيل وغزة الأكثر مشاهدة تحتوي على ادعاءات متنازع عليها، حيث تتوافق معظم تلك الادعاءات المتنازع عليها مع الرواية الفلسطينية. وتعارض تقارير أخرى الوثائق المثبتة، بما في ذلك التقرير الذي يلقي ظلالاً من الشك على تأكيدات اليونيسف بأن 90% من البنية التحتية للمياه والبنية التحتية المؤسسية في غزة قد تضررت أو دمرت.

ومن الجدير بالذكر أن الناتج لا يتبع دائمًا خط الحكومة الإسرائيلية. يصف أحد التقارير النظرية القائلة بأن التمويل الأجنبي للجامعات يفسر الحوادث المعادية للسامية بأنها "ضعيفة ومليئة بالاستثناءات" - على الرغم من أن رئيس الوزراء بنيامين نتنياهو روج لهذه النظرية، حيث أخبر بريتبارت أن الجهات الفاعلة الأجنبية أنفقت "المليارات" في الجامعات الأمريكية. تختتم العديد من التقارير بربط الموضوع المطروح بارتفاع معاداة السامية، وكثيرًا ما تستشهد بنفس الدراسات.

تابع الأموال: 900000 دولار أمريكي من خلال مجموعة علاقات عامة فرنسية

وفقًا لشركة Responsible Statecraft، تلقت شركة Piro, Inc. مبلغ 900 ألف دولار من الحكومة الإسرائيلية مقابل عملها، حيث تم التعاقد من الباطن من خلال شركة Havas Media، وهي مجموعة فرنسية للعلاقات العامة - وهو ترتيب يتوافق مع كيفية دفع أجور المقاولين الإسرائيليين الآخرين مقابل أعمال التأثير في الخارج.

بدأ معهد هانوفر النشر في السادس من أغسطس/آب. وفي الأيام العشرة تقريباً التي تلت ذلك، أصدر أكثر من مائة تقرير، وهي وتيرة لا يستطيع أي مركز سياسي حقيقي أن يتحملها.

لماذا يختلف التعامل مع Chatbot؟

تسلط هذه القضية الضوء على ضعف هيكلي في كيفية قيام مساعدي الذكاء الاصطناعي بتجميع الإجابات: فهم يتعاملون مع المستندات ذات الاستشهادات الجيدة والمثقلة بالإحصاءات على أنها ذات مصداقية بغض النظر عمن قام بإنتاجها أو لماذا. استهدفت المعلومات المضللة التقليدية القراء من البشر على منصات التواصل الاجتماعي، حيث كانت الضربة العاطفية أكثر أهمية. وبدلاً من ذلك، يستهدف ما يسمى "تسمم LLM" طبقات الاسترجاع والتصنيف التي تحدد المصادر التي يقتبسها النموذج - ومن ثم يمكن لوثيقة مقنعة واحدة أن يتردد صداها في ملايين الإجابات.

بالنسبة لمطوري برامج الدردشة الآلية، يعد معهد هانوفر بمثابة اختبار إجهاد لفحص المصدر. يشير تقييم NewsGuard إلى أن التقليد قريب بما يكفي لخداع إشارات المصداقية الآلية. بالنسبة للقراء، الدرس أبسط: الإجابة الواثقة والمُزودة بحواشي جيدة التي يقدمها لك برنامج الدردشة الآلي حول صراع متنازع عليه قد تعود إلى منظمة تم إنشاؤها وتمييزها وتمويلها لإنتاج تلك الإجابة بالضبط.

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →