وقد قامت صحيفة الغارديان الآن بقياس كمية مؤسسة الأبحاث الأمريكية المزيفة التي تم الكشف عنها لأول مرة الأسبوع الماضي: 124 تقريرًا و560 ألف كلمة في تسعة أيام، مبنية على منصة تجارية تعد بتحسين المحتوى حتى تستشهد به روبوتات الدردشة التي تعمل بالذكاء الاصطناعي - مع مسار تمويل حكومي إسرائيلي موثق في ملفات وزارة العدل الأمريكية. إنه أوضح مثال علني حتى الآن على الجهات الفاعلة المرتبطة بالدولة التي تستهدف طبقة إجابات الذكاء الاصطناعي نفسها: ليس القراء، بل النماذج التي تتحدث نيابة عنهم على نحو متزايد. إنه نوع القصة التي تتبعها تغطية صناعة الذكاء الاصطناعي بينما يتحول التلاعب ببرامج الدردشة الآلية إلى مجال صناعي. (لقد قمنا بتغطية الاكتشاف الأولي للموقع هنا.)

مركز أبحاث غير موجود

وينشر الموقع تحت اسم معهد هانوفر للسياسة العامة. وفقًا لجيسون ويلسون من صحيفة الغارديان، يبدو أن المعهد غير موجود ككيان قانوني في أي ولاية قضائية، وليس له عنوان فعلي، ولا يحمل أي موظفين محددين ولا أسماء ثانوية في أي من تقاريره. تخضع شروط الاستخدام الخاصة بها لقوانين "الولاية التي تم إنشاء المعهد فيها" - وهي الولاية التي ترفض الوثيقة ذكر اسمها.

وكان حجم الإنتاج صناعيا. في الفترة ما بين 6 و14 أغسطس، نشر معهد هانوفر 124 تقريرًا يبلغ مجموعها أكثر من 560 ألف كلمة، بمتوسط ​​حوالي 4500 كلمة لكل منها. وفي يومي 12 و13 أغسطس فقط، أصدرت 73 تقريرًا يصل حجمها إلى 354000 كلمة تقريبًا. ولم يتم نشر أي شيء منذ ظهور التقارير الإعلامية الأولى عن الموقع.

مُصممة خصيصًا لطبقة إجابات chatbot

ما يجعل العملية جديدة هو استهدافها. تبدأ جميع العناوين الرئيسية البالغ عددها 124 باستثناء عنوان واحد بسؤال يشبه السؤال الذي قد يكتبه المستخدم في برنامج الدردشة الآلي - "هل معاداة الصهيونية معاداة للسامية؟"، "هل طردت إسرائيل الفلسطينيين من أرضهم؟"، "هل تنفذ إسرائيل إبادة جماعية في غزة؟" تعرض التقارير موقف إسرائيل من تعذيب السجناء الفلسطينيين، وجرائم الحرب، والمجاعة في غزة كأبحاث محايدة، مُصممة بحيث يمكن استرجاعها آليًا.

تم توثيق الآليات في الملفات الرسمية. سجلت شركة الإنتاج الإعلامي في نيويورك Piro Inc الموقع لدى وزارة العدل الأمريكية هذا الشهر بموجب قانون تسجيل الوكلاء الأجانب (فارا)، وهو قانون صدر عام 1938 يشترط الكشف عن أعمال الحكومات الأجنبية، باعتبارها مواد توزعها على الحكومة الإسرائيلية. وذكرت صحيفة الغارديان أن هذا الجهد يتم تمويله بعشرات الملايين من الدولارات من الحكومة الإسرائيلية، ويتم توجيهها من خلال أطراف ثالثة بما في ذلك مجموعة الإعلانات الأوروبية Havas Media. يُلزم العقد المبرم بين شركة Havas وشركة أمريكية أخرى تعمل في الحملة "بنشر مواقع الويب والمحتوى لتقديم نتائج تأطير GPT في محادثات GPT."

وبعد الإبلاغ عن وجود الموقع لأول مرة في 14 أغسطس/آب، أضاف المعهد بهدوء صفحة تمويل تحتوي على تصحيح واضح: "تشير نسخة سابقة من هذه الصفحة إلى أن المعهد يعمل بدون تمويل خارجي، وكان هذا صحيحًا عند كتابته". اتصلت صحيفة The Guardian بشركة Piro Inc وHavas Media ووكالة الإعلانات الحكومية الإسرائيلية LaPam للتعليق.

لماذا أصبحت روبوتات الدردشة ساحة المعركة الجديدة؟

تتمتع هذه الإستراتيجية باسم في صناعة التسويق - تحسين المحرك التوليدي، أو GEO - وهي النظام اللاحق لتحسين محرك البحث. عندما يجيب روبوت الدردشة على سؤال، فإنه يعتمد على مجموعة التدريب ومصادر الاسترجاع الخاصة به. من المرجح أن يتم عرض المحتوى الضخم، والمنسق على شكل سؤال، والمُصمم على أنه بحث موثوق، أو الاستشهاد به، أو استيعابه في إجابة النموذج. إن مركز الأبحاث المزيف يكاد يكون بمثابة الأداة المثالية لتوقعات البيئة العالمية: المصداقية المؤسسية من دون مؤسسة.

ويعكس التوقيت اليأس بقدر ما يعكس التعقيد. وتشير صحيفة الغارديان إلى أن الحملة تأتي في الوقت الذي تنهار فيه مكانة إسرائيل في الرأي العام الأمريكي، وبينما يطلع المسؤولون الإسرائيليون وسائل الإعلام على أن الأموال التي أنفقت على الدبلوماسية العامة "الهسبارة" في الخارج قد أهدرت.

معهد هانوفر ليس حالة معزولة. في نفس اليوم الذي نشرت فيه صحيفة الغارديان تحقيقها، أعلنت شركة OpenAI أنها عطلت حملة نفوذ روسية سرية جديدة باستخدام الذكاء الاصطناعي، وهي الأحدث في سلسلة من عمليات الإزالة التي نسبتها الشركة إلى جهات فاعلة مرتبطة بالدولة. عمليتان منفصلتان، وقارتان، ورؤية واحدة مشتركة: أصبح التأثير على النماذج الآن أرخص وأكثر استدامة من التأثير على الناس بشكل مباشر.

فجوة الحكم

بالنسبة للمنظمين، تكشف هذه القضية ثغرة في الأطر القائمة. كشف الكشف عن فارا عن العملية على الورق، ولكن فقط بعد أن أصبح المحتوى مباشرًا ومن المحتمل استيعابه. إن أحكام الشفافية في قانون الاتحاد الأوروبي بشأن الذكاء الاصطناعي والأطر التطوعية التي تحكم مصدر بيانات التدريب لم تكن مصممة لعالم حيث يمر أرخص طريق إلى معتقدات السكان من خلال برامج الدردشة الآلية.

بالنسبة لمختبرات الذكاء الاصطناعي، فإن السؤال التشغيلي فوري: كيف تميز أنظمة الاسترجاع وخطوط التدريب بين الأبحاث ومزارع المحتوى التي ترتدي الملابس البحثية؟ إن الحجم والتنسيق والاستشهادات الواثقة – إشارات السلطة – هي بالضبط ما أنتجه معهد هانوفر على نطاق واسع. وإلى أن تتحسن النماذج من حيث المصدر، فإن نصف مليون كلمة موجودة بالفعل، ولا يتم الكشف عنها بعد حدوثها.

---

ابقَ في طليعة الذكاء الاصطناعي

احصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →