قالت OpenAI يوم الخميس إنها حظرت عمليتي تأثير سريتين – واحدة نشأت في روسيا والأخرى في إيران – استخدمتا ChatGPT لإدارة كيانات "واجهة كاذبة" متطورة مصممة لغسل الدعاية الجيوسياسية إلى وسائل إعلام حقيقية. وقالت الشركة إن الحملة ذات الأصل الروسي هي عملية التأثير الأبعد مدى التي عطلتها منذ أن بدأت في نشر تقارير التهديد قبل عامين ونصف.

يُعد هذا الكشف، المنشور على موقع OpenAI الإلكتروني، أحدث إدخال في سلسلة من التقارير حول كيفية إساءة استخدام الجهات الفاعلة المتحالفة مع الدولة لنماذج الذكاء الاصطناعي التجارية. كما يسلط الضوء أيضًا، كما أشرنا في تقريرنا الأخير حول [أخبار الذكاء الاصطناعي العاجلة] (https://aibuzzwire.news)، على النمط الذي لاحظته OpenAI عبر 30 عملية سرية كشفت عنها منذ أوائل عام 2024: الحملات التي تنجح في وضع محتواها في منشورات حقيقية تصل إلى جماهير أكبر بكثير من تلك التي تعتمد على حسابات وسائل التواصل الاجتماعي المزيفة.

الفئة الخامسة أولاً: عملية "دارك كلارك"

تركزت العملية الروسية، التي أطلق عليها OpenAI اسم "Dark Clark"، على منظمة بحثية في أمريكا اللاتينية تسمى مركز البحوث الاجتماعية (SRC). وفقًا لـ OpenAI، سيطر المشغلون على مركز الأبحاث من خلال شخصية ملفقة تدعى "Mia Clark"، بينما أجرى الموظفون المحليون في أمريكا اللاتينية مقابلات وقاموا بصياغة أوراق بحثية دون معرفة أنهم يعملون لصالح مجموعة روسية.

باستخدام مقياس الاختراق – وهو مقياس من 1 إلى 6 لمدى الوصول المحتمل لعملية التأثير تم تطويره في معهد بروكينغز – قامت OpenAI بتقييم Dark Clark في الفئة 5، وهو أعلى تصنيف خصصته لأي عملية منذ بدء إعداد تقاريرها. وصلت الحملة ذات المنشأ الإيراني إلى الفئة الرابعة.

وقالت OpenAI إن الكثير من استخدامات ChatGPT للمشغلين ذهبت إلى تقارير داخلية إلى معالج غير معروف، واصفة الحملات لتشويه سمعة أوكرانيا، وتقويض التجنيد في القوات المسلحة الأوكرانية، والتدخل في السياسة الداخلية في الأرجنتين وبوليفيا. يطلب المشغلون في الغالب اللغة الروسية ويعتمدون على شبكات VPN للوصول إلى الخدمة، مما يمنع حركة المرور من روسيا.

أكد باحثو OpenAI العديد من الحملات المزعومة للعملية من خلال مصادر مفتوحة. تضمنت إحداهما رسائل بريد إلكتروني مزيفة يُزعم أنها واردة من مديرية التعليم الإقليمية في ليما، لتوجيه المدارس في العاصمة البيروفية لعقد فعاليات لتكريم ستيبان بانديرا - الشخصية القومية الأوكرانية المثيرة للجدل - في يوم وطني للتنوع. غطت وسائل الإعلام البيروفية والبولندية الجدل الذي أعقب ذلك، ونقل عن عضو بولندي في البرلمان الأوروبي في تغطيته. وفي الإكوادور، استخدم المشغلون عنوان بريد إلكتروني مزيفًا لخداع المدارس لحملها على عقد قسم الولاء للرئيس دانييل نوبوا ورئيس شركة بلاك ووتر السابق إريك برينس؛ وقد لاقت هذه الحيلة تغطية إعلامية ودحضًا عامًا من وزير التعليم الإكوادوري.

ونشرت العملية أيضًا تسجيلات صوتية ملفقة، بما في ذلك تسجيلات منسوبة إلى عامل في شركة المياه الحكومية في بوليفيا EPSAS تدعي أن الحكومة ستقطع الإمدادات عن لاباز، وأخرى منسوبة إلى قنصل أوكرانيا في الإكوادور. وقد فضح مدققو الحقائق في كلا البلدين هذه الادعاءات. وقد ربط الباحثون في المصادر المفتوحة سابقًا نشاطًا مماثلاً بـ "Politology" أو "La Compania"، وهي كيانات تم وصفها بأنها خلفاء لعملية الراحل يفغيني بريغوجين، وزعمت تقارير المشغلين الخاصة أن الحملات التي تستهدف الرئيس الأرجنتيني خافيير مايلي تتطابق مع تلك التقارير العامة.

سبعة صحفيين مزيفين: عملية "الخطوط الثانوية الزائفة"

اتخذت العملية الإيرانية طريقًا مختلفًا في النظام الإعلامي. استخدم مشغلوها، الذين دفعوا ChatGPT باللغة الفارسية، هذا النموذج لتحسين المقالات الطويلة باللغة الإنجليزية حول الصراع الأمريكي الإيراني، ثم عرضوها على المحررين في منافذ صغيرة ومتوسطة الحجم على الإنترنت باستخدام سبع شخصيات صحفية ملفقة: إرفين بي. هوسكينز، ونوح لامينجتون، وصوفيا جونزاليس، ومايكل هاريسون، وإريكا فيوسييه، وجيني ويليامز، وأليس جونسون.

وقد حددت شركة OpenAI ما يقرب من 100 مقالة منشورة أو مجمعة تحت هذه العناوين الثانوية عبر ما يقرب من اثنتي عشرة منافذ في جميع أنحاء العالم، معظمها يركز على الشؤون الدولية والشرق الأوسط. أنتجت العملية أيضًا مجموعات من التعليقات على وسائل التواصل الاجتماعي، على الرغم من أن OpenAI قالت إن هذه التعليقات لم تجتذب سوى القليل من التفاعل الحقيقي - وأشارت إلى أن المشغلين استخدموا حسابات خادعة في تقاريرهم الداخلية لتضخيم تأثيرهم الواضح على وسائل التواصل الاجتماعي. وقالت الشركة إن النشاط يبدو متسقًا مع ممثل تجاري يدير حملة تأثير للتوظيف، وأنها شاركت المعلومات مع السلطات المختصة.

حرفة قديمة وأدوات جديدة

كتب OpenAI أن أكثر ما يلفت انتباه الباحثين هو مدى تشابه العمليتين مع حملات التأثير من عصر ما قبل الذكاء الاصطناعي. تحمل الشخصيات الصحفية المزيفة تشابهًا عائليًا مع "أليس دونوفان"، وهي مراسلة وهمية تعمل كواجهة للمخابرات العسكرية الروسية وظهرت مقالاتها الافتتاحية في وسائل الإعلام الغربية في عامي 2016 و2017. ويردد الموظفون المحليون غير المتعمدين في SRC صدى "PeaceData"، الموقع الإخباري المزيف الذي اختار صحفيين حقيقيين في عام 2020.

لم يخترع الذكاء الاصطناعي هذه التقنيات، بل جعلها أرخص وأسرع وأكثر طلاقة. استخدم المشغلون نماذج لتخصيص المفردات المحلية والأسلوب المؤسسي، وترجمة النصوص إلى المتغيرات الإسبانية الإقليمية، وإنتاج رسائل بريد إلكتروني مصقولة للمحررين. لكن شركة OpenAI جادلت بأن الطبيعة السرية للعمليات الكاذبة التي تتم من شخص إلى شخص تجعلها أيضًا عرضة للفضح: فقد تم إغلاق كل من Alice Donovan وPeaceData بعد أن تم الكشف عن أسمائهما علنًا.

قراءة الأدلة بعناية

كانت شركة OpenAI حريصة على التحذير من النتائج التي توصلت إليها. ادعى المشغلون بشكل روتيني مسؤوليتهم عن الأحداث التي لا علاقة لهم بها، وبعض المنتجات المزيفة التي أبلغوا عن زرعها لا يمكن العثور عليها في المصادر المفتوحة. إن ما تمكنت شركة OpenAI من التحقق منه - من خلال التحقق من الحقائق، والإنكار الرسمي، والمقالات المنشورة المطابقة لأوصاف المشغلين - يشير إلى اختراق حقيقي لوسائل الإعلام والخطاب السياسي في أربع دول على الأقل.

بالنسبة لصناعة الذكاء الاصطناعي، يعد التقرير بمثابة تذكير بأن الاستخدامات الأكثر فعالية للنماذج في مجال المعلومات المضللة غالبًا ما تكون الأقل وضوحًا: صياغة التقارير الداخلية، وتحسين العروض التقديمية، وصقل الترجمات. إن الكيانات التي تتمتع بأفضل وضع يمكنها من اكتشاف هذه الحملات، كما أظهرت حالات OpenAI السابقة، هي في كثير من الأحيان المنصات التي يتم استخدام أدواتها الخاصة لتشغيلها.

---

ابقَ في طليعة الذكاء الاصطناعي

احصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →