قامت OpenAI بتعطيل شبكة احتيال منسقة تعتمد على ChatGPT وتعمل خارج بويبيت، كمبوديا، حسبما كشفت الشركة في تقرير يوضح بالتفصيل كيف تقوم الجماعات الإجرامية الآن بتضمين نماذج الذكاء الاصطناعي التجارية في العمليات اليومية لمجمعات العمل القسري.
ويصف الكشف، الذي نُشر في 31 يوليو تحت عنوان "تعطيل عملية احتيال إجرامية"، نقابة تستخدم ChatGPT ليس فقط لخداع الضحايا في جميع أنحاء العالم ولكن أيضًا لإدارة الأعمال الداخلية لمؤسسة مرتبطة بالاتجار. توفر هذه القضية نافذة على كيفية إعادة استخدام النماذج اللغوية الكبيرة كبنية تحتية تشغيلية للجريمة المنظمة. للحصول على تقارير مستمرة حول إساءة استخدام الذكاء الاصطناعي وحواجز الحماية فيه، تابع أحدث تطورات الذكاء الاصطناعي على AI Buzz Wire.
كيف تعمل الشبكة
وفقًا لنتائج OpenAI، اعتمد المشروع الإجرامي على ChatGPT لترجمة التواصل مع الضحايا، وإنشاء واجهات استثمار احتيالية، وصياغة إشعارات قانونية مزيفة. استهدف المشغلون الأفراد من خلال منصات المراسلة بما في ذلك WhatsApp وTelegram، من خلال دورة حياة الخداع المكونة من ثلاث مراحل.
بدأ المخطط عادةً بمبادرات رومانسية تهدف إلى بناء الثقة، ثم تحول نحو منصات الاستثمار الزائفة في العملات المشفرة، ثم تصاعد في النهاية إلى التهديد بفرض غرامات مزيفة من جانب إنفاذ القانون عندما فشلت المحاولات السابقة. لم يقتصر المشغلون على قطاع احتيال واحد، بل جمعوا بين الإعدادات الرومانسية ومكاتب تداول الذهب المزيفة وأعادوا توجيه الأهداف إلى قنوات المقامرة، مما أدى إلى زيادة عدد المسارات إلى أقصى حد للدفع.
ما يميز هذه العملية هو حجم وانضباط استخدام الذكاء الاصطناعي. وبدلاً من تشغيل عدد قليل من المطالبات لمرة واحدة، نظمت النقابة نماذج توليدية لإنتاج اتصالات محلية مقنعة بكميات كبيرة عبر لغات متعددة.
بُعد العمل القسري
النتائج الأكثر إثارة للقلق لم تأت من الاحتيال الذي واجه الضحية ولكن من النشاط الداخلي للمجموعة. كشفت السجلات السريعة التي تم استردادها أثناء التحقيق أن المشغلين استخدموا ChatGPT للقيام بمهام إدارية داخل مجمعات الاحتيال المادية الواقعة بالقرب من الحدود التايلاندية الكمبودية.
وتضمنت هذه السجلات ترجمة الاتصالات الإدارية، وتسجيل ديون العمال، وتوثيق تجاوزات مدة التأشيرة، وتتبع الغرامات التأديبية. أشارت بعض الإدخالات إلى الاحتجاز القسري، والعمال الهاربين، وشبكات الاتجار بالبشر. وتتوافق هذه التفاصيل مع سنوات من الإبلاغ عن مجمعات الاحتيال في جنوب شرق آسيا، والتي كثيرًا ما تجذب الباحثين عن عمل بعروض إدارية احتيالية قبل مصادرة جوازات السفر وإجبارهم على العمل في جرائم الإنترنت تحت التهديد بالعنف.
بمعنى آخر، كانت نماذج الذكاء الاصطناعي تؤدي واجبًا مزدوجًا: حيث تم تسليحها ضد الضحايا الخارجيين بينما كانت تعمل في نفس الوقت كبرنامج إداري للقوى العاملة الأسيرة.
استجابة OpenAI
وقالت OpenAI إنها حددت وأوقفت الحسابات المرتبطة بالعملية، مما منع وصول النقابة إلى نماذجها. ووصفت الشركة التعطيل بأنه جزء من جهد أوسع لكشف وتفكيك الشبكات التي تسيء استخدام منصتها لارتكاب جرائم مالية وانتهاكات لحقوق الإنسان.
وتسلط هذه القضية الضوء على التحدي المتزايد الذي يواجه مقدمي خدمات الذكاء الاصطناعي. ولم تعد الجهات الفاعلة الخبيثة تتعامل مع نماذج اللغة التجارية باعتبارها مجرد أسلحة خارجية، بل إنها تنشرها كبرمجيات وسيطة تشغيلية، وتنسجها في آلية المكاتب الخلفية للمؤسسات الإجرامية. إن اكتشاف هذا النوع من الإساءة يتطلب النظر إلى ما هو أبعد من المطالبات الواضحة التي تواجه الضحية.
مشكلة اكتشاف جديدة
يشير التحليل الأمني للعملية إلى أن التصفية البسيطة للكلمات الرئيسية في المطالبات المتعلقة بالاحتيال لم تعد كافية. حالات الاستخدام الإداري - ترجمة المذكرات، وتتبع الديون، وتسجيل الحضور - تُقرأ على أنها عادية بمعزل عن غيرها، ويصعب الإبلاغ عنها أكثر من نصوص الاحتيال العلنية.
وفقًا لتغطية التعطيل، فإن اكتشاف إساءة الاستخدام من هذا النوع يتطلب بشكل متزايد تبادل المعلومات الاستخبارية عبر المنصات والتحليل السلوكي للمطالبات الإدارية، حيث تترك العمليات الإجرامية آثارًا تشغيلية مميزة حتى عندما تبدو الطلبات الفردية حميدة. إن المطالبة التي تطلب من نموذج "ترجمة رسالة المدير هذه" ليست مشبوهة بطبيعتها - ولكن المئات من هذه المطالبات، التي تنشأ من حسابات مرتبطة بمجمع معروف، تشكل نمطًا.
الصورة الأكبر
تعد عملية كمبوديا أحدث إشارة إلى أن سطح إساءة استخدام الذكاء الاصطناعي التوليدي قد توسع إلى ما هو أبعد من التزييف العميق والبريد العشوائي. مع نضوج التكنولوجيا، قد تكون إساءة الاستخدام الأعلى قيمة هي الأقل وضوحًا: حيث يدير الذكاء الاصطناعي بهدوء الخدمات اللوجستية للأعمال غير المشروعة، بدءًا من ترجمة الضحايا إلى إدارة القوى العاملة.
بالنسبة لشركة OpenAI ومنافسيها، يثير هذا التحول تساؤلات صعبة حول المدى الذي يجب أن تمتد إليه مسؤوليات المراقبة. يمكن لمقدمي الخدمات تعليق الحسابات، لكن المركبات الأساسية وشبكات الاتجار وظروف العمل القسري تظل قائمة. إن تعطيل الطبقة الرقمية يساعد، ولكنه لا يفكك البنية الأساسية المادية التي تدعم هذه العمليات.
ويأتي الكشف أيضًا وسط لحظة تنظيمية أوسع. ومع دخول قواعد الشفافية الجديدة حيز التنفيذ والضغط المتزايد على شركات الذكاء الاصطناعي لمراعاة كيفية استخدام نماذجها، من المرجح أن تشكل حالات مثل هذه الحالة أولويات التنفيذ ومقدمي الضمانات التقنية الذين يدمجون في الأنظمة المستقبلية.
كما أنه يسلط الضوء على عدم التماثل غير المريح. نفس القدرات اللغوية التي تجعل ChatGPT ذا قيمة للشركات المشروعة - الترجمة، والصياغة، والتلخيص - هي بالضبط ما يجعلها جذابة للمؤسسات الإجرامية التي تعمل عبر الحدود واللغات. إن النموذج الذي يمكن أن يساعد الشركات الصغيرة في الوصول إلى العملاء في عشرات البلدان يمكن أن يساعد بسهولة عصابة الاحتيال في استهداف الضحايا في كل قارة. لا يكمن الاختلاف في التكنولوجيا بل في البنية التحتية المحيطة بها، وهذا هو المكان الذي يتمتع فيه مقدمو الخدمة بأقل قدر من الرؤية.
ما يأتي بعد ذلك
إن الكشف عن OpenAI جدير بالملاحظة من حيث شفافيته بقدر ما هو ملحوظ بالنسبة للتعطيل نفسه. ومن خلال نشر تفاصيل حول كيفية عمل الشبكة، تقدم الشركة نموذجًا يمكن لمقدمي الخدمات الآخرين ووكالات إنفاذ القانون استخدامه لاكتشاف إساءة الاستخدام المماثلة. لكن القضية توضح أيضًا أن تعليق الحسابات، مهما كان ضروريًا، هو إجراء رد فعل ضد خصم يمكنه ابتكار هويات جديدة ونقل العمليات بسهولة نسبية.
بالنسبة لفرق الأمن ومقدمي خدمات الذكاء الاصطناعي على حد سواء، فإن الفكرة الأساسية هي أن الدفاع ضد هذا النوع من سوء الاستخدام سيتطلب استثمارًا مستدامًا في الكشف عن الأنماط، وتبادل البيانات عبر الشركات، والتعاون مع السلطات التي يمكنها التحرك ضد المركبات المادية نفسها. الطبقة الرقمية والطبقة المادية، كما توضح هذه الحالة، لم تعد قابلة للفصل.
البقاء في صدارة الذكاء الاصطناعي
لمعرفة المزيد عن المخاطر الأمنية والمعضلات الأخلاقية والمناقشات السياسية المحيطة بالذكاء الاصطناعي، تابع آخر أخبار الذكاء الاصطناعي العاجلة من AI Buzz Wire.
اقرأ المزيد من أخبار الذكاء الاصطناعي →
