يفشل نظام الكشف عن الصور بالذكاء الاصطناعي التابع لشركة Meta في تحديد أكثر من نصف الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي عندما تخضع للاقتصاص الأساسي، وفقًا لتحليل رويترز المنشور في 10 يوليو 2026. وتكشف النتائج عن ثغرة كبيرة في أدوات مصادقة المحتوى المدعومة بالذكاء الاصطناعي في وقت يتسارع فيه انتشار الوسائط الاصطناعية بسرعة. للحصول على تغطية شاملة لتكنولوجيا الذكاء الاصطناعي وتأثيرها المجتمعي، تفضل بزيارة AI Buzz Wire.
رويترز تضع كاشف ميتا قيد الاختبار
وأجرت رويترز تقييما منهجيا لأداة الكشف عن الصور التي تعمل بالذكاء الاصطناعي من شركة ميتا، والتي تم تصميمها للتعرف على الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي. وكانت النتائج مثيرة للقلق: عندما تم اقتصاص الصور التي أنشأها الذكاء الاصطناعي ــ وهو تعديل لا يتطلب أي خبرة فنية ويمكن إجراؤه في أي تطبيق أساسي لتحرير الصور ــ فشل الكاشف في تمييز ما يقرب من 55% منها على أنها اصطناعية.
ركز التحليل بشكل خاص على الصور التي تم إنشاؤها بواسطة أدوات إنشاء الصور الخاصة بالذكاء الاصطناعي الخاصة بشركة Meta، مما يجعل معدل الفشل ملحوظًا بشكل خاص. إذا لم يتمكن نظام الكشف الخاص بالشركة من تحديد المحتوى الذي تنتجه نماذجها التوليدية بشكل موثوق، فإن احتمالات اكتشاف الصور التي أنشأتها أنظمة خارجية تبدو أكثر غموضًا.
وقد تم تأكيد هذه النتائج من خلال العديد من المنشورات التكنولوجية، بما في ذلك Crypto Summarying وGizmodo، التي أبلغت عن استنتاجات مماثلة. أشارت Brand Icon Image إلى أن معاناة الكاشف مع الصور المقصوصة تثير مخاوف ملحة بشأن المعركة الأوسع ضد التزييف العميق والوسائط التي تم التلاعب بها.
لماذا يؤدي الاقتصاص إلى هزيمة اكتشاف الذكاء الاصطناعي
عادةً ما تقوم أجهزة كشف الصور التي تعمل بتقنية الذكاء الاصطناعي بتحليل الصور من خلال فحص الأنماط الإحصائية في بيانات البكسل التي تتميز بها النماذج التوليدية. يمكن أن تتضمن هذه الأنماط عناصر دقيقة في الملمس، واتساق الإضاءة، وتوقيعات مجال التردد، وغيرها من العلامات الواضحة التي تميز المحتوى الناتج عن الذكاء الاصطناعي عن الصور الفوتوغرافية التي تلتقطها الكاميرات.
ومع ذلك، يؤدي الاقتصاص إلى تغيير تكوين الصورة بشكل أساسي، مما يؤدي إلى إزالة المعلومات السياقية التي تعتمد عليها خوارزميات الكشف. عندما يتم اقتصاص صورة تم إنشاؤها للتركيز على منطقة معينة - وجه، أو كائن، أو مشهد معين - يتم حذف العديد من التوقيعات الإحصائية التي قد تحددها على أنها اصطناعية أو يتم تدهورها بشكل كبير.
هذه الثغرة الأمنية ليست فريدة من نوعها لنظام ميتا. وقد أثبت الباحثون في مجال الأمن أن أدوات الكشف المماثلة المقدمة من مقدمي الخدمات الآخرين يمكن هزيمتها من خلال عمليات معالجة الصور المختلفة، بما في ذلك تغيير الحجم والضغط وتعديل الألوان وإضافة الضوضاء. ويشير تحليل رويترز إلى أنه حتى أبسط التحولات تشكل تحديا كبيرا.
أسبوع ميتا المضطرب مع صور الذكاء الاصطناعي
ظهرت عيوب الكاشف خلال فترة صعبة بالفعل بالنسبة لمبادرات صور الذكاء الاصطناعي الخاصة بشركة Meta. أطلقت الشركة مؤخرًا ميزة صور AI لـ Instagram والتي تصل تلقائيًا إلى الصور العامة للمستخدمين، مما أثار انتقادات فورية من المدافعين عن الخصوصية والمهنيين المبدعين.
وفي مواجهة رد فعل عنيف من المنظمات بما في ذلك SAG-AFTRA، أوقفت Meta الميزة مؤقتًا بعد ثلاثة أيام فقط من تقديمها، وفقًا لتقارير من Inc.com ووكالة Associated Press. وفي نهاية المطاف، أوقفت الشركة هذه الميزة، مما يمثل انعكاسًا سريعًا على منتج تم وضعه على أنه تحسين مهم لتجربة Instagram.
إن الجمع بين سحب الميزة والإخفاقات الموثقة للكاشف يرسم صورة لصناعة لا تزال تكافح من أجل تحقيق التوازن بين النشر السريع لأدوات الذكاء الاصطناعي التوليدية والحاجة إلى آليات حماية وآليات كشف موثوقة.
آثار أوسع على صحة المحتوى
تحمل النتائج التي توصلت إليها رويترز آثارًا تمتد إلى ما هو أبعد من النظام البيئي لشركة ميتا. ومع تزايد صعوبة تمييز الصور المولدة بواسطة الذكاء الاصطناعي عن الصور الفوتوغرافية، أصبحت القدرة على اكتشاف المحتوى الاصطناعي بشكل موثوق تحديا بالغ الأهمية للمنصات والناشرين وصناع السياسات.
نفذت منصات الوسائط الاجتماعية، بما في ذلك Facebook وInstagram وX (Twitter سابقًا) وTikTok، شكلاً من أشكال تصنيف محتوى الذكاء الاصطناعي، لكن موثوقية هذه الأنظمة تختلف بشكل كبير. ويشير تحليل رويترز إلى أن تكنولوجيا الكشف الحالية قد توفر إحساسا زائفا بالأمان، مما قد يسمح بتداول كميات كبيرة من المحتوى الاصطناعي دون أن يتم اكتشافها.
ويتفاقم هذا التحدي بسبب التحسن السريع في مولدات الصور التي تعمل بالذكاء الاصطناعي. ومع إنتاج نماذج من OpenAI وGoogle وAdobe وغيرها من المنتجات الواقعية بشكل متزايد، تصبح المصنوعات التي تعتمد عليها أنظمة الكشف أكثر دقة ويصعب التعرف عليها. ويبدو أن سباق التسلح بين قدرات التوليد والكشف يميل لصالح الجيل.
معيار C2PA واستجابة الصناعة
استجابة للتحدي المتزايد المتمثل في مصادقة المحتوى، دعمت شركات التكنولوجيا الكبرى بما في ذلك Adobe وMicrosoft وBBC معيار التحالف من أجل مصدر المحتوى والأصالة (C2PA). يقوم هذا الأسلوب بدمج التوقيعات المشفرة والبيانات التعريفية مباشرة في ملفات الصور عند نقطة الإنشاء، مما يسمح للمنصات النهائية بالتحقق من أصل ملف الوسائط.
ومع ذلك، يعتمد C2PA على التبني الطوعي ويمكن إزالته من الصور من خلال المعالجة القياسية. يجادل النقاد بأنه على الرغم من أن تتبع المصدر يوفر طبقة قيمة من الحماية، إلا أنه لا يمكن أن يحل محل قدرات الكشف القوية للمحتوى الذي لم يتم التوقيع عليه مطلقًا أو تمت إزالة توقيعاته.
ويسلط تحليل رويترز الضوء على صعوبة التحدي الذي يواجه الصناعة. ومع أن أبسط معالجة للصور تتغلب على أدوات الكشف الرائدة، فإن ضمان صحة المحتوى المرئي في عصر الذكاء الاصطناعي يظل مشكلة لم يتم حلها.
ومع استمرار نمو حجم المحتوى الناتج عن الذكاء الاصطناعي بشكل كبير، فإن الضغط على شركات التكنولوجيا لتطوير أنظمة كشف أكثر قوة سوف يتزايد. في الوقت الحالي، تظل الفجوة بين ما تعد به هذه الأدوات وما يمكن أن تقدمه بشكل موثوق، نقطة ضعف خطيرة في مكافحة المعلومات المضللة والوسائط الاصطناعية.
ابق في صدارة الذكاء الاصطناعي
لمزيد من التغطية لتكنولوجيا الذكاء الاصطناعي والتزييف العميق وأصالة المحتوى، تفضل بزيارة AI Buzz Wire.
اقرأ المزيد من أخبار الذكاء الاصطناعي →
