أبلغ ممثلون عن OpenAI وMeta Platforms لجنة قضائية اتحادية يوم الخميس أن التزييف العميق الناتج عن الذكاء الاصطناعي أصبح متقدمًا للغاية لدرجة أن التحقق من صحة الأدلة الصوتية والمرئية في المحكمة سيصبح أكثر صعوبة، حسبما ذكرت رويترز.

وقد عرض خبراء التكنولوجيا مخاوفهم في اجتماع عُقد في بوسطن للجنة الاستشارية لقواعد الإثبات التابعة للمؤتمر القضائي الأمريكي* - وهي الهيئة المسؤولة عن التوصية بتغييرات في القواعد الفيدرالية التي تحكم الأدلة التي يمكن للمحاكم قبولها. تعمل اللجنة منذ عام 2023 على كيفية معالجة مخاطر الأدلة الملفقة الناتجة عن الذكاء الاصطناعي في قاعات المحكمة. لمزيد من السياق حول هذه القصة، راجع أحدث تطورات الذكاء الاصطناعي*.

مختبرات الذكاء الاصطناعي تقول إن الاكتشاف ليس له مستقبل علمي

قالت شيرا أندرسون، مستشارة السياسات في شركة OpenAI، للجنة إن صور الذكاء الاصطناعي مستمرة في التحسن من حيث الجودة، وقالت إنها لا تعتقد أنه ستكون هناك طريقة علمية لاكتشافها في المستقبل - وهو اعتراف صارخ من شركة تبني الأنظمة التوليدية التي تنتج هذا المحتوى.

أخبر ديفين نوردر، مدير إدارة المنتجات في ميتا، اللجنة أن الوسائط التي أنشأتها نماذج الذكاء الاصطناعي الحديثة لا يمكن للبشر تمييزها عن المحتوى الأصلي، وأن إنشاء مثل هذه الوسائط يتطلب الآن الحد الأدنى من التكلفة والوقت.

وقد طورت كلتا الشركتين أدوات المصدر والتحقق للمحتوى المرئي، وتتطلب القوانين الجديدة في كاليفورنيا والاتحاد الأوروبي وضع علامة مائية على الوسائط التي يتم إنشاؤها بواسطة الذكاء الاصطناعي. لكن أندرسون حذر اللجنة من أن كل شركة تستخدم نظامها الخاص، مما يعني عدم وجود طريقة عالمية للكشف بشكل موثوق عن جميع العلامات المائية أو التحقق من صحة المحتوى المرئي عبر النظام البيئي.

المحاكم لم تشعر بالموجة بعد

وقدم رئيس اللجنة، قاضي المقاطعة الأمريكية جيسي فورمان من مانهاتن، ثقلًا موازنًا للإنذار: في حين يتوقع التعليق الأكاديمي أن تتعامل المحاكم مع التزييف العميق، فإن القضية لم تظهر بعد بشكل متكرر في القضايا الفعلية.

وقد أبرزت دراسة استقصائية أجراها المركز القضائي الاتحادي في مارس/آذار هذه الفجوة. فقط 15 من أصل 931 قاضيًا الذين استجابوا واجهوا قضية طعن فيها أحد الأطراف في الأدلة على أساس أنها مزيفة بعمق.

وتشكل هذه الفجوة بين التنبؤ والممارسة المعضلة الأساسية للجنة. بموجب القواعد الفيدرالية للأدلة 901 و902، فإن المعيار الحالي لتوثيق الأدلة هو - كما قال تقرير اللجنة نفسه - معيار معتدل: يحتاج الطرف فقط إلى تقديم أدلة كافية لدعم النتيجة التي مفادها أن العنصر هو ما يدعيه المؤيد. وتختبر تقنية التزييف العميق هذا المعيار، لأن المسارات التقليدية للتحقق من صحة التسجيلات (شهادة الشهود، وتوثيق النظام) تفترض أن التزوير على نطاق واسع أمر صعب ومكلف ويمكن اكتشافه.

لقد سلطت تقارير اللجنة نفسها الضوء على المشكلة بوضوح غير عادي. وقد فحص تقريرها الصادر في ديسمبر 2025 ما يحدث عندما يكون مقطع الفيديو أو الصوت المقدم أثناء المحاكمة مزيفًا عميقًا، وخلص إلى أنه يمثل تحديًا مباشرًا لمتطلبات الأصالة بموجب القاعدتين 901 و902 على وجه التحديد لأن معيار الأصالة الحالي هو معيار معتدل. إن كيفية تشديد هذا المعيار - وما إذا كان - هو السؤال الذي ظلت اللجنة تدور حوله لمدة ثلاث سنوات، ويصبح الأمر أكثر إلحاحًا، كما حذر ممثلو المختبر، إذا لم يتمكن علم الكشف أبدًا من اللحاق بعلم الأجيال.

ما يمكن للممارسين فعله الآن

وإلى أن تتغير القواعد، فإن العبء العملي يقع على عاتق المتقاضين وقضاة المحاكمة. أدوات المصدر - بيانات اعتماد المحتوى المشفر المضمنة في وقت الإنشاء - تنتشر عبر تطبيقات الكاميرا والبرامج الإبداعية، على الرغم من أنها تساعد فقط في الوسائط التي تحملها. إن الاستجواب تحت القسم للشخص الذي قام بالتقاط التسجيل، ومطالب الاكتشاف للملفات الأصلية وإنشاء البيانات الوصفية، والتدقيق الدقيق للمقاطع غير المصدر المتداولة على منصات التواصل الاجتماعي هي الدفاعات الحالية. كانت رسالة اللجنة الاستشارية هذا الأسبوع هي أن هذه الحلول المؤقتة ستحتاج إلى أساس رسمي على مستوى القواعد، لأن القواعد غير الرسمية تفترض إمكانية الاكتشاف التي يقول OpenAI و Meta إنها لم تعد موجودة.

ما أهمية شهادة المختبرات؟

واللافت أن الشركات التي تشكل منتجاتها الخطر هي التي تحذر القضاء منها. لدى OpenAI وMeta مصالح تجارية مباشرة ومصالح تتعلق بالسمعة فيما يتعلق بكيفية تطبيق القواعد: يمكن لمتطلبات المصادقة الصارمة أن تفرض احتكاكًا على الاستخدامات المشروعة لوسائط الذكاء الاصطناعي، في حين أن تلك المتساهلة يمكن أن تجعل أدواتها ناقلات للاحتيال في قاعة المحكمة. وكانت رسالتهم إلى اللجنة هي أن معايير المصدر - العلامات المائية، وبيانات اعتماد المحتوى، وتوثيق سلسلة الحيازة - هي المسار العملي، لأن الكشف وحده لن يكون قابلاً للقياس.

ومن المتوقع أن توضح المراجعة التي تجريها اللجنة لمدة ثلاث سنوات ما إذا كانت قواعد الأدلة الفيدرالية بحاجة إلى تعديل لعصر الذكاء الاصطناعي. وأي تغيير سوف يمر عبر عملية وضع القواعد في المؤتمر القضائي، بما في ذلك التعليق العام، قبل الذهاب إلى الكونجرس.

الصورة التنظيمية الأوسع

تقع جلسة الاستماع وسط موجة من النشاط السياسي المتعلق بالتزييف العميق. أصدرت ولاية كاليفورنيا والاتحاد الأوروبي تفويضات بشأن العلامات المائية. تقدمت الدنمارك بتشريع يحظر مشاركة الصور المزيفة للذكاء الاصطناعي دون موافقة. وقد شهدت المحاكم الأمريكية بالفعل ظهور افتراءات تم إنشاؤها بواسطة الذكاء الاصطناعي في الملفات، وفرض القضاة عقوبات على المحامين لتقديم استشهادات مزيفة تم إنشاؤها بواسطة برامج الدردشة الآلية.

في الوقت الحالي، يختار القضاء الفيدرالي إجراء دراسة متأنية للتغيرات السريعة في القواعد. لكن الشهادات التي قدمتها الشركات التي تصنع التكنولوجيا تشير إلى أن الصناعة نفسها لا تتوقع أن تتمكن أدوات الكشف من مواكبة ذلك - مما يحول العبء نحو معايير المصدر، والضمانات الإجرائية مثل متطلبات الشهادة الحية، وفي نهاية المطاف حكم القضاة وهيئات المحلفين حول ما يجب الاعتقاد به.

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →