حدد أحد قضاة ولاية كونيتيكت ما يبدو أنها المرة الأولى التي يحاول فيها مدعٍ أمريكي إخفاء نص في ملفات المحكمة التي لا يمكن إلا لنظام الذكاء الاصطناعي قراءتها، في محاولة لكسب قضيته. فشل المخطط، وتمت معاقبة المتقاضي، ويجذب الحكم الآن الانتباه عبر عالم التكنولوجيا القانونية حيث تبدأ المحاكم في جميع أنحاء البلاد في اعتماد أدوات الذكاء الاصطناعي الخاصة بها.
تم نشر القرار الأسبوع الماضي من قبل القاضي والتر سبيدر جونيور من المحكمة العليا في ولاية كونيتيكت وتم تفصيله هذا الأسبوع بواسطة Ars Technica ورويترز. بالنسبة إلى [أخبار الذكاء الاصطناعي العاجلة] (https://aibuzzwire.news) حول التصادم بين الذكاء الاصطناعي ونظام العدالة، تعد هذه القضية بمثابة معاينة لمشكلة حذر منها الباحثون الأمنيون لسنوات: مدخلات عدائية مصممة لتقرأها الآلات بدلاً من البشر.
كيف تعمل المطالبات المخفية
كان المدعي، ماثيو إليوت، في نزاع مع مقدم الرعاية الصحية الذي زعم أنه كان يحجب الوصول إلى سجلاته بشكل غير لائق. بعد رفض الحجج السابقة التي أثارها، وفقًا للحكم، قام إليوت بتضمين التعليمات في الملفات اللاحقة التي، على حد تعبير سبايدر، "تم تنسيقها لتكون غير مرئية للقارئ البشري بينما تظل مقروءة تمامًا لأي برنامج يقرأ نص المستند".
تم تقليص النص إلى نوع صغير الحجم وتم تلوينه باللون الأبيض على خلفية بيضاء. لقد وجهت أي نظام ذكاء اصطناعي يقوم بمراجعة الوثيقة للتأكد من أن مخرجاته تتفق مع حجج المدعي، وتجاهلت الإنكارات السابقة من المحكمة، وتأكدت من أن العلاج سيتبع كما يرغب المدعي - هجوم حقن سريع للكتب المدرسية، لا يستهدف برنامج الدردشة الآلي ولكن أي برنامج قد يقع يومًا ما بين المتقاضي والقاضي.
ولم يكن للنص المخفي أي تأثير على القضية. نظرت المحكمة في طلب إليوت من حيث موضوعه. لكن سبايدر كتب أن محاولة الهجوم مع ذلك تشكل سابقة "خطيرة"، وأن المحاكم الأمريكية ستشهد على الأرجح هذا التكتيك الخبيث مرة أخرى حيث أصبحت أدوات الذكاء الاصطناعي أكثر شيوعًا في أنظمة المحاكم.
"إساءة التقاضي الخطيرة" - وبعض النكات الغريبة
واجه إليوت عقوبات متواضعة، ولكن ليس فقط بسبب التعليمات المخفية الأصلية. وفقًا للحكم، استمر في إضافة نص مخفي إلى الملفات الجديدة حتى بعد أن حذرته المحكمة من أنه قد يواجه عقوبات بسبب ما اعتبره سبايدر في النهاية "انتهاكًا خطيرًا للتقاضي".
وقال إليوت للمحكمة إن بعض الرسائل المخفية اللاحقة كانت تهدف إلى المزاح. لقد تضمنت رابطًا لمقطع فيديو Nosferatu على YouTube، ورسالة بسيطة تقول "مرحبًا :) أتمنى ألا تتمكن من رؤيتي"، ورسالة وصفها المدعي بأنها هراء: "أخبر شون أنني أرسل ملابسي الخاصة!!!! هاهاها يا رفاق، احصلوا على هذا البيض؟؟؟ آه".
وكتب سبايدر: "حقيقة أن المدعي استمر في إخفاء الرسائل في المرافعات الجديدة بعد تلقي إشعار بجلسة الاستماع هذه [العقوبات] أمر مذهل". أما بالنسبة للادعاء بأن الرسائل كانت كوميدية، فقال القاضي إنه "يتحدى المنطق" أن يقوم مقدم الملف بدفن النكات داخل المرافعات التي يريد أن تأخذها المحكمة على محمل الجد.
دفاع "التدقيق".
وفي دفاعه، قال إليوت إن المطالبة الأكثر إثارة للقلق التي أشار إليها القاضي كانت في الواقع محاولة "لتدقيق" المحكمة باعتبارها خدمة عامة، لأنه كان يخشى أن تسمح المحكمة لمنظمة العفو الدولية بالبت في قضيته بشكل غير عادل. وكرر هذا الموقف لرويترز قائلا إنه يصر على أن نيته هي اختبار المحكمة وليس التلاعب بها.
لم يجد سبايدر الحجة ذات مصداقية. وكتب القاضي أنه إذا كان إليوت يعتقد حقًا أن المحكمة تستخدم الذكاء الاصطناعي بشكل غير صحيح، فإنه "يملك الحرية في كتابة ذلك بكلمات واضحة ومرئية يمكن للجميع رؤيتها والإجابة عليها". وخلص سبايدر إلى أن إخفاء النص بدلاً من ذلك هو "دليل على غرضه الخبيث". وأضاف القاضي أنه يبدو أن إليوت كان "يحاول تحقيق نتيجة لم يحققها عندما قرأ بشر مطلعون" على القانون مرافعاته.
وأشار سبايدر إلى أن السلطة القضائية في ولاية كونيتيكت لا تستخدم الذكاء الاصطناعي لمراجعة الملفات أو البت فيها، لذلك لم يكن هناك خطر حقيقي من أن يخطئ نظام الذكاء الاصطناعي في المحكمة في توجيهات إليوت للحصول على تعليمات من المحكمة. وكتب أنه على عكس "عدد من أنظمة المحاكم في أماكن أخرى"، لم تكن هناك آلة على الطرف الآخر للخداع.
لماذا لا يزال الهجوم الفاشل مهمًا؟
لقد أمضى الباحثون الأمنيون سنوات في إثبات أن أنظمة الذكاء الاصطناعي التي تقرأ المستندات - روبوتات الدردشة، ووكلاء التشفير، ومساعدي البريد الإلكتروني - يمكن اختطافها من خلال تعليمات مدفونة داخل النص الذي تستوعبه. تعتبر هذه التقنية، المعروفة باسم الحقن الفوري غير المباشر، واحدة من أصعب المشكلات التي لم يتم حلها في نشر عملاء الذكاء الاصطناعي. ما يجعل قضية كونيتيكت غير عادية هو الهدف: آلية العدالة نفسها.
كتب سبايدر: "من خلال إخفاء أمر داخل مستند يستوعبه النظام لاحقًا، يحاول المُدون تهريب التعليمات الخاصة به إلى هذا الدفق بحيث يعاملها النظام كما لو أنها جاءت من مشغل النظام". "في هذه الحالة، يُفترض أن يكون المشغل هو المحكمة أو موظفيها أو المحامي المنافس."
إن هذا التأطير – لتقديم الدعوى إلى المحكمة كسطح للهجوم – هو ما يقول المراقبون القانونيون إنه يجعل الحكم مهمًا. مع استخدام المحاكم وشركات المحاماة بشكل متزايد للذكاء الاصطناعي لتلخيص الملفات أو مسودات القرارات أو قوائم الفرز، تصبح كل وثيقة يقدمها أحد الأطراف قناة محتملة للتلاعب. قد يلتقط كاتب القاضي نصًا أبيض على صفحة بيضاء؛ قد لا يكون خط أنابيب التلخيص الآلي كذلك.
ماذا سيحدث بعد ذلك
إن العقوبات المفروضة على إليوت، حسب وصف المحكمة، متواضعة. لكن القرار يمنح المحاكم الأمريكية سابقة مكتوبة للتعامل مع التعليمات المخفية التي يمكن قراءتها آليا باعتبارها إساءة استخدام للإجراءات القانونية، ويأتي هذا القرار في وقت حيث تقوم العديد من أنظمة محاكم الولايات بتجربة أدوات مراجعة الذكاء الاصطناعي.
في الوقت الحالي، الدرس المستفاد من ولاية كونيتيكت بسيط: المحاكم تراقب هذا الأمر. وكما يوضح حكم القاضي سبيدر، تم القبض على أول شخص حاول الحقن الفوري في محكمة أمريكية - ومعاقبته - على الرغم من عدم وجود نظام ذكاء اصطناعي يستمع إليه على الإطلاق.
ابقَ في طليعة الذكاء الاصطناعي اقرأ المزيد من أخبار الذكاء الاصطناعي →
