أصدر قاضٍ أمريكي واحدًا من أهم الأحكام حتى الآن بشأن استخدام الذكاء الاصطناعي في إنفاذ القانون، معتبرًا أن التعديل الرابع لا يسمح للشرطة باعتقال شخص بناءً على لا شيء أكثر من استنتاج غير مدعم بالذكاء الاصطناعي. يرفض القرار، الصادر في دعوى مدنية رفعها آلان فيزكاي أوسوريو وتم نشره عبر DocumentCloud، محاولة أحد المخبرين للمطالبة بالحصانة المؤهلة بعد إلقاء القبض على أوسوريو بزعم اجتيازه شيكًا سيئًا يعتمد فقط على مطابقة التعرف على الوجه - وهي مباراة وجدت المحكمة أنها كانت خاطئة بشكل واضح. وتنص الفقرة الافتتاحية من الحكم على المبدأ بشكل صريح: "إن التعديل الرابع لدستور الولايات المتحدة لا يسمح للمحقق بتفويض الذكاء الاصطناعي بمهمة تقييم السبب المحتمل". من أجل التغطية المستمرة لـ سياسة وتنظيم الذكاء الاصطناعي، تتتبع AI Buzz Wire الجاذبية التي يتوقع الكثيرون أن تتبعها.

شيك سيء، لقطة شاشة من CCTV، ومطابقة على Facebook

بدأت القضية بجريمة مزعومة منخفضة المخاطر وعمل الشرطة منخفض الجهد. تم اتهام أوسوريو بتمرير شيك بدون رصيد في أحد البنوك المحلية، وكانت الصور الوحيدة للمشتبه به جاءت من لقطات كاميرات المراقبة الخاصة بالبنك. التقط المحقق ريان كيلمر من قسم شرطة فلورنسا بولاية كنتاكي لقطة شاشة لوجه المشتبه به وقام بتشغيلها عبر برنامج التعرف على الوجه التابع للقسم. أعاد النظام تطابقًا إلى ملف تعريف على Facebook ينتمي إلى شخص مُدرج باسم "Yony Smith Npoles Charon" - وبسبب ما وصفته المحكمة بـ "سبب غير معروف"، خلص كيلمر إلى أن الملف الشخصي ينتمي إلى Osorio.

الصور تحكي قصة مختلفة. ووفقاً للقرار، فإن لقطات CCTV وصورة الملف الشخصي على Facebook "لا تشبه صورة الحجز الخاصة بـ Osorio". بناءً على صورة الحجز، لاحظت المحكمة أن الشيء الوحيد المشترك بين أوسوريو والمشتبه به هو أن كلاهما كانا رجلين أسودين ولهما شعر في الوجه؛ وأظهرت الصور شكل رأس مختلف، وقصة شعر مختلفة، وملامح وجه مختلفة، وبشرة مختلفة.

وجاء في إفادة كيلمر للمحكمة أنه استخدم "أدوات تحقيق" "لمطابقة" أوسوريو مع المشتبه به. في الواقع، وجد القاضي أنه استخدم أداة واحدة وقبل نتائجها الخاطئة - على الرغم من أن سياسة شرطة فلورنسا تنص صراحة على أن التعرف على الوجه وحده لا يكفي لتحديد سبب محتمل. يوضح الحكم أن المحقق تجاهل القواعد المكتوبة لإدارته والمتطلب الأساسي للدستور بأن السبب المحتمل يعكس تقييمًا بشريًا فعليًا للأدلة.

ما الذي عقدته المحكمة بالفعل

إن اللغة الأساسية للقرار تتجاوز مجرد اكتشاف أن هذا المحقق كان مهملاً. وهو ينص على قاعدة قاطعة: "لا يسمح التعديل الرابع باعتقال أي فرد بناءً على ما لا يزيد عن استنتاج غير مدعم من قبل منظمة العفو الدولية مفاده أن الفرد المعني قد ارتكب جريمة. ولا يمكن لأي محقق معقول في موقف المدعى عليه أن يستنتج خلاف ذلك".

الجملة الثانية تقوم بالرفع الثقيل. ومن خلال الإشارة إلى أنه لا يمكن لأي ضابط عاقل أن يعتقد أن مطابقة الذكاء الاصطناعي غير المدعمة كافية، فقد هدمت المحكمة أساس الدفاع المؤهل عن الحصانة، والذي يحمي المسؤولين عمومًا من المسؤولية المدنية ما لم ينتهكوا حقوقًا راسخة بوضوح. ورأت المحكمة أن كيلمر لا يمكنه الاختباء وراء هذا المبدأ، لأن التعديل الرابع نفسه يحظر ما فعله، ولأن سياسة وزارته أخبرته، كتابيًا، أن التعرف على الوجه وحده لا يمكنه إثبات سبب محتمل.

والنتيجة العملية هي أن المحقق يواجه الدعوى شخصيا، وهو الموقف الذي يزيد من الضغط من أجل التسوية ويجعل مراجعة الاستئناف أكثر احتمالا، لأن الضابط لديه الآن مصلحة مالية مباشرة في الطعن في الحكم.

الآثار المترتبة على ذلك تصل إلى ما هو أبعد من مجرد شيك واحد سيئ

يشير المعلقون القانونيون إلى أن منطق القرار يشع إلى الخارج عبر سوق الذكاء الاصطناعي الشرطي سريع النمو. نفس المنطق - أن مخرجات الخوارزمية ليست دليلاً على سبب محتمل حتى يؤكدها الإنسان بشكل مستقل - ينطبق بنفس القوة على:

  • عمليات البحث للتعرف على الوجه، بما في ذلك الأنظمة التي تطابق لقطات المراقبة مع صور الويب الملتقطة، وهو النمط المعني في هذه الحالة.
  • برنامج الشرطة التنبؤية الذي يوجه الدوريات والتفاعلات العامة بناءً على التنبؤات الخوارزمية.
  • تقارير الشرطة الصادرة عن الذكاء الاصطناعي، والتي تتم إضافتها الآن إلى كاميرات الجسم بواسطة بائعين مثل Axon على أساس أن الضباط يفضلون عدم كتابتها - مما يثير تساؤلًا حول ما إذا كان السرد الذي تمت صياغته آليًا حول التوقف أو استخدام القوة يمكن أن يشكل السجل الرسمي.

إذا قالت المحكمة إن الخوارزمية لا يمكنها اتخاذ قرار بشأن السبب المحتمل، فإن كل نظام فرعي يفترض بهدوء أن الخوارزمية هي التي قامت بهذا التحديد يرث المشكلة. قد تحتاج الإدارات التي تعاملت مع مخرجات الذكاء الاصطناعي باعتبارها طرق تحقيق مختصرة إلى توثيق التأييد البشري الحقيقي قبل الاعتقال، أو المخاطرة باستبعاد الأدلة والمسؤولية الشخصية للضباط المعنيين.

ما يأتي بعد ذلك

السؤال المباشر هو الاستئناف. نظرًا لرفض الحصانة المؤهلة، فإن لدى المحقق دافعًا قويًا لرفع القضية إلى أعلى، والسؤال الدستوري - ما إذا كانت أدوات الذكاء الاصطناعي يمكن أن تشارك في تقييمات الأسباب المحتملة وكيف وكيف - هو بالضبط نوع القضايا التي ستحتاج محاكم الاستئناف إلى حلها لقاعدة بهذا النطاق لتصبح سابقة. ومن المرجح أن تتدخل جماعات الحريات المدنية لدعم الحكم. ومن المرجح أن تعارض نقابات الشرطة وبائعي الذكاء الاصطناعي، بحجة أن القرار يخلط بين تحقيق غير دقيق ومشكلة سياسة التكنولوجيا.

وفي كلتا الحالتين، فإن الحكم يضع علامة يمكن لأقسام الشرطة قراءتها اليوم، دون انتظار دورة الاستئناف: إن مخرجات الذكاء الاصطناعي هي مقدمة وليست نتيجة. سمح المحقق في هذه الحالة لخوارزمية مطابقة الوجه بالتفكير، وتجاهل قاعدة قسمه ضد ذلك بالضبط، ويواجه الآن العواقب شخصيًا. وكما يشير القرار نفسه، فإن واضعي الدستور لم يتوقعوا وجود شبكات عصبية، ولكن تبين أن اشتراط قيام الإنسان بتقييم السبب المحتمل قبل أن تستولي الدولة على شخص ما، يمكن ترجمته دون الحاجة إلى أي تعديل.

بالنسبة للأقسام التي تتسوق لشراء أدوات الذكاء الاصطناعي، تكون الرسالة مباشرة بنفس القدر: ادعاءات البائع بشأن الدقة ليست سياسة. إن القواعد المكتوبة التي تتطلب تأييدًا بشريًا - مثل قواعد شرطة فلورنسا، والتي تجاهلها المحقق - لم تعد الآن أفضل ممارسة فحسب، بل هي الفرق بين الإدارة التي تنجو من دعوى قضائية والضابط الذي يدفع ثمنها شخصيًا.

---

ابقَ في طليعة الذكاء الاصطناعي

احصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →