یک قاضی ایالات متحده یکی از مهمترین احکامی را که تاکنون در مورد استفاده از هوش مصنوعی در اجرای قانون صادر کرده است، صادر کرده است و معتقد است که متمم چهارم به پلیس اجازه نمیدهد فردی را بر اساس نتیجهگیری غیرقابل تایید هوش مصنوعی دستگیر کند. این تصمیم که در یک دعوای مدنی توسط آلن ویزکای اوسوریو ارائه شده و از طریق DocumentCloud منتشر شده است، تلاش یک کارآگاه برای ادعای مصونیت واجد شرایط را پس از دستگیری اوسوریو به اتهام پاس کردن چک بدی که صرفاً بر اساس یک مسابقه تشخیص چهره صادر شده است را رد میکند - مسابقهای که دادگاه تشخیص داد آشکارا اشتباه بوده است. پاراگراف آغازین حکم این اصل را به صراحت بیان می کند: "متمم چهارم قانون اساسی ایالات متحده به کارآگاه اجازه نمی دهد که وظیفه ارزیابی علت احتمالی را به هوش مصنوعی محول کند." برای پوشش مداوم [سیاست و مقررات هوش مصنوعی] (https://aibuzzwire.news)، AI Buzz Wire در حال پیگیری درخواستی است که بسیاری انتظار دارند دنبال شود.
یک چک بد، یک اسکرین شات دوربین مدار بسته، و یک مسابقه فیس بوک
این پرونده با اتهامات جنایت کم و تلاش کم پلیس آغاز شد. اوسوریو متهم به پاس کردن چک بدی در یکی از بانک های محلی بود و تنها تصاویر مظنون از فیلم دوربین مداربسته بانک بود. کارآگاه رایان کیلمر از اداره پلیس فلورانس، کنتاکی از چهره مظنون عکس گرفت و آن را از طریق برنامه تشخیص چهره اداره اجرا کرد. این سیستم مطابقت را به نمایه فیس بوک متعلق به شخصی که به عنوان "Yony Smith Npoles Charon" فهرست شده بود، برگرداند - و به دلیل آنچه دادگاه به طور خشک آن را "دلیلی ناشناخته" خواند، کیلمر به این نتیجه رسید که نمایه متعلق به اوسوریو است.
عکس ها داستان دیگری را بیان می کردند. بر اساس این تصمیم، فیلم دوربین مدار بسته و تصویر نمایه فیس بوک "شبیه عکس رزرو اوسوریو نیست." بر اساس عکس رزرو، دادگاه مشاهده کرد، تنها وجه اشتراک اوسوریو با مظنون این بود که هر دو مرد سیاه پوست با موهای صورت بودند. عکسها شکل متفاوت سر، مدل موی متفاوت، ویژگیهای مختلف صورت و چهره متفاوت را نشان میدادند.
سوگندنامه کیلمر به دادگاه گفت که او از "ابزار تحقیقاتی" برای "تطبیق" اوسوریو با مظنون استفاده کرده است. در واقع، قاضی دریافت که او از یک ابزار استفاده کرده و خروجی معیوب آن را پذیرفته است - علیرغم اینکه سیاست فلورانس PD به صراحت بیان میکند که تشخیص چهره به تنهایی برای اثبات علت احتمالی کافی نیست. حکم روشن میکند که کارآگاه قوانین مکتوب بخش خود و الزامات اساسی قانون اساسی را نادیده گرفته است که علت احتمالی ارزیابی واقعی انسانی از شواهد را منعکس میکند.
دادگاه واقعاً چه تصمیمی گرفت
زبان اصلی این تصمیم فراتر از این است که این کارآگاه سهل انگاری کرده است. این قانون قاطعانه را بیان می کند: "متمم چهارم اجازه نمی دهد فردی بر اساس چیزی بیش از نتیجه گیری غیرقابل تایید توسط AI مبنی بر اینکه فرد مورد نظر مرتکب جرم شده است، دستگیر شود. و هیچ کارآگاه معقولی در موضع متهم نمی تواند نتیجه دیگری بگیرد."
جمله دوم کار سنگین را انجام می دهد. دادگاه با بیان اینکه هیچ افسر معقولی نمی تواند باور کند که یک مسابقه هوش مصنوعی تایید نشده کافی است، اساس دفاع مصونیت با شرایط لازم را که معمولاً مقامات را از مسئولیت مدنی محافظت می کند، مگر اینکه حقوق مشخص شده را نقض کنند، از بین برد. به گفته دادگاه، کیلمر نمیتواند پشت این دکترین پنهان شود - هم به این دلیل که خود متمم چهارم کاری را که او انجام میداد ممنوع میکند و هم به این دلیل که خطمشی دپارتمان خودش به طور کتبی به او گفته بود که تشخیص چهره به تنهایی نمیتواند علت احتمالی را تعیین کند.
نتیجه عملی این است که کارآگاه شخصاً با شکایت روبرو می شود، وضعیتی که هم فشار برای حل و فصل را افزایش می دهد و هم احتمال بازبینی استیناف را بیشتر می کند، زیرا افسر اکنون سهم مالی مستقیمی در به چالش کشیدن حکم دارد.
پیامدهایی که فراتر از یک بررسی بد میرسند
مفسران حقوقی خاطرنشان می کنند که منطق این تصمیم به بیرون از بازار رو به رشد هوش مصنوعی پلیس سرایت می کند. همان استدلال - اینکه خروجی الگوریتم تا زمانی که یک انسان مستقلاً آن را تأیید نکند، دلیلی بر علت احتمالی نیست - با قدرت برابر در موارد زیر صدق می کند:
- جستجوهای تشخیص چهره، از جمله سیستم هایی که عکس های نظارتی را با تصاویر خراشیده شده وب مطابقت می دهند، الگوی مورد بحث در این مورد.
- نرم افزار پلیس پیش بینی که گشت ها و تعاملات عمومی را بر اساس پیش بینی های الگوریتمی هدایت می کند.
- گزارشهای پلیس تولید شده توسط هوش مصنوعی، که اکنون توسط فروشندگانی مانند آکسون به دوربینهای بدن اضافه میشوند، با این فرض که افسران ترجیح میدهند آنها را ننویسند - این سوال را ایجاد میکند که آیا روایت ماشینی از توقف یا استفاده از زور میتواند سابقه رسمی را تشکیل دهد.
اگر دادگاه بگوید که یک الگوریتم نمی تواند علت احتمالی را تعیین کند، هر سیستم پایین دستی که بی سر و صدا فرض می کند که الگوریتم واقعاً آن تعیین را به ارث می برد. دپارتمانهایی که خروجیهای هوش مصنوعی را بهعنوان میانبرهای تحقیقاتی تلقی میکنند، ممکن است نیاز داشته باشند که تأییدیه انسانی واقعی را قبل از دستگیری مستند کنند، یا در معرض خطر حذف شواهد و مسئولیت شخصی افسران درگیر باشند.
بعد چه می آید
سوال فوری تجدید نظر است. از آنجایی که مصونیت واجد شرایط رد شد، کارآگاه انگیزه قوی برای پیشبرد پرونده دارد، و سوال قانون اساسی - اینکه آیا ابزارهای هوش مصنوعی میتوانند در ارزیابیهای علت احتمالی شرکت کنند یا نه - دقیقاً همان موضوعی است که دادگاههای استیناف باید به قاعدهای به این گستردگی رضایت دهند تا به سابقه تبدیل شود. گروه های آزادی مدنی احتمالا در حمایت از این حکم مداخله خواهند کرد. اتحادیه های پلیس و فروشندگان هوش مصنوعی به احتمال زیاد عقب نشینی می کنند، با این استدلال که این تصمیم یک تحقیق شلخته را با یک مشکل سیاست فناوری ترکیب می کند.
در هر صورت، این حکم نشانهای را تعیین میکند که ادارات پلیس امروز میتوانند بدون انتظار برای چرخه استیناف بخوانند: خروجی هوش مصنوعی یک سرنخ است، نه یک نتیجه. کارآگاه در این مورد به یک الگوریتم تطبیق چهره اجازه داد تا فکر کند، قانون خود دپارتمان خود را دقیقاً در مورد آن نادیده گرفت و اکنون شخصاً با عواقب آن مواجه است. همانطور که خود تصمیم نشان میدهد، تدوینکنندگان قانون اساسی شبکههای عصبی را پیشبینی نمیکردند - اما این الزام که یک انسان قبل از اینکه دولت فرد را دستگیر کند، برای ترجمه بدون نیاز به هیچ اصلاحیهای مشخص میشود که علت احتمالی را ارزیابی کند.
برای دپارتمان هایی که ابزارهای هوش مصنوعی را خریداری می کنند، پیام به همان اندازه مستقیم است: ادعاهای فروشنده در مورد دقت خط مشی نیستند. قوانین کتبی که نیاز به تایید انسانی دارند - مانند قوانین فلورانس پی دی که کارآگاه نادیده گرفته شد - اکنون نه تنها بهترین روش، بلکه تفاوت بین بخشی است که از یک دعوی قضایی جان سالم به در می برد و افسری که شخصاً هزینه آن را پرداخت می کند.
---
از هوش مصنوعی جلوتر بمانیدآخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.
بیشتر بخوانید اخبار هوش مصنوعی →