یک قاضی کانکتیکات شناسایی کرده است که به نظر می رسد اولین باری است که یک شاکی آمریکایی سعی می کند متنی را در پرونده های دادگاه مخفی کند که فقط یک سیستم هوش مصنوعی می تواند بخواند، تا در تلاش برای برنده شدن در پرونده خود باشد. این طرح شکست خورد، طرف دعوا تحریم شد، و این حکم اکنون توجه همه دنیای فناوری حقوقی را به خود جلب کرده است زیرا دادگاههای سراسر کشور شروع به استفاده از ابزارهای هوش مصنوعی خود کردهاند.
این تصمیم هفته گذشته توسط قاضی والتر اسپیدر جونیور از دادگاه عالی کانکتیکات منتشر شد و این هفته توسط Ars Technica و رویترز به تفصیل شرح داده شد. برای [اخبار فوری هوش مصنوعی] (https://aibuzzwire.news) در مورد برخورد بین هوش مصنوعی و سیستم قضایی، این مورد پیش نمایش مشکلی است که محققان امنیتی سال ها درباره آن هشدار داده اند: ورودی های متخاصم که برای خواندن توسط ماشین ها به جای انسان طراحی شده اند.
اعلان های پنهان چگونه کار می کردند
شاکی، متیو الیوت، در یک مشاجره با یک ارائه دهنده مراقبت های بهداشتی که به ادعای او به طور نادرست دسترسی به سوابق خود را ممنوع کرده بود، قفل شد. بر اساس این حکم، پس از شکست استدلالهای قبلی که وی مطرح کرده بود، الیوت دستورالعملهایی را در پروندههای بعدی قرار داد که به قول اسپادر، "قالببندی شده بود تا برای یک خواننده انسانی نامرئی باشد و در عین حال برای هر نرمافزاری که متن سند را میخواند کاملاً خوانا باقی بماند."
متن به نوع نقطه ریز کوچک شد و روی پسزمینه سفید به رنگ سفید درآمد. به هر سیستم هوش مصنوعی که سند را بازبینی میکند، دستور میدهد تا مطمئن شود که خروجیهای آن با استدلالهای شاکی موافق است، انکار قبلی دادگاه را نادیده میگیرد، و اطمینان حاصل میکند که اصلاحات مطابق میل شاکی دنبال میشود - یک حمله تزریق سریع کتاب درسی، نه یک ربات چت، بلکه هر نرمافزاری که ممکن است روزی بین یک طرف دعوا و قاضی قرار گیرد.
متن پنهان هیچ تاثیری روی پرونده نداشت. دادگاه پرونده الیوت را بر اساس ماهیت آن ارزیابی کرد. اما اسپیدر نوشت که تلاش برای حمله با این وجود سابقه ای "خطرناک" ایجاد می کند و دادگاه های ایالات متحده احتمالاً با رایج تر شدن ابزارهای هوش مصنوعی در سیستم های دادگاه، این تاکتیک مخرب را دوباره مشاهده خواهند کرد.
"سوء استفاده جدی از دعاوی حقوقی" - و برخی شوخی های عجیب و غریب
الیوت با تحریم های ملایمی مواجه شد، اما نه تنها به دلیل دستورالعمل های پنهان اصلی. بر اساس این حکم، او حتی پس از اینکه دادگاه به او هشدار داد ممکن است به دلیل آنچه که اسپادر در نهایت "سوءاستفاده جدی از دعوی قضایی" میداند، با مجازات مواجه شود، همچنان متنی مخفی را به پروندههای جدید اضافه میکند.
الیوت در دادگاه گفت، برخی از پیامهای پنهان بعدی، شوخی بود. آنها شامل پیوندی به یک ویدیوی یوتیوب Nosferatu، یک پیام ساده با خواندن "سلام :) امیدوارم که نتوانید مرا ببینید، و پیامی که شاکی آن را بیهوده توصیف کرد: "به شاون بگو من لباس هایم را می فرستم!!!! HAHAHA U GUYS GET THIS EGGWUH???? AHAH."
اسپیدر نوشت: «این واقعیت که شاکی پس از دریافت اطلاعیه از این جلسه [تحریمها] همچنان پیامها را در دادخواستهای جدید پنهان میکرد، خیرهکننده است. در مورد ادعای کمدی بودن این پیامها، قاضی گفت که این «منطق را نقض میکند» که یک پرونده جوکها را در ادعاهایی که میخواهد دادگاه جدی بگیرد، دفن میکند.
دفاع "حسابرسی".
الیوت در دفاع از خود استدلال کرد که نگرانکنندهترین درخواستی که قاضی نشان میدهد در واقع تلاشی برای «حسابرسی» دادگاه بهعنوان یک سرویس عمومی بود، زیرا او میترسید دادگاه اجازه دهد که هوش مصنوعی بهطور ناعادلانه درباره پرونده او تصمیمگیری کند. او این موضع را به رویترز تکرار کرد و گفت که قصدش آزمایش دادگاه به جای دستکاری در آن بود.
اسپیدر این استدلال را معتبر ندانست. قاضی نوشت: اگر الیوت واقعاً معتقد بود دادگاه بهطور نادرست از هوش مصنوعی استفاده میکند، «آزاد بود تا با کلماتی ساده و قابل مشاهده بنویسد که همه بتوانند ببینند و پاسخ دهند». اسپادر به این نتیجه رسید که پنهان کردن متن به جای آن "شواهدی از هدف مخرب آن" است. قاضی اضافه کرد که به نظر می رسد الیوت "در تلاش برای دستیابی به نتیجه ای است که به دست نیاورده است، زمانی که انسان ها، آگاه" از قانون، درخواست های او را می خوانند.
شایان ذکر است که شعبه قضایی کانکتیکات از هوش مصنوعی برای بررسی یا تصمیمگیری پروندهها استفاده نمیکند - بنابراین هرگز خطر واقعی وجود نداشت که سیستم هوش مصنوعی دادگاه دستورات الیوت را برای دستورالعملهای دادگاه اشتباه کند. او نوشت، برخلاف «تعدادی از سیستمهای دادگاهی در جاهای دیگر»، هیچ ماشینی در آن طرف وجود نداشت که بتواند فریب دهد.
چرا یک حمله شکست خورده هنوز مهم است
محققان امنیتی سالها صرف نشان دادن این موضوع کردهاند که سیستمهای هوش مصنوعی که اسناد را میخوانند - چتباتها، عاملهای کدنویسی، دستیاران ایمیل - میتوانند با دستورالعملهایی که در داخل متنی که دریافت میکنند، دزدیده شوند. این تکنیک که به عنوان تزریق سریع غیرمستقیم شناخته می شود، یکی از سخت ترین مشکلات حل نشده در استقرار عوامل هوش مصنوعی در نظر گرفته می شود. چیزی که پرونده کانکتیکات را غیرعادی می کند، هدف است: خود دستگاه عدالت.
اسپیدر مینویسد: «با مخفی کردن دستوری در داخل سندی که بعداً سیستم آن را دریافت میکند، فایلکننده تلاش میکند دستورالعملهای خود را به آن جریان قاچاق کند تا سیستم با آن بهگونهای رفتار کند که انگار از طرف اپراتور سیستم آمده است». "در این مورد فرض می شود که اپراتور دادگاه، کارکنان آن یا وکیل مخالف است."
این چارچوب - تشکیل پرونده دادگاه به عنوان سطح حمله - همان چیزی است که ناظران حقوقی می گویند این حکم را قابل توجه می کند. از آنجایی که دادگاه ها و شرکت های حقوقی به طور فزاینده ای از هوش مصنوعی برای خلاصه کردن پرونده ها، پیش نویس تصمیمات یا اسناد تریاژ استفاده می کنند، هر سند ارائه شده توسط یک طرف به یک کانال بالقوه برای دستکاری تبدیل می شود. منشی قاضی ممکن است متن سفید را در یک صفحه سفید ببیند. یک خط لوله خلاصه خودکار ممکن است نباشد.
بعد چه اتفاقی می افتد
تحریمها علیه الیوت، طبق توصیف خود دادگاه، بسیار کم است. اما این تصمیم به دادگاه های ایالات متحده یک سابقه مکتوب برای تلقی دستورالعمل های مخفی قابل خواندن توسط ماشین به عنوان سوء استفاده از روند قانونی می دهد و در لحظه ای می رسد که چندین سیستم دادگاه ایالتی به طور فعال در حال آزمایش ابزارهای بررسی هوش مصنوعی هستند.
در حال حاضر، درس از کانکتیکات ساده است: دادگاه ها مراقب این موضوع هستند. همانطور که حکم قاضی اسپیدر روشن میکند، اولین کسی که آزمایش تزریق سریع در دادگاه ایالات متحده را انجام داد، دستگیر شد - و تحریم شد - حتی اگر هیچ سیستم هوش مصنوعی هرگز گوش نمیداد.
از هوش مصنوعی جلوتر بمانید بیشتر بخوانید اخبار هوش مصنوعی →
