دادگاه عالی نیومکزیکو یک وکیل را به دلیل درخواست تجدید نظر برای قتل که بر اساس شاهدانی که هرگز وجود نداشته اند - که توسط ChatGPT ساخته شده است - تحریم کرده است.

بر اساس گزارشی از رویترز، عالی‌ترین دادگاه ایالتی، استفان آرونز، وکیل سانتافه را به پرداخت 5000 دلار جریمه کرد و او را به دلیل ناتوانی در راستی‌آزمایی ادعاهای واقعی و اختیارات قانونی در گزارش تولید شده توسط هوش مصنوعی خود، تحقیر کرد. این خلاصه که به عنوان بخشی از درخواست تجدیدنظر علیه محکومیت قتل موکلش ارائه شد، "حاوی شهادت دروغ از شهود کاملا ساختگی" همراه با ادعاهای دروغ در مورد لباس و ظاهر تیرانداز بود. برای اطلاعات بیشتر در مورد این داستان، [اخبار جدید هوش مصنوعی] (https://aibuzzwire.news) را ببینید.

آنچه دادگاه پیدا کرد

پرونده دادگاه نادرستی جزئی را توصیف نکرده است. این سند یک سند استیناف را توصیف می‌کرد که مردم را از هوای نازک وسوسه می‌کرد: شهادت‌هایی که به شاهدانی نسبت داده می‌شد که وجود ندارند، و اظهارات پلیس در مورد لباس‌های تیرانداز و ظاهر تیرانداز اختراع شد - دقیقاً نوع جزئیات واقعی که یک محکومیت قتل می‌تواند نشان دهد.

بر اساس گزارش The Verge، که در مورد تشکیل پرونده دادگاه گزارش داد، این تحریم به این دلیل اعمال شد که آرون قبل از ارائه آن به دادگاه، «ادعاهای واقعی و اختیارات قانونی را در گزارش تولید شده توسط هوش مصنوعی خود تأیید نکرد». به عبارت دیگر، مشکل این نبود که یک وکیل از ابزار هوش مصنوعی برای کمک به تهیه پیش‌نویس استفاده می‌کرد. این بود که وکیل بدون بررسی یک ادعای ساختگی در برابر پرونده واقعی محاکمه، خروجی را ثبت کرد.

"مشاور، آیا اخبار را تماشا می کنی؟"

ماهیت خارق‌العاده این پرونده در جلسه اوت ظاهر شد، جایی که آرون اعتراف کرد که از ChatGPT استفاده کرده است و به دادگاه گفت که انتظار داشت چت بات یک "خلاصه ضد گلوله" از محاکمه ارائه دهد. این انتظار با واکنش شدید سی. شانون بیکن، قاضی دادگاه عالی نیومکزیکو مواجه شد.

"مشاور، آیا اخبار تماشا می کنی؟ آیا به رادیو گوش می دهی؟ آیا چیزی در مورد آنچه در جهان می گذرد می خوانی؟" به گزارش رویترز، بیکن پرسید. زیرا مشکل وکلا که به توهمات هوش مصنوعی تکیه می کنند، هر روز یک داستان فوق العاده است.

سرزنش قاضی نشان می‌دهد که استنادها و شهادت‌های ساخته‌شده توسط هوش مصنوعی از یک مشکل فنی خاص به یک مسئولیت حرفه‌ای اصلی تبدیل شده است - چیزی که اکنون قضات بر این باورند که هر وکیل شاغل باید از آن مطلع باشد.

جدیدترین در یک رشته تحریم های هوش مصنوعی

پرونده نیومکزیکو آخرین مورد از لیست دادگاه هایی است که به سرعت در حال رشد هستند و وکلا را به دلیل استفاده کنترل نشده از هوش مصنوعی مجازات می کنند. The Verge خاطرنشان کرد: سال گذشته، یک قاضی دو شرکت حقوقی را به دلیل ارسال خلاصه ای حاوی «استنادات و نقل قول های حقوقی متعدد، نادرست و گمراه کننده» به شدت مورد انتقاد قرار داد، در حالی که وکلای مایک لیندل، بنیانگذار MyPillow نیز به دلیل گنجاندن نقل قول های نادرست تولید شده توسط هوش مصنوعی و استنادات جعلی در پرونده قضایی جریمه شدند.

آنچه تحریم نیومکزیکو را متمایز می کند، موادی است که ساخته شده است. بیشتر پرونده های قبلی شامل استنادات قانونی ابداع شده بودند - سوابق جعلی، نقل قول های جعلی از پرونده های واقعی. در اینجا، جعل به خود حقایق رفت: شهود، شهادت، و شرح شواهد فیزیکی در یک تجدیدنظر کیفری. این تمایز مهم است، زیرا جعل واقعیت در یک پرونده قتل، به هسته اصلی آنچه که بررسی تجدیدنظر برای محافظت وجود دارد، ضربه می زند.

خط روند غیرقابل انکار است. همانطور که The Verge مشاهده کرد، با افزایش تعداد وکلایی که از ابزارهای هوش مصنوعی در کار خود استفاده می کنند، مواردی که در آن دادگاه استنادی هایی را کشف می کند که توسط هوش مصنوعی ساخته شده یا توهم زده شده اند، افزایش می یابد. آنچه زمانی به عنوان یک نظارت شرم آور تلقی می شد، به طور فزاینده ای به عنوان نقص در صلاحیت حرفه ای، با جریمه، احکام تحقیرآمیز و بررسی دقیق مقامات انضباطی مجازات می شود.

"من پشیمانم"

آرون، به نوبه خود، به رویترز گفت که امیدوار است این پیامدها از انضباط حرفه ای متوقف شود. وی در بیانیه‌ای گفت: من پشیمانم اما امیدوار هستم که هیئت انضباطی این اشتباه را صادقانه تشخیص دهد.

اینکه آیا هیئت انضباطی آن را به عنوان یک اشتباه صادقانه تلقی می کند، باید دید، اما عالی ترین دادگاه ایالتی قبلاً دیدگاه خود را روشن کرده است: جریمه 5000 دلاری و توهین به پرونده ای که هرگز برخلاف واقعیت تأیید نشده است.

چرا مهم است

این پرونده در حالی مطرح می شود که دادگاه ها در سراسر کشور موضع خود را در مورد استفاده از هوش مصنوعی در دعوی قضایی سخت تر می کنند. قضات به طور فزاینده ای از وکلا خواسته اند تا تأیید کنند که پرونده های ایجاد شده توسط هوش مصنوعی تأیید شده است و تحریم ها به مکانیزم اجرایی قابل مشاهده تبدیل شده است. پیام دادگاه عالی نیومکزیکو احتمالاً به فراتر از مرزهای آن سفر می کند: وظیفه تأیید شخصی است، غیرقابل واگذاری است و ناپدید نمی شود زیرا یک ربات چت نثری با صدای مطمئن تولید می کند.

برای حرفه حقوقی، محاسبه در حال تغییر است. ابزارهای تهیه پیش نویس هوش مصنوعی می توانند ساعات کار را صرفه جویی کنند، اما یک شاهد ساختگی در یک گزارش ارائه شده اکنون می تواند هزینه جریمه، حکم تحقیرآمیز و ارجاع به مقامات انضباطی را داشته باشد - تجارتی که برای معدودی از پزشکان جذاب است. برای بقیه، این مورد یادآور این است که افرادی که قصد بررسی خروجی‌های هوش مصنوعی را دارند، بیش از هر زمان دیگری تحت فشار هستند تا واقعاً آنها را بررسی کنند.

بیشترین ریسک در پرونده های جنایی است. تحریم های ناشی از استنادات جعلی باعث اتلاف وقت قضایی می شود. شواهد ساختگی در یک درخواست تجدیدنظر قتل، مکانیسمی را که تصمیم می‌گیرد محکومیت را ثابت کند، لمس می‌کند. یک دادگاه استیناف فقط می‌تواند ادعاهایی را که به سوابق واقعی مربوط می‌شود بسنجد - و یک جمع‌آوری مختصر با شاهدان فانتوم از قضات می‌خواهد درباره رویدادهایی که هرگز اتفاق نیفتاده است، تصمیم بگیرند.

---

از هوش مصنوعی جلوتر بمانید

آخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.

بیشتر بخوانید اخبار هوش مصنوعی →