فرضت المحكمة العليا في نيو مكسيكو عقوبات على محامٍ لتقديمه استئنافًا في جريمة قتل مبنيًا على شهود لم يكونوا موجودين على الإطلاق - تم اختلاقهم بالجملة بواسطة ChatGPT - في أحد الأمثلة الصارخة حتى الآن على وصول "هلوسة" الذكاء الاصطناعي إلى قلب نظام العدالة الأمريكي.

وفقًا لتقرير صادر عن رويترز، فرضت المحكمة العليا في الولاية غرامة قدرها 5000 دولار على محامي سانتا في ستيفن آرونز واحتجزته بتهمة ازدراء المحكمة لفشله في "التحقق من الادعاءات الواقعية والسلطة القانونية في موجزه الذي أنشأه الذكاء الاصطناعي". المذكرة المقدمة كجزء من الاستئناف ضد إدانة موكله بالقتل، "تحتوي على شهادة زور من شهود ملفقين بالكامل"، إلى جانب ادعاءات كاذبة حول ملابس مطلق النار ومظهره. لمزيد من السياق حول هذه القصة، راجع [أخبار الذكاء الاصطناعي العاجلة] المستمرة لدينا (https://aibuzzwire.news).

ما وجدته المحكمة

ولم يصف ملف المحكمة أي أخطاء طفيفة. لقد وصفت وثيقة استئناف استحضرت الناس من لا شيء: شهادة منسوبة إلى شهود غير موجودين، واخترعت تصريحات للشرطة حول ما كان يرتديه مطلق النار وكيف كان مظهر مطلق النار - وهو على وجه التحديد نوع التفاصيل الواقعية التي يمكن أن تعتمد عليها الإدانة بالقتل.

وفقًا لموقع The Verge، الذي أبلغ عن ملف المحكمة، تم فرض العقوبة لأن آرونز فشل في "التحقق من الادعاءات الواقعية والسلطة القانونية في موجزه الذي أنشأه الذكاء الاصطناعي" قبل تقديمه إلى المحكمة. بمعنى آخر، لم تكن المشكلة في أن المحامي استخدم أداة الذكاء الاصطناعي للمساعدة في الصياغة. وكان أن المحامي قدم مخرجاته دون التحقق من ادعاء واحد ملفق مقابل محضر المحاكمة الفعلي.

"أيها المحامي، هل تشاهد الأخبار؟"

ظهرت الطبيعة غير العادية للقضية في جلسة استماع في أغسطس، حيث اعترف آرونز بأنه استخدم ChatGPT وأخبر المحكمة أنه كان يتوقع أن يقدم برنامج الدردشة الآلي "ملخصًا مضادًا للرصاص" للمحاكمة. وقد أثار هذا التوقع استجابة واضحة من قاضي المحكمة العليا في نيو مكسيكو سي. شانون بيكون.

"أيها المحامي، هل تشاهد الأخبار؟ هل تستمع إلى الراديو؟ هل تقرأ أي شيء عما يحدث في العالم؟" وتساءل بيكون، وفقا لرويترز. "لأن مشكلة اعتماد المحامين على هلوسة الذكاء الاصطناعي هي قصة فوق كل يوم."

لقد أظهر توبيخ العدالة مدى انتقال الاستشهادات والشهادات الملفقة بواسطة الذكاء الاصطناعي من مشكلة فنية متخصصة إلى مسؤولية مهنية سائدة - وهي المسؤولية التي يفترض القضاة الآن أن كل محامٍ ممارس يجب أن يعرفها.

الأحدث في سلسلة عقوبات الذكاء الاصطناعي

قضية نيو مكسيكو هي الأحدث في قائمة سريعة النمو من المحاكم التي تعاقب المحامين على استخدام الذكاء الاصطناعي دون رادع. في العام الماضي، انتقد أحد القضاة شركتين للمحاماة لتقديمهما ملخصًا يحتوي على "العديد من الاستشهادات والاقتباسات القانونية الكاذبة وغير الدقيقة والمضللة"، في حين تم تغريم المحامين الذين يمثلون مؤسس MyPillow، مايك ليندل، أيضًا بسبب إدراج اقتباسات خاطئة واستشهادات مزيفة ناتجة عن الذكاء الاصطناعي في ملف المحكمة، حسبما أشار موقع The Verge.

إن ما يميز عقوبة نيو مكسيكو هو المادة التي تم تصنيعها. تضمنت معظم القضايا السابقة استشهادات قانونية مختلقة - سوابق زائفة، واقتباسات زائفة من قضايا حقيقية. وهنا ذهب التلفيق إلى الوقائع نفسها: الشهود، والشهادات، ووصف الأدلة المادية في الاستئناف الجنائي. وهذا التمييز مهم، لأن تلفيق الحقائق في قضية القتل يضرب في جوهر ما تهدف إليه مراجعة الاستئناف.

خط الاتجاه لا لبس فيه. وكما لاحظت The Verge، مع تزايد عدد المحامين الذين يستخدمون أدوات الذكاء الاصطناعي في عملهم، تزداد أيضًا الحالات التي تكتشف فيها المحكمة الاستشهادات الملفقة - أو المهلوسة - بواسطة الذكاء الاصطناعي. وما كان يُعامَل ذات يوم باعتباره رقابة محرجة يعاقب عليه بشكل متزايد باعتباره فشلاً في الكفاءة المهنية، مع فرض الغرامات، وأحكام الازدراء، والتدقيق من جانب السلطات التأديبية.

"أنا نادم"

ومن جانبه قال آرونز لرويترز إنه يأمل ألا تصل التداعيات إلى مستوى الانضباط المهني. وقال في بيان: "أنا نادم ولكني آمل أن يأخذ مجلس التأديب في الاعتبار أنه كان خطأً صريحاً".

يبقى أن نرى ما إذا كان المجلس التأديبي يتعامل مع الأمر باعتباره خطأً صادقًا، لكن أعلى محكمة في الولاية أوضحت بالفعل وجهة نظرها الخاصة: غرامة قدرها 5000 دولار واحتجاز مذكرة ازدراء لم يتم التحقق منها على الإطلاق ضد الواقع.

لماذا يهم

وتأتي هذه القضية في الوقت الذي تعمل فيه المحاكم في جميع أنحاء البلاد على تشديد مواقفها بشأن استخدام الذكاء الاصطناعي في الدعاوى القضائية. ويطلب القضاة بشكل متزايد من المحامين التصديق على التحقق من صحة الملفات التي أنشأها الذكاء الاصطناعي، وأصبحت العقوبات هي آلية التنفيذ المرئية. ومن المرجح أن تنتقل الرسالة من المحكمة العليا في نيو مكسيكو إلى ما هو أبعد من حدودها: إن واجب التحقق شخصي، وغير قابل للتفويض، ولا يختفي لأن برنامج الدردشة الآلي ينتج نثراً يبدو واثقاً.

بالنسبة لمهنة المحاماة، فإن الحساب يتغير. يمكن لأدوات الصياغة المستندة إلى الذكاء الاصطناعي أن توفر ساعات من العمل، لكن شهادة ملفقة واحدة في مذكرة مقدمة يمكن أن تكلف الآن غرامة مالية، وحكمًا بالازدراء، وإحالة إلى السلطات التأديبية - وهي مهنة لن يجدها سوى عدد قليل من الممارسين. بالنسبة لأي شخص آخر، تعد هذه الحالة بمثابة تذكير بأن الأشخاص المعنيين بالتحقق من مخرجات الذكاء الاصطناعي يتعرضون لضغوط أكبر من أي وقت مضى للتحقق منها فعليًا.

المخاطر أعلى في القضايا الجنائية. إن العقوبات المفروضة على الاستشهادات المزيفة تهدر وقت القضاء؛ تمس الأدلة الملفقة في استئناف جريمة القتل الآلية التي تقرر ما إذا كانت الإدانة قائمة أم لا. لا يمكن لمحكمة الاستئناف أن تنظر إلا في المطالبات المرتبطة بالسجل الحقيقي - وتطلب مذكرة موجزة مع شهود وهميين من القضاة إصدار حكم بشأن الأحداث التي لم تحدث مطلقًا.

---

ابقَ في طليعة الذكاء الاصطناعي

احصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →