کنیکٹیکٹ کے ایک جج نے اس بات کی نشاندہی کی ہے کہ ایسا لگتا ہے کہ پہلی بار کسی امریکی مدعی نے عدالتی فائلنگ میں متن چھپانے کی کوشش کی ہے جسے صرف مصنوعی ذہانت کا نظام ہی پڑھ سکتا ہے، اپنا مقدمہ جیتنے کی کوشش میں۔ اسکیم ناکام ہو گئی، مدعی کو منظور کر لیا گیا، اور حکمراں اب قانونی ٹیکنالوجی کی دنیا میں توجہ مبذول کر رہا ہے کیونکہ ملک بھر کی عدالتوں نے اپنے طور پر AI ٹولز کو اپنانا شروع کر دیا ہے۔
یہ فیصلہ گزشتہ ہفتے کنیکٹی کٹ سپیریئر کورٹ کے جج والٹر سپیڈر جونیئر نے شائع کیا تھا اور اس ہفتے ارس ٹیکنیکا اور رائٹرز نے اس کی تفصیل دی۔ مصنوعی ذہانت اور نظام انصاف کے درمیان تصادم پر بریکنگ AI نیوز کے لیے، یہ کیس اس مسئلے کا پیش نظارہ ہے جس کے بارے میں سیکیورٹی محققین نے برسوں سے متنبہ کیا ہے: مخالفانہ ان پٹس جنہیں انسانوں کے بجائے مشینوں کے ذریعے پڑھنے کے لیے ڈیزائن کیا گیا ہے۔
چھپے ہوئے اشارے کیسے کام کرتے ہیں۔
مدعی، میتھیو ایلیٹ، صحت کی دیکھ بھال فراہم کرنے والے کے ساتھ تنازعہ میں بند تھا کہ اس نے الزام لگایا کہ اس کے ریکارڈ تک رسائی کو غلط طریقے سے روک رہا ہے۔ اس سے پہلے کے دلائل کے بعد جو اس نے اٹھائے تھے وہ شکست کھا گئے تھے، حکم کے مطابق، ایلیٹ نے بعد کی فائلنگز میں ان ہدایات کو سرایت کر دیا جو کہ اسپیڈر کے الفاظ میں، "کسی بھی سافٹ ویئر کے لیے مکمل طور پر قابل مطالعہ رہتے ہوئے دستاویز کے متن کو پڑھنے والے کسی بھی سافٹ ویئر کے لیے غیر مرئی ہونے کے لیے فارمیٹ کیا گیا تھا۔"
متن چھوٹے پوائنٹ کی قسم تک سکڑ گیا تھا اور سفید پس منظر پر سفید رنگ کا تھا۔ اس نے دستاویز کا جائزہ لینے والے کسی بھی AI سسٹم کو ہدایت کی کہ اس کے نتائج مدعی کے دلائل سے متفق ہوں، عدالت کی طرف سے پیشگی تردیدوں کو نظر انداز کیا جائے، اور اس بات کو یقینی بنایا جائے کہ مدعی کی مرضی کے مطابق تدارک کیا جائے گا - ایک ٹیکسٹ بک پرامپٹ انجیکشن اٹیک، جس کا مقصد چیٹ بوٹ نہیں بلکہ جو بھی سافٹ ویئر ہو سکتا ہے کہ ایک دن ایک وکیل اور جج کے درمیان بیٹھ جائے۔
چھپے ہوئے متن کا کیس پر کوئی اثر نہیں ہوا۔ عدالت نے ایلیٹ کی فائلنگ کو اس کے میرٹ پر تولا۔ لیکن اسپیڈر نے لکھا کہ اس کے باوجود حملے کی کوشش ایک "خطرناک" مثال قائم کرتی ہے، اور یہ کہ امریکی عدالتیں ممکنہ طور پر ایک بار پھر بدنیتی پر مبنی حربہ دیکھیں گی کیونکہ عدالتی نظام میں AI ٹولز زیادہ عام ہو گئے ہیں۔
"سنگین قانونی چارہ جوئی" — اور کچھ عجیب لطیفے۔
ایلیٹ کو معمولی پابندیوں کا سامنا کرنا پڑا، لیکن نہ صرف اصل پوشیدہ ہدایات کے لیے۔ فیصلے کے مطابق، اس نے نئی فائلنگز میں پوشیدہ متن کو شامل کرنا جاری رکھا یہاں تک کہ عدالت نے اسے متنبہ کیا کہ اسے اس کے لیے سزا کا سامنا کرنا پڑ سکتا ہے جسے اسپیڈر نے بالآخر "سنگین قانونی چارہ جوئی" سمجھا۔
ایلیٹ نے عدالت کو بتایا کہ بعد میں کچھ پوشیدہ پیغامات تھے، جن کا مقصد لطیفہ تھا۔ ان میں ایک Nosferatu YouTube ویڈیو کا ایک لنک شامل تھا، ایک سادہ پیغام جس میں لکھا ہوا تھا "ہائے :) مجھے امید ہے کہ آپ مجھے دیکھ سکتے ہیں" اور ایک پیغام جس کو مدعی نے بکواس کے طور پر بیان کیا ہے: "Tell SHAWN I SEND MY RE Garbs!!!! HAHAHAHA U GUYS GET THIS EGWUH???? AHAH."
"حقیقت یہ ہے کہ مدعی نے اس [پابندیوں] کی سماعت کا نوٹس ملنے کے بعد نئی درخواستوں میں پیغامات کو چھپانا جاری رکھا" حیرت انگیز ہے۔ جہاں تک اس دعوے کا تعلق ہے کہ پیغامات مزاحیہ تھے، جج نے کہا کہ یہ "منطق کی نفی کرتا ہے" ایک فائلر کے لیے ان درخواستوں کے اندر لطیفے دفن کرنا جو وہ چاہتا ہے کہ عدالت سنجیدگی سے لے۔
"آڈٹ" دفاع
اپنے دفاع میں، ایلیٹ نے استدلال کیا کہ جج کی طرف سے سب سے زیادہ متعلقہ فوری طور پر عدالت کو عوامی خدمت کے طور پر "آڈٹ" کرنے کی کوشش تھی، کیونکہ اسے خدشہ تھا کہ عدالت AI کو اس کے کیس کا غیر منصفانہ فیصلہ کرنے دے رہی ہے۔ انہوں نے رائٹرز کے سامنے اس موقف کو دہراتے ہوئے کہا کہ وہ برقرار رکھتے ہیں کہ ان کا ارادہ عدالت میں ہیرا پھیری کرنے کے بجائے اسے جانچنا تھا۔
اسپیڈر کو یہ دلیل قابل اعتبار نہیں لگی۔ اگر ایلیٹ کو حقیقی طور پر یقین ہے کہ عدالت غلط طریقے سے AI کا استعمال کر رہی ہے، جج نے لکھا، وہ "سادہ، مرئی الفاظ میں ایسا لکھنے کے لیے آزاد تھا کہ ہر کوئی دیکھ اور جواب دے سکے۔" اس کے بجائے متن کو چھپانا، اسپیڈر نے نتیجہ اخذ کیا، "اس کے بدنیتی پر مبنی مقصد کا ثبوت ہے۔" جج نے مزید کہا کہ ایسا لگتا ہے کہ ایلیٹ "ایسا نتیجہ حاصل کرنے کی کوشش کر رہا تھا جب وہ حاصل نہیں کرسکا جب قانون کے جاننے والے" اس کی درخواستیں پڑھتے تھے۔
خاص طور پر، کنیکٹیکٹ جوڈیشل برانچ فائلنگ کا جائزہ لینے یا فیصلہ کرنے کے لیے AI کا استعمال نہیں کرتی ہے، اسپیڈر نے نشاندہی کی - اس لیے اس بات کا کوئی حقیقی خطرہ نہیں تھا کہ عدالتی AI سسٹم ایلیٹ کی طرف سے دی گئی ہدایات کو غلط سمجھے۔ انہوں نے لکھا کہ "دوسری جگہوں پر متعدد عدالتی نظام" کے برعکس، بے وقوف بنانے کے لیے دوسری طرف کوئی مشین نہیں تھی۔
کیوں ناکام حملہ اب بھی اہمیت رکھتا ہے۔
سیکیورٹی محققین نے یہ ظاہر کرنے میں برسوں گزارے ہیں کہ AI سسٹم جو دستاویزات کو پڑھتے ہیں - چیٹ بوٹس، کوڈنگ ایجنٹس، ای میل اسسٹنٹس - کو ان ہدایات کے ذریعے ہائی جیک کیا جا سکتا ہے جو وہ ہضم کرتے ہیں۔ بالواسطہ فوری انجیکشن کے نام سے جانے والی تکنیک کو AI ایجنٹوں کی تعیناتی میں سب سے مشکل حل طلب مسائل میں سے ایک سمجھا جاتا ہے۔ کنیکٹیکٹ کیس کو جو چیز غیر معمولی بناتی ہے وہ ہدف ہے: خود انصاف کی مشینری۔
اسپیڈر نے لکھا، "کسی دستاویز کے اندر ایک کمانڈ کو چھپا کر جسے سسٹم بعد میں کھاتا ہے، فائلر اپنی ہدایات کو اس سلسلے میں اسمگل کرنے کی کوشش کرتا ہے تاکہ سسٹم اس کے ساتھ ایسا سلوک کرے جیسے یہ سسٹم کے آپریٹر کی طرف سے آیا ہو،" اسپیڈر نے لکھا۔ "اس معاملے میں آپریٹر کو عدالت، اس کا عملہ، یا مخالف وکیل سمجھا جاتا ہے۔"
یہ فریمنگ - حملہ کی سطح کے طور پر عدالت میں دائر کرنا - وہی ہے جو قانونی مبصرین کا کہنا ہے کہ فیصلے کو اہم بناتا ہے۔ چونکہ عدالتیں اور قانونی فرمیں فائلنگ، ڈرافٹ فیصلوں یا ٹرائیج ڈاکٹس کا خلاصہ کرنے کے لیے تیزی سے AI کا استعمال کرتی ہیں، اس لیے فریق کی طرف سے جمع کرائی گئی ہر دستاویز ہیرا پھیری کا ایک ممکنہ ذریعہ بن جاتی ہے۔ ایک جج کا کلرک سفید صفحہ پر سفید متن پکڑ سکتا ہے۔ ایک خودکار خلاصہ پائپ لائن نہیں ہوسکتی ہے۔
آگے کیا ہوتا ہے۔
ایلیٹ کے خلاف پابندیاں، عدالت کی اپنی وضاحت کے مطابق، معمولی ہیں۔ لیکن یہ فیصلہ امریکی عدالتوں کو چھپی ہوئی مشین سے پڑھنے کے قابل ہدایات کو قانونی عمل کے غلط استعمال کے طور پر برتاؤ کرنے کی ایک تحریری نظیر دیتا ہے، اور یہ ایک ایسے وقت میں آتا ہے جب کئی ریاستی عدالتی نظام AI جائزہ لینے والے آلات کے ساتھ فعال طور پر تجربہ کر رہے ہیں۔
ابھی کے لیے، کنیکٹیکٹ سے سبق آسان ہے: عدالتیں اس پر نظر رکھے ہوئے ہیں۔ جیسا کہ جج اسپیڈر کا فیصلہ واضح کرتا ہے، امریکی عدالت میں فوری طور پر انجیکشن لگانے کی کوشش کرنے والا پہلا شخص پکڑا گیا - اور اسے منظور کیا گیا - حالانکہ کوئی AI سسٹم کبھی نہیں سن رہا تھا۔
AI سے آگے رہیں مزید AI خبریں پڑھیں →
