اوپن اے آئی اور میٹا پلیٹ فارمز کے نمائندوں نے جمعرات کو ایک وفاقی عدالتی پینل کو بتایا کہ اے آئی سے تیار کردہ ڈیپ فیکس اتنے ترقی یافتہ ہو گئے ہیں کہ عدالت میں آڈیو اور ویڈیو شواہد کی صداقت کی تصدیق کرنا مزید مشکل ہو جائے گا۔
ٹکنالوجی کے ماہرین نے یو ایس جوڈیشل کانفرنس کی ایڈوائزری کمیٹی آن ایویڈینس رولز کی بوسٹن میں ایک میٹنگ میں اپنے تحفظات پیش کیے — جو وفاقی قواعد میں تبدیلیوں کی سفارش کرنے کا ذمہ دار ادارہ ہے جو اس بات پر حکمرانی کرتے ہیں کہ عدالتیں کن ثبوتوں کو تسلیم کرسکتی ہیں۔ کمیٹی 2023 سے اس بات پر کام کر رہی ہے کہ کمرہ عدالتوں میں من گھڑت AI سے پیدا ہونے والے شواہد کے خطرات سے کیسے نمٹا جائے۔ For more context on this story, see our ongoing AI industry coverage.
AI لیبز کا کہنا ہے کہ پتہ لگانے کا کوئی سائنسی مستقبل نہیں ہے۔
OpenAI کی پالیسی کونسل، شیرا اینڈرسن نے کمیٹی کو بتایا کہ AI امیجز کے معیار میں بہتری آرہی ہے، اور کہا کہ انہیں یقین نہیں ہے کہ ان کا پتہ لگانے کا کوئی سائنسی طریقہ مستقبل میں موجود ہو گا - ایک کمپنی کی طرف سے زبردست داخلہ جو کہ مواد تیار کرنے والے جنریٹو سسٹم بناتی ہے۔
میٹا میں پروڈکٹ مینجمنٹ کے ڈائریکٹر ڈیوین نورڈر نے پینل کو بتایا کہ حالیہ AI ماڈلز کے ذریعے بنائے گئے میڈیا کو انسان مستند مواد سے ممتاز نہیں کر سکتے، اور یہ کہ اس طرح کے میڈیا کو بنانے کے لیے اب کم سے کم لاگت اور وقت درکار ہے۔
دونوں کمپنیوں نے بصری مواد کے لیے پرویننس اور تصدیقی ٹولز تیار کیے ہیں، اور کیلیفورنیا اور یورپی یونین میں نئے قوانین کے لیے AI سے تیار کردہ میڈیا کی واٹر مارکنگ کی ضرورت ہے۔ لیکن اینڈرسن نے کمیٹی کو متنبہ کیا کہ ہر کمپنی اپنا نظام استعمال کرتی ہے، یعنی تمام واٹر مارکس کا قابل اعتماد طریقے سے پتہ لگانے یا پورے ماحولیاتی نظام میں بصری مواد کی صداقت کی تصدیق کے لیے کوئی عالمگیر طریقہ موجود نہیں ہے۔
عدالتوں نے ابھی تک اس لہر کو محسوس نہیں کیا۔
کمیٹی کے سربراہ، مین ہٹن کے یو ایس ڈسٹرکٹ جج جیسی فرمین نے خطرے کی گھنٹی کا جواب دینے کی پیشکش کی: جب کہ تعلیمی کمنٹری نے پیش گوئی کی ہے کہ عدالتیں ڈیپ فیکس سے نمٹیں گی، یہ مسئلہ ابھی تک اصل معاملات میں کثرت سے سامنے نہیں آیا ہے۔
مارچ میں فیڈرل جوڈیشل سینٹر کی طرف سے کئے گئے ایک سروے نے اس فرق کو واضح کیا۔ جواب دینے والے 931 ججوں میں سے صرف 15 ججز کو ایک ایسے کیس کا سامنا کرنا پڑا جہاں ایک فریق نے اس بنیاد پر ثبوت کو چیلنج کیا کہ یہ ڈیپ فیک تھا۔
پیشین گوئی اور عمل کے درمیان یہ فرق کمیٹی کا بنیادی مخمصہ ہے۔ ثبوت کے وفاقی اصول 901 اور 902 کے تحت، ثبوت کی تصدیق کے لیے موجودہ معیار ہے - جیسا کہ کمیٹی کی اپنی رپورٹ میں کہا گیا ہے - ایک ہلکا: ایک فریق کو صرف اس بات کی حمایت کرنے کے لیے کافی ثبوت پیش کرنے کی ضرورت ہوتی ہے کہ وہ چیز وہی ہے جس کا دعویٰ کرنے والا دعوی کرتا ہے۔ ڈیپ فیکس اس معیار کی جانچ پڑتال کرتے ہیں، کیونکہ ریکارڈنگ کی توثیق کرنے کے روایتی راستے (گواہوں کی گواہی، سسٹم کی دستاویزات) یہ فرض کرتے ہیں کہ بڑے پیمانے پر جعلسازی مشکل، مہنگی اور قابل شناخت ہے۔
کمیٹی کی اپنی رپورٹنگ نے اس مسئلے کو غیر معمولی دو ٹوک انداز میں پیش کیا ہے۔ اس کی دسمبر 2025 کی رپورٹ میں اس بات کا جائزہ لیا گیا کہ جب ٹرائل کے دوران پیش کی جانے والی ویڈیو یا آڈیو ڈیپ فیک ہو تو کیا ہوتا ہے، یہ نتیجہ اخذ کرتا ہے کہ یہ اصول 901 اور 902 کے تحت صداقت کے تقاضوں کو براہ راست چیلنج پیش کرتا ہے کیونکہ صداقت کا موجودہ معیار ہلکا ہے۔ اس معیار کو کس طرح اور سخت کرنا ہے - یہ سوال ہے کہ کمیٹی تین سالوں سے چکر لگا رہی ہے، اور یہ زیادہ ضروری ہو جاتا ہے اگر، جیسا کہ لیب کے نمائندوں نے خبردار کیا، پتہ لگانے کی سائنس کبھی بھی جنریشن سائنس کے ساتھ نہیں ملتی۔
پریکٹیشنرز اب کیا کر سکتے ہیں۔
جب تک قوانین تبدیل نہیں ہوتے، عملی بوجھ قانونی چارہ جوئی کرنے والوں اور ٹرائل ججوں پر پڑتا ہے۔ پرووینس ٹولز — تخلیق کے وقت سرایت شدہ کرپٹوگرافک مواد کی اسناد — کیمرہ ایپس اور تخلیقی سافٹ ویئر کے ذریعے پھیل رہے ہیں، حالانکہ وہ صرف ان میڈیا کے لیے مدد کرتے ہیں جو انہیں لے جاتا ہے۔ ریکارڈنگ حاصل کرنے والے شخص کے حلف کے تحت جرح، اصل فائلوں اور جنریشن میٹا ڈیٹا کے لیے دریافت کے مطالبات، اور سوشل پلیٹ فارمز پر گردش کرنے والے غیر منبع کلپس کی قریب سے جانچ کرنا موجودہ دفاع ہیں۔ اس ہفتے ایڈوائزری کمیٹی کا پیغام مؤثر طریقے سے تھا کہ ان سٹاپ گیپس کو باقاعدہ قواعد کی سطح کی بنیاد کی ضرورت ہوگی، کیونکہ غیر رسمی لوگ اس بات کا پتہ لگاتے ہیں کہ OpenAI اور Meta کا کہنا ہے کہ اب موجود نہیں ہے۔
لیبز کی گواہی کیوں اہمیت رکھتی ہے۔
یہ بات قابل ذکر ہے کہ جن کمپنیوں کی مصنوعات سے خطرہ پیدا ہوتا ہے وہی کمپنیاں اس بارے میں عدلیہ کو خبردار کرتی ہیں۔ اوپن اے آئی اور میٹا کے براہ راست تجارتی اور شہرت کے مفادات ہیں کہ قوانین کیسے نافذ ہوتے ہیں: تصدیق کے سخت تقاضے AI میڈیا کے جائز استعمال پر رگڑ ڈال سکتے ہیں، جب کہ کمزور لوگ اپنے ٹولز کو کمرہ عدالت میں دھوکہ دہی کا ذریعہ بنا سکتے ہیں۔ کمیٹی کو ان کا پیغام مؤثر طریقے سے یہ تھا کہ پرویننس کے معیارات - واٹر مارکنگ، مواد کی اسناد، زنجیر کی حراستی دستاویزات - قابل عمل راستہ ہیں، کیونکہ صرف پتہ لگانے سے پیمانہ نہیں ہوگا۔
کمیٹی کے تین سالہ جائزے سے یہ بتانے کی توقع ہے کہ آیا AI دور کے لیے وفاقی ثبوت کے قوانین میں ترمیم کی ضرورت ہے۔ کوئی بھی تبدیلی جوڈیشل کانفرنس کے اصول سازی کے عمل سے گزرے گی، بشمول عوامی تبصرے، کانگریس میں جانے سے پہلے۔
وسیع تر ریگولیٹری تصویر
گہرے جعلی سے متعلق پالیسی کی سرگرمیوں کے ایک پھٹ کے درمیان سماعت ہوئی۔ کیلیفورنیا اور یورپی یونین نے واٹر مارکنگ مینڈیٹ نافذ کیے ہیں۔ ڈنمارک نے بغیر رضامندی کے AI ڈیپ فیکس کے اشتراک پر پابندی عائد کرنے کے لیے پیش قدمی کی ہے۔ امریکی عدالتیں پہلے ہی فائلنگز میں AI سے تیار کردہ من گھڑت سطح کو دیکھ چکی ہیں، اور ججوں نے وکلاء کو چیٹ بوٹس کے ذریعے تیار کردہ جعلی حوالہ جات جمع کرانے کی منظوری دی ہے۔
فی الحال، وفاقی عدلیہ حکمرانی کی تیز رفتار تبدیلیوں پر محتاط مطالعہ کا انتخاب کر رہی ہے۔ لیکن ٹیکنالوجی کی تعمیر کرنے والی کمپنیوں کی گواہی سے پتہ چلتا ہے کہ صنعت خود پتہ لگانے والے ٹولنگ کی رفتار کو برقرار رکھنے کی توقع نہیں کرتی ہے - جو بوجھ کو پرووننس کے معیارات، لائیو گواہی کے تقاضوں جیسے طریقہ کار کے تحفظات، اور آخر کار ججوں اور جیوریوں کے فیصلے کی طرف منتقل کرتی ہے کہ کس چیز پر یقین کیا جائے۔
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
