به گزارش رویترز، نمایندگان OpenAI و Meta Platforms روز پنجشنبه به یک هیئت قضایی فدرال گفتند که دیپ فیک های تولید شده توسط هوش مصنوعی آنقدر پیشرفته شده اند که تأیید صحت مدارک صوتی و تصویری در دادگاه دشوارتر می شود.
کارشناسان فناوری نگرانی‌های خود را در نشستی در بوستون با کمیته مشورتی کنفرانس قضایی ایالات متحده در مورد قوانین شواهد ارائه کردند - نهادی که مسئول توصیه تغییرات در قوانین فدرال است که بر مدارکی که دادگاه‌ها می‌توانند بپذیرند، نظارت می‌کنند. این کمیته از سال 2023 روی چگونگی رسیدگی به خطرات شواهد ساختگی توسط هوش مصنوعی در دادگاه ها کار می کند. For more context on this story, see our ongoing breaking AI news.
آزمایشگاه های هوش مصنوعی می گویند که تشخیص آینده علمی ندارد
شیرا اندرسون، مشاور سیاست در OpenAI، به کمیته گفت که تصاویر هوش مصنوعی همچنان از نظر کیفیت بهبود می‌یابند، و گفت که او معتقد نیست که روشی علمی برای شناسایی آنها در آینده وجود داشته باشد - یک اعتراف قابل توجه از سوی شرکتی که سیستم‌های مولد تولید کننده آن محتوا را می‌سازد.
دوین نوردر، مدیر مدیریت محصول در متا، به این پنل گفت که رسانه های ایجاد شده توسط مدل های اخیر هوش مصنوعی توسط انسان نمی توانند از محتوای معتبر تشخیص داده شوند و ایجاد چنین رسانه ای اکنون به حداقل هزینه و زمان نیاز دارد.
هر دو شرکت ابزارهای منشأ و تأیید را برای محتوای بصری توسعه داده‌اند و قوانین جدید در کالیفرنیا و اتحادیه اروپا مستلزم واترمارک کردن رسانه‌های تولید شده توسط هوش مصنوعی است. اما اندرسون به کمیته هشدار داد که هر شرکتی از سیستم خود استفاده می کند، به این معنی که هیچ روش جهانی برای شناسایی قابل اعتماد تمام واترمارک ها یا تأیید صحت محتوای بصری در سراسر اکوسیستم وجود ندارد.
دادگاه ها هنوز موج را احساس نکرده اند
رئیس کمیته، قاضی منطقه ای ایالات متحده، جسی فورمن از منهتن، وزنه ای برای هشدار ارائه کرد: در حالی که نظرات دانشگاهی پیش بینی می کند دادگاه ها با دیپ فیک ها برخورد خواهند کرد، این موضوع هنوز به طور مکرر در پرونده های واقعی ظاهر نشده است.
نظرسنجی انجام شده توسط مرکز قضایی فدرال در ماه مارس بر این شکاف تأکید کرد. تنها 15 از 931 قاضی که پاسخ دادند، با پرونده ای مواجه شده بودند که در آن یکی از طرفین شواهد را به این دلیل که این شواهد دروغین عمیق است به چالش کشیده بودند.
این شکاف بین پیش‌بینی و تمرین، معضل اصلی کمیته است. بر اساس قوانین فدرال شواهد 901 و 902، استاندارد موجود برای احراز هویت شواهد - همانطور که گزارش خود کمیته بیان می‌کند - یک استاندارد خفیف است: یک طرف فقط باید شواهد کافی برای حمایت از یافته‌ها را ارائه کند که آن مورد همان چیزی است که طرفدار ادعا می‌کند. Deepfakes آن استاندارد را آزمایش می کند، زیرا مسیرهای سنتی برای احراز هویت ضبط شده (شهادت شاهد، اسناد سیستم) فرض می کنند که جعل در مقیاس سخت، پرهزینه و قابل تشخیص است.
گزارش خود کمیته این مشکل را با صراحت غیرعادی ترسیم کرده است. گزارش دسامبر 2025 آن را بررسی کرد که چه اتفاقی می‌افتد وقتی یک ویدیو یا صدای ارائه شده در آزمایش یک جعلی عمیق باشد، و به این نتیجه رسید که چالشی مستقیم برای الزامات اصالت طبق قوانین 901 و 902 ایجاد می‌کند، دقیقاً به این دلیل که استاندارد موجود اصالت یک استاندارد خفیف است. چگونگی - و اینکه آیا - سخت‌تر کردن این استاندارد سوالی است که کمیته به مدت سه سال مطرح کرده است، و اگر همانطور که نمایندگان آزمایشگاه هشدار دادند، علم تشخیص هرگز به علم نسل نرسد، ضروری‌تر می‌شود.
آنچه که تمرین‌کنندگان اکنون می‌توانند انجام دهند
تا زمانی که قوانین تغییر نکند، بار عملی بر دوش اصحاب دعوی و قضات دادگاه است. ابزارهای منشأ - اعتبار محتوای رمزنگاری که در زمان ایجاد جاسازی می‌شوند - از طریق برنامه‌های دوربین و نرم‌افزارهای خلاقانه پخش می‌شوند، اگرچه آنها فقط به رسانه‌هایی که آنها را حمل می‌کنند کمک می‌کنند. بازجویی متقابل تحت سوگند فردی که ضبط را ضبط کرده است، درخواست‌های کشف فایل‌های اصلی و ابرداده‌های تولید، و بررسی دقیق‌تر کلیپ‌های بدون منبع در حال پخش در پلت‌فرم‌های اجتماعی، دفاعیات کنونی هستند. پیام کمیته مشورتی در این هفته به طور موثر این بود که این توقفگاه‌ها به یک پایه قانونی رسمی نیاز دارند، زیرا موارد غیررسمی قابلیت تشخیصی را فرض می‌کنند که OpenAI و Meta می‌گویند دیگر وجود ندارد.
چرا شهادت آزمایشگاه مهم است
نکته قابل توجه این است که شرکت هایی که محصولات آنها خطر ایجاد می کند، همانهایی هستند که در این مورد به قوه قضاییه هشدار می دهند. OpenAI و Meta منافع تجاری و اعتباری مستقیمی در نحوه اجرای قوانین دارند: الزامات دقیق احراز هویت می‌تواند اصطکاک را در استفاده‌های قانونی از رسانه‌های هوش مصنوعی ایجاد کند، در حالی که رسانه‌های ضعیف می‌توانند ابزارهای خود را به ابزارهای کلاهبرداری در دادگاه تبدیل کنند. پیام آنها به کمیته عملاً این بود که استانداردهای منشأ - واترمارکینگ، اعتبار محتوا، اسناد زنجیره ای - مسیر قابل اجرا هستند، زیرا تشخیص به تنهایی مقیاس نخواهد داشت.
انتظار می‌رود بررسی سه ساله کمیته نشان دهد که آیا قوانین شواهد فدرال برای دوره هوش مصنوعی نیاز به اصلاح دارند یا خیر. هر گونه تغییری از طریق فرآیند تدوین قوانین کنفرانس قضایی، از جمله اظهار نظر عمومی، قبل از رفتن به کنگره انجام می شود.
تصویر نظارتی گسترده تر
این جلسه در بحبوحه فعالیت‌های سیاستی مرتبط با دیپ‌فیک منتشر می‌شود. کالیفرنیا و اتحادیه اروپا دستورات واترمارکی را وضع کرده اند. دانمارک قوانین پیشرفته ای را تصویب کرده است که به اشتراک گذاری دیپ فیک های هوش مصنوعی بدون رضایت را ممنوع می کند. دادگاه‌های ایالات متحده قبلاً در پرونده‌های خود جعل‌های تولید شده توسط هوش مصنوعی را مشاهده کرده‌اند و قضات وکلا را به دلیل ارسال استنادات جعلی ایجاد شده توسط چت‌بات‌ها تحریم کرده‌اند.
در حال حاضر، قوه قضاییه فدرال در حال انتخاب مطالعه دقیق نسبت به تغییرات سریع قوانین است. اما شهادت شرکت‌های سازنده این فناوری نشان می‌دهد که صنعت خود انتظار ندارد ابزارهای تشخیص سرعت خود را حفظ کنند - که بار را به سمت استانداردهای منشأ، حفاظت رویه‌ای مانند الزامات شهادت زنده، و در نهایت قضاوت قضات و هیئت منصفه در مورد آنچه باید باور کنند، تغییر می‌دهد.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
