ওপেনএআই এবং মেটা প্ল্যাটফর্মের প্রতিনিধিরা বৃহস্পতিবার একটি ফেডারেল বিচারিক প্যানেলকে বলেছেন যে এআই-জেনারেটেড ডিপফেকগুলি এত উন্নত হয়েছে যে আদালতে অডিও এবং ভিডিও প্রমাণের সত্যতা যাচাই করা আরও কঠিন হবে, রয়টার্স জানিয়েছে।
প্রযুক্তি বিশেষজ্ঞরা বোস্টনে ইউএস জুডিশিয়াল কনফারেন্সের অ্যাডভাইজরি কমিটির অন এভিডেন্স রুলস-এর একটি সভায় তাদের উদ্বেগ উপস্থাপন করেছেন — আদালত কোন প্রমাণ স্বীকার করতে পারে তা নিয়ন্ত্রণ করে এমন ফেডারেল নিয়মে পরিবর্তনের সুপারিশ করার জন্য দায়ী সংস্থা৷ কমিটি 2023 সাল থেকে কাজ করছে কিভাবে আদালতের কক্ষে বানোয়াট এআই-উত্পন্ন প্রমাণের ঝুঁকি মোকাবেলা করা যায়। For more context on this story, see our ongoing AI trends.
এআই ল্যাবগুলি বলছে সনাক্তকরণের কোনও বৈজ্ঞানিক ভবিষ্যত নেই
ওপেনএআই-এর নীতি পরামর্শদাতা শিরা অ্যান্ডারসন কমিটিকে বলেছিলেন যে AI চিত্রগুলি গুণমানে উন্নতি করতে থাকে এবং বলেছিলেন যে তিনি বিশ্বাস করেন না যে সেগুলি সনাক্ত করার জন্য একটি বৈজ্ঞানিক পদ্ধতি ভবিষ্যতে বিদ্যমান থাকবে - একটি কোম্পানির কাছ থেকে একটি আকর্ষণীয় ভর্তি যা সেই বিষয়বস্তু তৈরি করে জেনারেটিভ সিস্টেম তৈরি করে।
মেটা-এর প্রোডাক্ট ম্যানেজমেন্টের ডিরেক্টর ডেভিন নর্ডার প্যানেলকে বলেছেন যে সাম্প্রতিক AI মডেলগুলির দ্বারা তৈরি মিডিয়াগুলি খাঁটি বিষয়বস্তু থেকে মানুষের দ্বারা আলাদা করা যায় না এবং এই ধরনের মিডিয়া তৈরি করতে এখন ন্যূনতম খরচ এবং সময় প্রয়োজন।
উভয় কোম্পানিই ভিজ্যুয়াল বিষয়বস্তুর জন্য উদ্ভব এবং যাচাইকরণ সরঞ্জাম তৈরি করেছে এবং ক্যালিফোর্নিয়া এবং ইউরোপীয় ইউনিয়নের নতুন আইনের জন্য এআই-জেনারেটেড মিডিয়ার ওয়াটারমার্কিং প্রয়োজন। কিন্তু অ্যান্ডারসন কমিটিকে সতর্ক করে দিয়েছিলেন যে প্রতিটি কোম্পানি তার নিজস্ব সিস্টেম ব্যবহার করে, যার অর্থ নির্ভরযোগ্যভাবে সমস্ত ওয়াটারমার্ক সনাক্ত করতে বা ইকোসিস্টেম জুড়ে ভিজ্যুয়াল সামগ্রীর সত্যতা যাচাই করার জন্য কোনও সর্বজনীন পদ্ধতি বিদ্যমান নেই।
আদালত এখনও ঢেউ অনুভব করেনি
কমিটির চেয়ার, ম্যানহাটনের ইউএস ডিস্ট্রিক্ট জজ জেসি ফুরম্যান, অ্যালার্মের পাল্টা ওজনের প্রস্তাব দিয়েছেন: যদিও একাডেমিক ভাষ্য ভবিষ্যদ্বাণী করে যে আদালতগুলি ডিপফেকগুলির সাথে মোকাবিলা করবে, সমস্যাটি এখনও বাস্তব ক্ষেত্রে প্রায়শই দেখা যায় নি।
মার্চ মাসে ফেডারেল জুডিশিয়াল সেন্টার দ্বারা পরিচালিত একটি জরিপ সেই ব্যবধানকে জোর দিয়েছিল। 931 জন বিচারকের মধ্যে মাত্র 15 জন যারা উত্তর দিয়েছেন তারা এমন একটি মামলার মুখোমুখি হয়েছেন যেখানে একটি পক্ষ প্রমাণ চ্যালেঞ্জ করেছে যে এটি একটি ডিপ ফেক ছিল৷
ভবিষ্যদ্বাণী এবং অনুশীলনের মধ্যে এই ব্যবধানটি কমিটির মূল দ্বিধা। ফেডারেল রুলস অফ এভিডেন্স 901 এবং 902-এর অধীনে, প্রমাণ প্রমাণের জন্য বিদ্যমান মান হল — কমিটির নিজস্ব প্রতিবেদনে বলা হয়েছে — একটি মৃদু: আইটেমটি প্রস্তাবকারী যা দাবি করেছেন তা সমর্থন করার জন্য একটি পক্ষের শুধুমাত্র যথেষ্ট প্রমাণ উপস্থাপন করতে হবে। ডিপফেকস সেই মানকে স্ট্রেস-পরীক্ষা করে, কারণ রেকর্ডিং (সাক্ষীর সাক্ষ্য, সিস্টেম ডকুমেন্টেশন) প্রমাণীকরণের ঐতিহ্যগত পথগুলি অনুমান করে যে স্কেলে জালিয়াতি কঠিন, ব্যয়বহুল এবং সনাক্তযোগ্য।
কমিটির নিজস্ব রিপোর্টিং অস্বাভাবিক ভোঁতা দিয়ে সমস্যা তৈরি করেছে। এটির ডিসেম্বর 2025 এর রিপোর্ট পরীক্ষা করে দেখেছে যে ট্রায়ালে দেওয়া একটি ভিডিও বা অডিও ডিপফেক হলে কী ঘটে, এই উপসংহারে বলা হয়েছে যে এটি নিয়ম 901 এবং 902 এর অধীনে সত্যতা প্রয়োজনীয়তাগুলির জন্য একটি সরাসরি চ্যালেঞ্জ উপস্থাপন করে কারণ সত্যতার বিদ্যমান মান একটি হালকা। কীভাবে — এবং কিনা — সেই স্ট্যান্ডার্ডকে কঠোর করার প্রশ্নটি কমিটি তিন বছর ধরে চক্কর দিচ্ছে, এবং এটি আরও জরুরি হয়ে ওঠে যদি ল্যাবের প্রতিনিধিরা সতর্ক করে দিয়েছিলেন, সনাক্তকরণ বিজ্ঞান কখনই প্রজন্মের বিজ্ঞানের সাথে মিলিত হয় না।
অনুশীলনকারীরা এখন কী করতে পারে
নিয়ম পরিবর্তন না হওয়া পর্যন্ত, ব্যবহারিক বোঝা মামলাকারী এবং বিচারের বিচারকদের উপর পড়ে। প্রোভেন্যান্স টুলস — তৈরির সময় এমবেড করা ক্রিপ্টোগ্রাফিক কন্টেন্ট শংসাপত্র — ক্যামেরা অ্যাপস এবং সৃজনশীল সফ্টওয়্যারের মাধ্যমে ছড়িয়ে পড়ছে, যদিও তারা শুধুমাত্র সেই মিডিয়ার জন্য সাহায্য করে যা সেগুলি বহন করে। যে ব্যক্তি একটি রেকর্ডিং ক্যাপচার করেছে তার শপথের অধীনে ক্রস-পরীক্ষা, আসল ফাইল এবং জেনারেশন মেটাডেটার জন্য আবিষ্কারের দাবি এবং সোশ্যাল প্ল্যাটফর্মে প্রচারিত আনসোর্সড ক্লিপগুলির ঘনিষ্ঠভাবে যাচাই করা হল বর্তমান প্রতিরক্ষা। এই সপ্তাহে উপদেষ্টা কমিটির বার্তাটি কার্যকরভাবে ছিল যে এই স্টপগ্যাপগুলির জন্য একটি আনুষ্ঠানিক নিয়ম-স্তরের ভিত্তি প্রয়োজন, কারণ অনানুষ্ঠানিকগুলি একটি সনাক্তযোগ্যতা অনুমান করে যা ওপেনএআই এবং মেটা বলে যে আর বিদ্যমান নেই।
কেন ল্যাবের সাক্ষ্য গুরুত্বপূর্ণ
এটা উল্লেখযোগ্য যে যেসব কোম্পানির পণ্য ঝুঁকি তৈরি করে তারাই বিচার বিভাগকে সতর্ক করে। ওপেনএআই এবং মেটার প্রত্যক্ষ বাণিজ্যিক এবং সুনামমূলক স্বার্থ রয়েছে যে নিয়মগুলি কীভাবে ভূমিষ্ঠ হয়: কঠোর প্রমাণীকরণের প্রয়োজনীয়তা AI মিডিয়ার বৈধ ব্যবহারের উপর ঘর্ষণ আরোপ করতে পারে, যখন শিথিলরা তাদের সরঞ্জামগুলিকে কোর্টরুম জালিয়াতির জন্য ভেক্টর তৈরি করতে পারে। কমিটির কাছে তাদের বার্তাটি কার্যকরভাবে ছিল যে প্রমাণের মান - ওয়াটারমার্কিং, বিষয়বস্তু শংসাপত্র, চেইন-অফ-কাস্টডি ডকুমেন্টেশন - হল কার্যকরী পথ, কারণ একা সনাক্তকরণই স্কেল করবে না।
কমিটির তিন বছরের পর্যালোচনা এআই যুগের জন্য ফেডারেল প্রমাণ বিধি সংশোধনের প্রয়োজন কিনা তা জানাবে বলে আশা করা হচ্ছে। কংগ্রেসে যাওয়ার আগে জনসাধারণের মন্তব্য সহ জুডিশিয়াল কনফারেন্সের নিয়ম প্রণয়নের প্রক্রিয়ার মধ্য দিয়ে যেকোনো পরিবর্তন হবে।
বিস্তৃত নিয়ন্ত্রক ছবি
ডিপফেক-সম্পর্কিত নীতি কার্যকলাপের একটি বিস্ফোরণের মধ্যে শুনানি শুরু হয়। ক্যালিফোর্নিয়া এবং ইইউ ওয়াটারমার্কিং ম্যান্ডেট প্রণয়ন করেছে। ডেনমার্ক সম্মতি ছাড়া এআই ডিপফেকগুলি ভাগ করে নেওয়া নিষিদ্ধ করার জন্য উন্নত আইন করেছে। মার্কিন আদালতগুলি ইতিমধ্যে ফাইলিংগুলিতে এআই-উত্পন্ন বানোয়াট পৃষ্ঠকে দেখেছে এবং বিচারকরা চ্যাটবট দ্বারা তৈরি জাল উদ্ধৃতি জমা দেওয়ার জন্য আইনজীবীদের অনুমোদন দিয়েছেন।
আপাতত, ফেডারেল বিচার বিভাগ দ্রুত নিয়ম পরিবর্তনের বিষয়ে সতর্ক অধ্যয়ন বেছে নিচ্ছে। কিন্তু প্রযুক্তি নির্মাণকারী সংস্থাগুলির সাক্ষ্য থেকে বোঝা যায় যে শিল্প নিজেই সনাক্তকরণ টুলিংয়ের গতি বজায় রাখার আশা করে না — যা বোঝাকে প্রভেন্যান্স স্ট্যান্ডার্ড, লাইভ সাক্ষ্যের প্রয়োজনীয়তার মতো পদ্ধতিগত সুরক্ষা এবং শেষ পর্যন্ত বিচারক এবং বিচারকদের রায়ের দিকে নিয়ে যায় যা বিশ্বাস করা উচিত।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
