WIRED-এর সাথে শেয়ার করা এবং মঙ্গলবার প্রকাশিত অলাভজনক টেক ট্রান্সপারেন্সি প্রজেক্টের গবেষণা অনুসারে কোম্পানি ঠিক সেই ধরনের বিষয়বস্তু শনাক্ত ও ব্লক করার জন্য ডিজাইন করা নতুন AI টুল চালু করার কয়েক সপ্তাহের মধ্যে শিশু যৌন নির্যাতনের বিষয়বস্তু সম্বলিত 250 টিরও বেশি অতিরিক্ত বিজ্ঞাপন মেটার প্ল্যাটফর্ম জুড়ে ছড়িয়ে পড়ে। অনুসন্ধানটি কোম্পানির দাবিকে কমিয়ে দেয় যে এর AI-চালিত বিজ্ঞাপন স্ক্রীনিং ব্যবধানটি অনেকাংশে বন্ধ করে দিয়েছে এবং এটি আসে যখন আইনপ্রণেতারা বলছেন যে তারা তদন্ত করার পরিকল্পনা করছেন।
নতুন পরিসংখ্যান একটি আগের প্রকাশ প্রসারিত. গত মাসে, মেটা ফেসবুক, ইনস্টাগ্রাম এবং থ্রেডগুলিতে পোস্ট করা মোটামুটি 50 টি বিজ্ঞাপন মুছে দিয়েছে যাতে সরাসরি শিশু যৌন নির্যাতনের উপাদান অন্তর্ভুক্ত ছিল, ওয়্যারডের পূর্ববর্তী প্রতিবেদনের পরে। সেই সময়ে, সংস্থাটি বলেছিল যে বেশিরভাগ অপমানজনক বিজ্ঞাপনগুলি নতুন এআই সনাক্তকরণ সরঞ্জামগুলি স্থাপন করার আগে প্রকাশিত হয়েছিল। প্রত্যাশিত পতনের পরিবর্তে, গবেষকরা বলছেন যে তারা সাম্প্রতিক সপ্তাহগুলিতে আরও শত শত বিজ্ঞাপন খুঁজে পেয়েছেন — যার মধ্যে কিছু মেটা সবেমাত্র মুছে ফেলার মতো। প্ল্যাটফর্মের নিরাপত্তা এবং সর্বশেষ AI সংবাদ ক্রমাগত কভারেজের জন্য, AI Buzz Wire অনুসরণ করুন।
ব্যর্থতার স্কেল
মোট, টেক ট্রান্সপারেন্সি প্রজেক্টের গবেষকরা গত বছরের শেষ থেকে মেটার প্ল্যাটফর্মে চলমান 350 টিরও বেশি অপমানজনক ভিডিও বিজ্ঞাপন নথিভুক্ত করেছেন, যা ফেসবুক, ইনস্টাগ্রাম, মেসেঞ্জার, থ্রেডস এবং মেটার বিস্তৃত বিজ্ঞাপন নেটওয়ার্কে বিস্তৃত। গোষ্ঠীটি চিহ্নিত 53টি বিজ্ঞাপনের প্রাথমিক সেটের বিপরীতে, নতুন ব্যাচে সম্পূর্ণ কৃত্রিম বিজ্ঞাপনের পরিবর্তে প্রকৃত শিশুদের ছবি অন্তর্ভুক্ত করা হয়েছে। ওয়্যারড নিশ্চিত করেছে যে একটি উত্স চিত্র একটি ইউরোপীয় রাজপরিবারের অফিসিয়াল ওয়েবসাইট থেকে এসেছে; গবেষকরা বলছেন যে পরিবারের একজন অপ্রাপ্তবয়স্ক সদস্যের আনুষ্ঠানিকভাবে প্রকাশিত একটি ছবিকে একটি ভিডিওতে ব্যবহার করা হয়েছিল যা একটি যৌন কাজকে চিত্রিত করেছে। গবেষকরা শিকারকে রক্ষা করার জন্য রাজকীয় নাম উল্লেখ করছেন না এবং বলছেন যে তারা সংশ্লিষ্ট দেশের কর্মকর্তাদের সাথে যোগাযোগ করেছেন।
গ্রুপের ডিরেক্টর কেটি পল, WIRED কে বলেছেন যে সমস্যাটি AI-উত্পন্ন চিত্রের মধ্যে সীমাবদ্ধ নয়। "আমরা এখানে যে বিষয়ে কথা বলছি তা কেবল এআই-উত্পন্ন শিশু যৌন নির্যাতনের উপাদান নয়," তিনি বলেন, বিজ্ঞাপনে ব্যবহার করার আগে অনেক ছবি খোলা ওয়েব থেকে নেওয়া হয়েছে বলে মনে হচ্ছে৷ "মেটা যখন প্রক্রিয়ায় অর্থ সংগ্রহ করছে তখন এই সব থেকে অনেক ক্ষতি হতে পারে।" গবেষকরা চারজন নাবালকের বাস্তব-বিশ্বের পরিচয় শনাক্ত করেছেন যাদের ছবি বিজ্ঞাপনে ব্যবহার করা হয়েছে।
ন্যুডিফিকেশন অ্যাপে একটি ফানেল
রিপোর্টিং অনুযায়ী বিজ্ঞাপনগুলি একটি সামঞ্জস্যপূর্ণ প্যাটার্ন অনুসরণ করে। অনেকে একটি প্রিটিন বা কিশোরী মেয়ের একটি নিরীহ ছবি দেখেন — গবেষকরা শুধুমাত্র একটি ছেলেকে সমন্বিত করে দেখেছেন — টেক্সট দিয়ে আবৃত করে ঘোষণা করা হয়েছে যে ছবিটি "শুধু একটি ছবি নয়" এবং এটি দিয়ে কী করা যেতে পারে তার উপর "কোন বিধিনিষেধ নেই"। যখন সংক্ষিপ্ত ভিডিওটি চলে, তখন শিশুটির মুখ একটি স্পষ্ট ভিডিওতে রূপান্তরিত হয়৷ ক্লিক করার মাধ্যমে এআই ফেস-সোয়াপিং এবং "ন্যুডিফিকেশন" অ্যাপ পাওয়া যায় অ্যাপল এবং গুগলের অ্যাপ স্টোরে, অনেকগুলি চীনা ডেভেলপারদের সাথে যুক্ত। WIRED আলাদাভাবে শনাক্ত করেছে শত শত সম্পর্কিত ন্যুডিফিকেশন বিজ্ঞাপন যা মেটা-এর প্ল্যাটফর্মে প্রাপ্তবয়স্কদের চিত্রিত করেছে।
ধীর পর্যালোচনা এবং অনুপস্থিত প্রকাশ
মেটার নীতিগুলি বলে যে সংস্থাটি তার প্ল্যাটফর্মে চলা সমস্ত বিজ্ঞাপনগুলি পর্যালোচনা করে এবং বিজ্ঞাপনগুলি শিশু শোষণ, প্রাপ্তবয়স্কদের শোষণ এবং নগ্নতার উপর তার নিয়ম লঙ্ঘন করেছে৷ অনুশীলনে, গবেষকরা জানিয়েছেন, কোম্পানির নিজস্ব টুলের মাধ্যমে রিপোর্ট করা লাইভ বিজ্ঞাপনগুলি পর্যালোচনা করতে কখনও কখনও মেটাকে এক সপ্তাহ পর্যন্ত সময় লেগেছে — এই সময়ে বিজ্ঞাপনগুলি শত শত অতিরিক্ত ভিউ জমা করেছে, WIRED দ্বারা পর্যালোচনা করা স্ক্রিনশট অনুসারে। যখন কিছু বিজ্ঞাপন মুছে ফেলা হয়, তখন তাদের টেকডাউন রেকর্ডে প্রাথমিকভাবে কোন প্রকাশের অভাব ছিল যে তারা কোম্পানির শিশু যৌন নির্যাতন নীতি লঙ্ঘন করেছে; ওয়্যারড মেটাকে অসঙ্গতি সম্পর্কে জিজ্ঞাসা করার পরেই সেই বিবরণগুলি উপস্থিত হয়েছিল।
গবেষকরা ন্যাশনাল সেন্টার ফর মিসিং অ্যান্ড এক্সপ্লয়েটেড চিলড্রেনস সাইবারটিপলাইনে এবং মেটার রিপোর্টিং টুলের মাধ্যমে পাওয়া প্রতিটি বিজ্ঞাপনের রিপোর্ট করেছেন। Meta-এর নিজস্ব বিজ্ঞাপন লাইব্রেরি দেখায় যে বিজ্ঞাপনগুলি সম্মিলিতভাবে ইউরোপীয় ইউনিয়নের দেশগুলিতে 29,000-এর বেশি অ্যাকাউন্টে এবং যুক্তরাজ্যের প্রায় 7,000 অ্যাকাউন্টে প্রদর্শিত হয়েছিল, যার মধ্যে 250টিরও বেশি মার্কিন যুক্তরাষ্ট্রে, 120টি অস্ট্রেলিয়ায় এবং 80টি ভারতে প্রদর্শিত হয়েছে - যে পরিসংখ্যানগুলি সম্ভবত মোট পৌঁছানোর কম বলে দেয়, যেহেতু কিছু দেশে বিজ্ঞাপনের কার্যকারিতার দানাদার ডেটা নেই৷
মেটা সাড়া দেয়
মেটা ফলাফলের তাত্পর্য পিছনে ধাক্কা. কোম্পানির মুখপাত্র ট্রেসি ক্লেটন WIRED-কে বলেন, "আমরা নগ্নকরণ অ্যাপস বা যেকোনো ধরনের শিশু শোষণকে সহ্য করি না, তা বাস্তব বা এআই-উত্পাদিত হোক না কেন," কোম্পানির মুখপাত্র ট্রেসি ক্লেটন ওয়্যারডকে বলেন, কোম্পানি তার নগ্নকরণ নীতি লঙ্ঘন করার জন্য এর আগে কয়েক হাজার বিজ্ঞাপন সরিয়ে দিয়েছে। মেটা বলেছে যে গবেষকরা যে বিজ্ঞাপনগুলি খুঁজে পেয়েছেন তার অনেকগুলি ইতিমধ্যেই মুছে ফেলা হয়েছে, যেগুলির বেশিরভাগই 200 টিরও কম ইম্প্রেশন পেয়েছে এবং এটি বিজ্ঞাপনের অর্থ প্রদানে $5,000 এর নীচে সংগ্রহ করেছে৷ সংস্থাটি আরও বলেছে যে এআই-উত্পাদিত ভিডিওগুলিতে প্রাপ্তবয়স্কদের বৈশিষ্ট্য রয়েছে যখন নাবালকদের জড়িত ক্লিপগুলি সংক্ষিপ্ত বা অস্পষ্ট ছিল, যা সনাক্তকরণকে আরও কঠিন করে তোলে এবং এটি এনসিএমইসিকে শিশু শোষণের বিষয়বস্তু রিপোর্ট করে৷
আইন প্রণেতা এবং নিয়ন্ত্রকদের আন্দোলন
একাধিক আইন প্রণেতা এবং নিয়ন্ত্রক এখন বলছেন যে তারা WIRED-এর রিপোর্টিং অনুসরণ করে বিজ্ঞাপনগুলি তদন্ত করছে বা অনুসন্ধান করছে৷ ভার্জিনিয়া সিনেটর মার্ক ওয়ার্নার, যিনি মেটা সিইও মার্ক জুকারবার্গকে পূর্বের প্রতিবেদনের পরে একটি চিঠি পাঠিয়েছিলেন, বলেছিলেন যে এটি হতাশাজনক যে মেটা তাদের নজরে আনার পরে শিশুদের যৌন নির্যাতনের উপাদান এবং অসম্মতিহীন অন্তরঙ্গ ছবিগুলি সমন্বিত বিজ্ঞাপনগুলি চালিয়ে যাচ্ছে৷ মিশিগানের অ্যাটর্নি জেনারেল বলেছেন যে অফিস "সক্রিয়ভাবে বিষয়টি দেখছে," ফ্লোরিডার অ্যাটর্নি জেনারেল পোস্ট করেছেন যে তার অফিস তদন্ত করছে, এবং অস্ট্রেলিয়ার ই-সেফটি নিয়ন্ত্রক বলেছেন যে এটি "অত্যন্ত উদ্বিগ্ন" এবং একটি সিনিয়র স্তরে মেটা থেকে তথ্যের অনুরোধ করেছে।
যাচাই-বাছাই একটি কোম্পানিকে ইতিমধ্যেই $16.7 বিলিয়ন পর্যন্ত অর্থ প্রদানের জন্য তার সামাজিক নেটওয়ার্কগুলি শিশুদের ক্ষতি করার অভিযোগে মামলা নিষ্পত্তির জন্য চাপ যোগ করে এবং একটি নিউ মেক্সিকো আদালতের সিদ্ধান্তের জন্য আবেদন করে যার জন্য এটির CSAM রিপোর্টিং প্রক্রিয়াগুলিকে উন্নত করতে হবে৷ AI শিল্পের জন্য বিস্তৃত প্রশ্ন হল স্বয়ংক্রিয় সংযম অপব্যবহারের সাথে তাল মিলিয়ে চলতে পারে কি না যেটি নিজেই ক্রমবর্ধমান AI-সহায়তা - এবং প্রমাণ যে একটি সনাক্তকরণ সিস্টেম কয়েক সপ্তাহ লঙ্ঘনকারী বিজ্ঞাপনগুলিকে ধরতে ব্যর্থ হয়েছে কারণ সমাধানটি সরাসরি সেই বিতর্কগুলিতে যোগ দেবে।
এআই থেকে এগিয়ে থাকুন
নিয়ন্ত্রক এবং প্ল্যাটফর্মগুলি এআই-চালিত ক্ষতির সাথে লড়াই করার জন্য সাম্প্রতিক AI বিকাশ এবং ব্রেকিং কৃত্রিম বুদ্ধিমত্তার খবরগুলি অনুসরণ করুন৷
আরও এআই খবর পড়ুন →
