সান ফ্রান্সিসকোর সিটি অ্যাটর্নি অ্যাপল এবং গুগলকে তাদের অ্যাপ স্টোর থেকে কৃত্রিম বুদ্ধিমত্তার ন্যুডিফিকেশন অ্যাপগুলি সরিয়ে দেওয়ার নির্দেশ দিয়েছেন, সতর্ক করে যে প্ল্যাটফর্মগুলি ক্যালিফোর্নিয়ার আইন লঙ্ঘন করছে যে পরিষেবাগুলি ডিপফেক পর্নোগ্রাফি তৈরি করে। চাহিদাটি AI টুলগুলির উপর একটি ক্রমবর্ধমান দ্বন্দ্বকে বাড়িয়ে তোলে যা প্রকৃত মানুষের সাধারণ ফটোগুলিকে স্পষ্ট ছবিতে রূপান্তরিত করে, এমন একটি সংকট যা অসামঞ্জস্যপূর্ণভাবে নারী ও শিশুদের শিকার করেছে।
সমস্যার স্কেল
ন্যুডিফিকেশন অ্যাপস জেনারেটিভ এআই ব্যবহার করে বাস্তব মানুষের ফটো থেকে পোশাক খুলে ফেলা, তাদের বৈশিষ্ট্য পরিবর্তন করা, তাদের যৌন অবস্থানে রাখা এবং অন্য মানুষের নগ্ন দেহে মুখ অদলবদল করা সহজ করে তোলে। প্রযুক্তিটি মোবাইল অ্যাপ স্টোর জুড়ে দ্রুত প্রসারিত হয়েছে, এবং ফলাফলগুলি ধ্বংসাত্মক পরিণতির শিকারদের ধমক দিতে, অপমানিত করতে এবং হুমকি দেওয়ার জন্য ব্যবহার করা হচ্ছে৷
সান ফ্রান্সিসকো সিটির অ্যাটর্নি ডেভিড চিউ ওয়্যারডকে বলেছেন যে তার অফিস সম্পূর্ণভাবে আতঙ্কিত হয়েছিল যে নগ্নকরণ প্রযুক্তিটি কতটা সর্বব্যাপী হয়ে উঠেছে, বেশির ভাগ সরঞ্জাম বাজারে প্লাবিত হওয়ার কারণে বেশিরভাগ মহিলা এবং শিশুদের একটি উদ্বেগজনক মাত্রায় শিকার করেছে। তিনি বলেন, ছবিগুলো ব্যবহার করা হয় সুনাম নষ্ট করতে, মানসিক স্বাস্থ্যের ক্ষতি করতে এবং স্বায়ত্তশাসনের শিকার ব্যক্তিদের, কিছু লক্ষ্যমাত্রা আত্মঘাতী হয়ে ওঠে।
চিঠির দাবি কী
Chiu এর অফিস উভয় কোম্পানিকে আনুষ্ঠানিক চিঠি পাঠিয়ে সতর্ক করে যে তাদের অ্যাপ স্টোরগুলি ক্যালিফোর্নিয়ার আইন লঙ্ঘন করছে যা সমর্থনকারী পরিষেবাগুলিকে নিষিদ্ধ করে যা ডিপফেক পর্নোগ্রাফি তৈরি করে, ওয়্যার্ডের মতে। তিনি গুগলকে পাঁচটি অ্যাপ এবং অ্যাপলকে আটটি অপসারণ করতে বলেছেন। জনগণকে তাদের দিকে ড্রাইভিং এড়াতে নির্দিষ্ট অ্যাপগুলির নামকরণ করা হয়নি পাবলিক রিপোর্টিংয়ে, কিন্তু ওয়্যারড উল্লেখ করেছে যে একটি পতাকাঙ্কিত অ্যাপ এক মিলিয়নেরও বেশি ডাউনলোড জমা করেছে এবং মহিলাদের ছবিকে যৌনতা বা বিনামূল্যে এবং আনসেন্সরবিহীন ভিডিও তৈরি করার জন্য খোলাখুলিভাবে বিজ্ঞাপন দিয়েছে।
চিউ-এর অফিস অনুমান করেছে যে অ্যাপল এবং গুগল সম্ভবত ক্ষতিকারক অ্যাপগুলিকে তাদের স্টোরে থাকার অনুমতি দিয়ে আরও শক্তিশালী পদক্ষেপ নেওয়া বা আরও ভাল সনাক্তকরণ সিস্টেম তৈরি করার পরিবর্তে মিলিয়ন মিলিয়ন ডলার ফি উপার্জন করেছে। শহরের অ্যাটর্নি পরিস্থিতিটিকে জনসাধারণের উপদ্রব থেকে লাভজনক হিসাবে চিহ্নিত করেছেন, যুক্তি দিয়েছিলেন যে এই জাতীয় কোনও অ্যাপকে উপলব্ধ থাকার অনুমতি দেওয়া অগ্রহণযোগ্য।
গুগল সাড়া দেয়, অ্যাপল নীরব থাকে
আর্স টেকনিকাকে দেওয়া এক বিবৃতিতে, গুগলের মুখপাত্র ড্যান জ্যাকসন নিশ্চিত করেছেন যে চিউ দ্বারা পতাকাঙ্কিত পাঁচটি অ্যাপ ক্ষতিকারক সামগ্রীর বিরুদ্ধে নীতি লঙ্ঘনের জন্য গুগল প্লে স্টোর থেকে স্থগিত করা হয়েছে। জ্যাকসন বলেছিলেন যে Google Play যৌন বিষয়বস্তু ধারণ করে এমন অ্যাপগুলিকে অনুমতি দেয় না এবং কোম্পানি ক্রমাগত ক্ষতিকারক সামগ্রী সহ অ্যাপগুলি সনাক্ত এবং সরানোর জন্য সক্রিয় পদক্ষেপ নেয়। লঙ্ঘনের রিপোর্ট করা হলে, জ্যাকসন বলেন, Google তদন্ত করে এবং দ্রুত পদক্ষেপ নেয়, যার মধ্যে রয়েছে শত শত লঙ্ঘনকারী অ্যাপ স্থগিত করা এবং এর স্টোরে নগ্নকরণের মতো সম্পর্কিত অনুসন্ধান শব্দগুলিকে সীমাবদ্ধ করা।
অ্যাপলের প্রতিক্রিয়া উল্লেখযোগ্যভাবে ভিন্ন হয়েছে। যদিও সংস্থাটি অতীতে গবেষকদের দ্বারা পতাকাঙ্কিত কিছু অ্যাপগুলি সরিয়ে দিয়েছে, এটি অন্যথায় তার অ্যাপ স্টোরে আরও আক্রমনাত্মকভাবে পুলিশ নডিফিকেশন অ্যাপগুলিতে কল করার মধ্যে উল্লেখযোগ্যভাবে নীরব রয়ে গেছে। আইফোন প্রস্তুতকারক অবিলম্বে শহরের অ্যাটর্নিদের দাবির বিষয়ে বিস্তারিত জনসাধারণের প্রতিক্রিয়া প্রদান করেনি।
বিড়াল-মাউস সনাক্তকরণের খেলা
এই অ্যাপগুলিকে পুলিশিং করার চ্যালেঞ্জ তাদের ক্রমবর্ধমান কৌশলগুলির দ্বারা আরও জটিল। ওয়্যারড রিপোর্ট করেছে যে গবেষকরা সম্প্রতি সতর্ক করেছেন যে কিছু ক্ষতিকারক অ্যাপ তাদের নগ্ন করার ক্ষমতা লুকিয়ে রেখে শুধুমাত্র ফেস-সোয়াপিং বৈশিষ্ট্যের বিজ্ঞাপন দিয়ে অ্যাপ স্টোর অপসারণ এড়াতে আরও ভাল হয়েছে। একটি মে প্রিপ্রিন্ট পেপারে, গবেষকরা জেনেরিক ফেস-সোয়াপিং টুল হিসাবে বিপণিত 420টি অ্যাপ চিহ্নিত করেছেন এবং তাদের মধ্যে 155টি পরীক্ষা করেছেন। 70 শতাংশেরও বেশি ক্ষেত্রে, অ্যাপগুলিকে ইমেজকে যৌনতার জন্য ব্যবহার করা যেতে পারে, এটি প্রদর্শন করে যে কত সহজে ক্ষতিকারক কার্যকারিতা নিরীহ বিপণনের পিছনে লুকিয়ে থাকে।
এই সনাক্তকরণের ব্যবধানের অর্থ হল যে এমনকি যখন অ্যাপ স্টোরগুলি সক্রিয়ভাবে ন্যুডিফাই টুলগুলির জন্য অনুসন্ধান করে, তখন অনেকেই নিজেদেরকে নিরীহ বিনোদন বা ফটো-এডিটিং সফ্টওয়্যার হিসাবে উপস্থাপন করে স্লিপ করে। গবেষকদের অনুসন্ধানে দেখা গেছে যে প্রচলনে সমস্যাযুক্ত অ্যাপের প্রকৃত সংখ্যা সম্ভবত চিউ-এর অফিস দ্বারা চিহ্নিত তেরোটির চেয়ে অনেক বেশি।
গ্রোক নজির
ন্যুডিফাই অ্যাপ ক্র্যাকডাউন এআই-উত্পন্ন ক্ষতিকারক বিষয়বস্তু নিয়ে বিস্তৃত বিতর্কের সাথে ছেদ করে। এই সপ্তাহে, xAI একটি মামলা দায়ের করেছে যা নিশ্চিত করেছে যে এটি গ্রোক-উত্পন্ন শিশু যৌন নির্যাতনের উপকরণ এবং প্রাপ্তবয়স্কদের লক্ষ্য করে অসম্মতিমূলক অন্তরঙ্গ চিত্রের উদাহরণ পেয়েছে। অপব্যবহার মোকাবেলা করার জন্য, xAI অবৈধ সামগ্রী তৈরি করতে Grokকে অনুরোধ করার জন্য দায়ী ব্যবহারকারীর বিরুদ্ধে মামলা করেছে।
Grok কেস অ্যাপ স্টোরগুলির জন্য একটি কাঁটা প্রশ্ন উত্থাপন করে: যে AI চ্যাটবটগুলিকে অবৈধ সামগ্রী তৈরি করার জন্য অনুরোধ করা যেতে পারে সেগুলিকে অপসারণ করা উচিত কিনা৷ অ্যাপল এপ্রিল মাসে সিনেটরদের বলেছিল যে এটি এনবিসি নিউজ অনুসারে, অ্যাপ স্টোর থেকে গ্রোককে সরিয়ে দেওয়ার জন্য ব্যক্তিগতভাবে হুমকি দিয়েছে, তবে xAI অ্যাপটি আজও উপলব্ধ রয়েছে। যতক্ষণ পর্যন্ত অবৈধ সামগ্রী তৈরি করতে Grok ব্যবহার করা সম্ভব, অ্যাপ স্টোরগুলি সম্ভবত পদক্ষেপ নেওয়ার জন্য চাপের সম্মুখীন হবে, ঠিক যেমন চিউ স্বতন্ত্র ন্যুডিফিকেশন অ্যাপগুলির জন্য দাবি করেছিল।
প্ল্যাটফর্ম জবাবদিহিতার জন্য একটি টার্নিং পয়েন্ট
সান ফ্রান্সিসকোর আদেশটি এআই-উত্পন্ন ক্ষতিকারক সামগ্রীর উপর অ্যাপ স্টোরগুলিকে লক্ষ্য করে এখন পর্যন্ত সবচেয়ে আক্রমণাত্মক সরকারী হস্তক্ষেপের প্রতিনিধিত্ব করে। ক্যালিফোর্নিয়ার ডিপফেক পর্নোগ্রাফি আইন প্রয়োগ করে, চিউ পরীক্ষা করছে যে রাজ্যের আইনগুলি প্ল্যাটফর্ম অপারেটরদের তাদের মার্কেটপ্লেসের মাধ্যমে বিতরণ করা AI সরঞ্জামগুলির দায়িত্ব নিতে বাধ্য করতে পারে কিনা৷
ফলাফলটি অন্যান্য বিচারব্যবস্থা কীভাবে সমস্যাটির সাথে যোগাযোগ করে তার একটি নজির স্থাপন করতে পারে এবং এআই-উত্পাদিত অসম্মতিমূলক চিত্রগুলিকে পুলিশিং করার বোঝা ডেভেলপার, প্ল্যাটফর্ম অপারেটর বা উভয়ের উপর পড়ে কিনা। লক্ষ লক্ষ লোকের জন্য, প্রধানত মহিলা এবং মেয়েরা, যারা এই সরঞ্জামগুলির দ্বারা লক্ষ্যবস্তু করা হয়েছে, বাজি নিয়ন্ত্রক তত্ত্বের বাইরেও প্রসারিত৷
এআই থেকে এগিয়ে থাকুন
AI নীতিশাস্ত্র, প্ল্যাটফর্মের জবাবদিহিতা এবং ক্ষতিকারক সিন্থেটিক মিডিয়ার বিরুদ্ধে নিয়ন্ত্রক লড়াইয়ের চলমান কভারেজের জন্য, সমাজে AI-এর প্রভাবকে রূপদানকারী সমস্যাগুলির বিষয়ে রিপোর্ট করার জন্য AI Buzz Wire অনুসরণ করুন৷
আরও এআই নীতিশাস্ত্রের খবর পড়ুন →
