আদালতের ফাইলিংয়ে জেন ডো 4 হিসাবে চিহ্নিত একজন মহিলা এলন মাস্কের xAI-এর বিরুদ্ধে একটি মামলায় যোগ দিয়েছেন যে কোম্পানির চ্যাটবট গ্রোক শিশু যৌন নির্যাতনের উপাদান তৈরিতে ভূমিকা পালন করেছে বলে অভিযোগ করেছে, টেকক্রাঞ্চ শনিবার ওয়াশিংটন পোস্টের একটি প্রতিবেদনের উদ্ধৃতি দিয়ে জানিয়েছে।

মহিলার অভিযোগ যে তার সৎ বাবা তার 11 বছর বয়সে তোলা একটি ছবি ব্যবহার করে তার 7,000 এরও বেশি স্পষ্ট ছবি তৈরি করতে গ্রোককে ব্যবহার করেছিলেন, রিপোর্ট অনুসারে। তিনি আরও বলেছিলেন যে আইন প্রয়োগকারী অভিযানে ছবিগুলি উন্মোচিত হওয়ার দু'দিন পরে তার সৎ বাবাকে আত্মহত্যার জন্য মৃত অবস্থায় পাওয়া গেছে। For more context on this story, see our ongoing AI trends.

"এই সরঞ্জামগুলিতে সীমাহীন অ্যাক্সেস এত দ্রুত ছড়িয়ে পড়ছে," মহিলা বলেছিলেন। "এটি দৈনন্দিন জীবনকে গ্রহণ করছে এবং এটিকে শিশু যৌন নির্যাতনে পরিণত করছে।"

মূলধারার এআই চ্যাটবট এবং একটি বাস্তব শিশুর যৌন চিত্র তৈরির সাথে জড়িত এই মামলাটি এখন পর্যন্ত সবচেয়ে গুরুতর অভিযোগগুলির মধ্যে একটি, এবং এটি একটি মামলাকে বাড়িয়ে তোলে যা এআই ইমেজ তৈরির জন্য গার্ডেল নিয়ে বিতর্কের কেন্দ্রবিন্দুতে পরিণত হয়েছে।

মামলার মূল দাবি

মামলাটি মূলত তিনজন টেনেসি কিশোর-কিশোরীর দ্বারা দায়ের করা হয়েছিল যারা xAI - যা এখন স্পেসএক্সের অংশ - গ্রোককে নাবালক সহ প্রকৃত মানুষের স্পষ্ট চিত্র তৈরি করতে ব্যবহার করা থেকে রোধ করতে প্রাথমিক সতর্কতা অবলম্বন করতে ব্যর্থ হয়েছে। বাদীরা ক্লাস অ্যাকশন স্ট্যাটাস চাইছেন, যা অন্যদের যারা একই রকম ক্ষতির অভিযোগ করেছে তারা মামলায় যোগদান করতে পারবে।

জেন ডো 4-এর ফাইলিং-এ যন্ত্রণাদায়ক সুনির্দিষ্টগুলির একটি নামযুক্ত সেট যুক্ত করা হয়েছে: একটি একক শৈশব ছবি, একটি এআই টুল যা হাজার হাজার অপমানজনক ডেরিভেটিভস তৈরি করতে ব্যবহৃত হয় এবং একটি পারিবারিক ট্র্যাজেডি যা কর্তৃপক্ষের দ্বারা উপাদান আবিষ্কারের কয়েক দিনের মধ্যে উন্মোচিত হয়৷

টেকক্রাঞ্চ বলেছে যে এটি মন্তব্যের জন্য xAI এর সাথে যোগাযোগ করেছে। অভিযোগগুলি চলমান দেওয়ানি মামলার দাবি এবং আদালতে প্রমাণিত হয়নি। আপনি বা আপনার পরিচিত কেউ যদি সংকটে থাকেন, তাহলে মার্কিন যুক্তরাষ্ট্রে 988 সুইসাইড অ্যান্ড ক্রাইসিস লাইফলাইন 988 নম্বরে কল বা টেক্সট করে পৌঁছানো যেতে পারে।

গ্রোকের উপর চাপের একটি প্যাটার্ন

Grok এর ইমেজ-প্রজন্ম ক্ষমতার মাউন্ট যাচাই-বাছাইয়ের এক বছরের মধ্যে মামলাটি শুরু হয়। এই বছরের শুরুর দিকে, X লক্ষ লক্ষ Grok-উত্পন্ন যৌন চিত্রে প্লাবিত হয়েছিল, একটি পর্ব যা টুলটির চারপাশে সুরক্ষা ব্যবস্থার ব্যাপক সমালোচনা করেছিল। পর্বটি তথাকথিত "নগ্নতা" অ্যাপ্লিকেশন এবং অসম্মতিমূলক সিন্থেটিক চিত্রকে লক্ষ্য করে রাষ্ট্র-স্তরের আইনের একটি তরঙ্গকে জ্বালানীতে সহায়তা করেছিল; মিনেসোটার এই ধরনের সরঞ্জামগুলির উপর নিষেধাজ্ঞা কার্যকর হয়েছিল যখন একজন বিচারক তার প্রয়োগকে ব্লক করার জন্য একটি নিষেধাজ্ঞার জন্য xAI-এর অনুরোধ অস্বীকার করেছিলেন।

টেনেসি মামলার বাজি xAI এর বাইরেও প্রসারিত। বাদীরা যুক্তি দেখান যে স্কেল আকারে ইমেজ-জেনারেশন সরঞ্জামগুলি স্থাপনকারী সংস্থাগুলির দায়িত্ব রয়েছে এমন প্রযুক্তিগত সুরক্ষা তৈরি করা যা প্রকৃত, শনাক্তযোগ্য ব্যক্তিদের - এবং বিশেষত শিশুদের - পণ্যগুলি জনসাধারণের কাছে পৌঁছানোর আগে যৌনতা রোধ করে৷ এই যুক্তি, যদি আদালত দ্বারা গৃহীত হয়, তাহলে একটি আইনি মান প্রতিষ্ঠা করতে পারে যা ইমেজ-প্রজন্ম মডেলের প্রতিটি প্রদানকারীর কাছে পৌঁছায়।

শিল্পের অমীমাংসিত সমস্যা

এআই কোম্পানিগুলির জন্য, প্রকৃত মানুষের বিরুদ্ধে ইমেজ জেনারেটরের অপব্যবহার রোধ করা একগুঁয়ে কঠিন প্রমাণিত হয়েছে। ওয়াটারমার্কিং এবং প্রোভেন্যান্স টুলস — যেমন সেই নৃতাত্ত্বিকরা EU স্বচ্ছতার নিয়ম মেনে চলার জন্য ক্লাউড আউটপুট যোগ করতে শুরু করেছে — সত্যের পরে সিন্থেটিক বিষয়বস্তু সনাক্ত করতে সাহায্য করতে পারে, কিন্তু তারা প্রথমে অপমানজনক উপাদান তৈরি করা বন্ধ করে না। ইনপুট এবং আউটপুট ফিল্টারগুলি পরিচিত নিদর্শনগুলিকে অবরুদ্ধ করতে পারে, তবে নির্ধারিত ব্যবহারকারীরা ক্রমাগত সমাধানগুলি খুঁজে পায় এবং ওপেন-ওয়েট ইমেজ মডেলগুলি কিছু ক্ষমতা সম্পূর্ণরূপে স্মরণ করা অসম্ভব করে তুলেছে।

xAI মামলার অভিযোগগুলি সেই স্পেকট্রামের সবচেয়ে গুরুতর পরিণতির দিকে ইঙ্গিত করে: দাবি যে একটি শিশুর একক ফটো হাজার হাজার স্পষ্ট ছবিতে রূপান্তরিত হতে পারে বিশ্বের অন্যতম বিশিষ্ট AI কোম্পানির দ্বারা পরিচালিত একটি টুল ব্যবহার করে, যা Grok কে গ্রাহক পণ্য হিসাবে লক্ষ লক্ষ গ্রাহকদের কাছে বাজারজাত করে৷

মামলাটি অনুসরণকারী আইনী বিশেষজ্ঞরা বলছেন যে ক্লাস অ্যাকশন বিড পরীক্ষা করবে যে আদালত এই ধরনের অপব্যবহার প্রতিরোধে ব্যর্থতাকে পণ্যের ত্রুটি হিসাবে বিবেচনা করে যার জন্য AI কোম্পানি দায়বদ্ধ - বা পৃথক ব্যবহারকারীদের দ্বারা অপব্যবহার হিসাবে যা কোম্পানির দায়িত্বের বাইরে পড়ে।

এরপর কি আসে

বাদীদের তাৎক্ষণিক লক্ষ্য হল ক্লাস সার্টিফিকেশন, যা নাটকীয়ভাবে xAI এর বিরুদ্ধে সম্ভাব্য দাবিদারদের পুল প্রসারিত করবে। তার অংশের জন্য, xAI সংশ্লিষ্ট মামলায় যুক্তি দিয়েছে যে অপব্যবহারের দায় ব্যবহারকারীদের উপর, টুল নয়। Jane Doe 4 এর সংযোজন, একটি শিশুর কথিত ক্ষতির তীব্র বিবরণ সহ, সেই প্রতিরক্ষাকে ঘিরে জনসাধারণ এবং রাজনৈতিক চাপ বাড়ায়।

মার্কিন যুক্তরাষ্ট্র এবং ইউরোপের নিয়ন্ত্রকদের মধ্যে জেনারেটিভ এআই-এর জন্য স্বচ্ছতার বাধ্যবাধকতা এবং সুরক্ষা মান নিয়ে বিতর্কের কারণে মামলাটি উদ্ঘাটিত হয়েছে, এবং প্রমাণ হিসাবে জমা হচ্ছে যে চিত্র-প্রজন্মের অপব্যবহার শুধুমাত্র ফ্রেঞ্জ টুলের মধ্যে সীমাবদ্ধ নয়। উত্তর আদালতে, আইন প্রণয়নে বা এআই কোম্পানির নিজেরাই ইঞ্জিনিয়ারিং পছন্দের মধ্যে আসুক না কেন, মামলার কেন্দ্রীয় প্রশ্ন - একটি এআই পণ্য জাহাজের আগে কতটা ক্ষতি প্রতিরোধ করা উচিত - এটি শিল্পের সবচেয়ে অস্বস্তিকর উন্মুক্ত সমস্যা রয়ে গেছে।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →