xAI একটি প্রস্তাবিত ক্লাস অ্যাকশনের মুখোমুখি হচ্ছে যা প্রথমবারের মতো কোম্পানির বিরুদ্ধে তার Grok মডেলকে শিশু যৌন নির্যাতনের বিষয়বস্তু, বাস্তব এবং এআই-উত্পাদিত উভয় বিষয়ে প্রশিক্ষণ দেওয়ার অভিযোগ করেছে। অভিযোগ, বুধবার দায়ের করা হয়েছে এবং Ars Technica দ্বারা রিপোর্ট করা হয়েছে, কোম্পানির সার্ভারে সঞ্চিত এই ধরনের যেকোন উপাদানকে আদালতের নির্দেশে ধ্বংস করতে এবং Grok কীভাবে যৌন বিষয়বস্তু পরিচালনা করে তাতে ব্যাপক পরিবর্তন চায়।

দেওয়ানী মামলায় অভিযোগগুলো অপ্রমাণিত দাবি রয়ে গেছে। X, যেটি xAI-এর মালিক, ফাইলিং সম্পর্কে মন্তব্যের জন্য আরস টেকনিকার অনুরোধে সাড়া দেয়নি। For more context on this story, see our ongoing AI trends.

বাদী ও অভিযোগ

বাদী, জেন ডো নামে পরিচিত, অভিযোগে অভিযোগ করেছেন যে 2000 এর দশকের শুরুতে যখন তার অপব্যবহারের ছবিগুলি তৈরি করা হয়েছিল এবং অনলাইনে বিক্রি হয়েছিল তখন তিনি একজন প্রিস্কুল বয়সের শিকার ছিলেন৷ ন্যাশনাল সেন্টার ফর মিসিং অ্যান্ড এক্সপ্লয়েটেড চিলড্রেন (এনসিএমইসি) এবং কানাডিয়ান সেন্টার ফর চাইল্ড প্রোটেকশন (সিসিসিপি) দ্বারা রক্ষণাবেক্ষণ করা হ্যাশ তালিকায় এই ছবিগুলি দীর্ঘকাল ধরে তালিকাভুক্ত করা হয়েছে, যে সংস্থাগুলি এটি সনাক্তকরণ এবং অপসারণ সক্ষম করতে পরিচিত অপব্যবহারের উপাদানগুলি ট্র্যাক করে৷

অভিযোগ অনুযায়ী, CCCP Doe-কে অবহিত করেছে যে এটি xAI-এর প্ল্যাটফর্মে AI-উত্পন্ন অপব্যবহারের উপাদান চিহ্নিত করেছে। তার আইনজীবীরা একটি প্রেস রিলিজে বলেছেন যে তার এনসিএমইসি হ্যাশ তালিকার এন্ট্রিগুলির সাথে মেলে "গ্রোকের ইমেজ এবং ভিডিও তৈরি করার ক্ষমতা তৈরি করতে ব্যবহৃত ডেটাসেট xAI এর অংশ।" অভিযোগে আরও অভিযোগ করা হয়েছে যে অনলাইন ফোরামে পাওয়া বার্তাগুলি দেখিয়েছে যে অপরাধীরা Doe-এর AI-উত্পন্ন অপব্যবহারের ছবি এবং উত্তরাধিকার অপব্যবহারের উপাদানের অন্যান্য পরিচিত শিকারদের নিয়ে আলোচনা করছে।

আইনি তত্ত্ব: প্রশিক্ষণের ডেটা, শুধু আউটপুট নয়

এই ফাইলিংটি xAI-এর বিরুদ্ধে আগের মামলা থেকে আলাদা করে তা হল স্বতন্ত্র ব্যবহারকারীরা কী তৈরি করেছে তার চেয়ে মডেলের দিকেই এর ফোকাস। অভিযোগে যুক্তি দেওয়া হয়েছে যে যেহেতু Grok-এর পরিষেবার শর্তাবলী X-এ সর্বজনীন পোস্টগুলি এবং Grok-এর নিজস্ব আউটপুটগুলিকে ডিফল্টরূপে প্রশিক্ষণের ডেটা হিসাবে বিবেচনা করে, তাই সর্বজনীনভাবে পোস্ট করা যেকোনো কিছু সরাসরি মডেলটিকে প্রশিক্ষণ এবং উন্নত করতে ব্যবহৃত পাইপলাইনে ফিড করে৷

ফাইলিং স্বীকার করে যে xAI তার প্রশিক্ষণের ডেটা থেকে হিংসাত্মক বিষয়বস্তু ফিল্টার করে, কিন্তু যুক্তি দেয় যে কোম্পানির শর্তাবলী শিশু যৌন নির্যাতনের উপাদান, অ-সম্মতিমূলক অন্তরঙ্গ চিত্র বা অন্যান্য প্রাপ্তবয়স্ক বিষয়বস্তু বর্জনীয় বিভাগে পড়ে কিনা তা নির্দিষ্ট করে না। এটি আরও যুক্তি দেয় যে এমনকি যেখানে আপত্তিকর ছবিগুলি সরানো হয়, সেখানে ইতিমধ্যে-প্রশিক্ষিত মডেলের প্রশিক্ষণ উদাহরণের প্রভাব প্রযুক্তিগতভাবে সম্পূর্ণরূপে অপসারণ করা কঠিন - এবং xAI প্রকাশ্যে এটি করেছে বলে দাবি করেনি।

মামলা কি চায়

যদি প্রস্তাবিত শ্রেণীটি প্রত্যয়িত হয়, তবে এটি এমন প্রত্যেক ব্যক্তির প্রতিনিধিত্ব করবে যার শৈশবের ছবিগুলি গ্রোকের সাথে অপব্যবহারের উপাদান তৈরি করতে ব্যবহৃত হয়েছে বলে অভিযোগ করা হয়েছে৷ মামলাটি ফেডারেল চাইল্ড পর্নোগ্রাফি আইন এবং মাশার আইন আহ্বান করে, যা অপব্যবহারের উপাদান থেকে বেঁচে থাকা ব্যক্তিদের এর উত্পাদন, দখল এবং বিতরণের বিরুদ্ধে মামলা করার অধিকার দেয়।

"তিনটিই অপরাধ, এবং xAI তিনটিই করেছে," ডো-এর একজন আইনজীবী মার্গারেট ই. মাবি, আরস টেকনিকার উদ্ধৃত প্রেস বিজ্ঞপ্তিতে বলেছেন।

আর্থিক ক্ষতির বাইরে, Doe আদালতকে XAI-কে Grok-উত্পাদিত অপব্যবহারের সামগ্রীকে এটি সংরক্ষণ এবং প্রশিক্ষণের জন্য ব্যবহার করা হতে পারে তা ধ্বংস করতে এবং মডেলটিকে যে কোনও ধরণের যৌনতামূলক আউটপুট তৈরি করা থেকে রোধ করার নির্দেশ দিতে বলছে — এমন একটি দাবি যা কেবল অপব্যবহারের চিত্রই নয় বরং অসম্মতিমূলক অন্তরঙ্গ চিত্র এবং প্রাপ্তবয়স্কদের পাবলিক সামগ্রী হিসাবে প্রচার করে এমন সব বিষয়বস্তুকে প্রকাশ করবে।

"ডো প্রায় দুই দশক ধরে বেঁচে আছেন জেনেছেন যে তার সাথে ঘটে যাওয়া সবচেয়ে খারাপ জিনিসটির চিত্রগুলি অনলাইনে শিকারীদের মধ্যে প্রচারিত হচ্ছে এবং তারা যে কোনও মুহুর্তে পুনরুত্থিত হতে পারে," ডের অন্য একজন আইনজীবী সারাহ লন্ডন প্রেস রিলিজে বলেছেন। "এক্সএআইকে অবশ্যই দায়বদ্ধ হতে হবে যে তার মডেলগুলিকে সে যে ভয়ঙ্কর নির্যাতনের শিকার হয়েছিল তার চিত্রগুলিতে জ্ঞাতসারে প্রশিক্ষণ দেওয়ার জন্য।"

একটি মাউন্টিং আইনি হিসাব

ফাইলিং হল Grok এর ইমেজ এবং ভিডিও ক্ষমতা নিয়ে বিস্তৃত আইনি লড়াইয়ের সর্বশেষ ফ্রন্ট। টেনেসিতে একটি পৃথক মামলায়, জেন ডো 4 নামে পরিচিত একজন মহিলা একটি মামলায় যোগ দিয়েছিলেন যে অভিযোগ করে যে একটি একক শৈশব ছবি গ্রোকের সাথে ব্যবহার করা হয়েছিল তার হাজার হাজার স্পষ্ট চিত্র তৈরি করতে - অভিযোগগুলি এআই বাজ ওয়্যার এই মাসের শুরুতে কভার করেছে৷ নিয়ন্ত্রক এবং আদালতগুলি পরীক্ষা করছে যে সমস্যাগুলি কতটা প্রসারিত হয়েছে এবং কিছু গ্রোক ব্যবহারকারীকে তাদের তৈরি করা উপাদানগুলির জন্য গ্রেপ্তার করা হয়েছে।

একই সময়ে, xAI তার ব্যবহারকারীদের বিরুদ্ধে অপরাধ করেছে। পলিটিকো এই সপ্তাহে রিপোর্ট করেছে যে কোম্পানী তার নিজস্ব কিছু ব্যবহারকারীদের বিরুদ্ধে মামলা করছে এমনকি ভিকটিম মোকদ্দমা মাউন্ট করে, একটি কৌশল যা পরীক্ষা করে যে প্ল্যাটফর্ম বা লোকেরা তাদের প্ররোচিত করছে কিনা তারা একটি এআই মডেল যা উত্পাদন করে তার জন্য আইনি দায় বহন করে কিনা।

নতুন অভিযোগটি সেই লড়াইয়ের কেন্দ্রে প্রশিক্ষণ-ডেটা প্রশ্ন রাখে। যদি আদালত এই যুক্তি মেনে নেয় যে একটি মডেলের প্রশিক্ষণ সেট ব্যবহারকারীদের যা তৈরি করতে সক্ষম করে তার জন্য দায় তৈরি করতে পারে, তাহলে এর প্রভাবগুলি xAI-এর বাইরেও পৌঁছে যাবে — প্রতিটি জেনারেটিভ ইমেজ এবং ভিডিও কোম্পানিকে স্পর্শ করে যার শর্তাবলী ব্যবহারকারীর বিষয়বস্তুকে প্রশিক্ষণে ফিরিয়ে দেয়। আপাতত, অভিযোগগুলি শুধু এই যে: ফাইলিং xAI-তে অভিযোগগুলি এখনও আদালতে উত্তর দেয়নি।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →