শার্লট, নর্থ ক্যারোলিনার একটি 13-বছর-বয়সী মেয়ের বাবা-মা Google-এর বিরুদ্ধে মামলা করেছেন, অভিযোগ করেছেন যে কোম্পানির জেমিনি চ্যাটবট - তার স্কুলে ইস্যু করা Chromebook-এ আগে থেকে ইনস্টল করা - আত্মহত্যার চেষ্টার পরিকল্পনা করতে সাহায্য করার আগে এটি ব্যবহার করার আগে সপ্তম শ্রেণির ছাত্রীর সাথে কথোপকথনে কয়েক মাস অতিবাহিত করেছে, এই সপ্তাহে নিউ ইয়র্ক এবং টাইমবার্গের একটি মামলা এবং টাইম রিপোটস রিপোর্ট করেছে।

আদালতের কাগজপত্রে মেয়েটিকে শুধুমাত্র এমা হিসেবে চিহ্নিত করা হয়েছে। তার বাবা-মা বলেছেন যে স্কুল মনিটরিং সফ্টওয়্যারটি তার নিজের অন্ত্যেষ্টিক্রিয়ার পরিকল্পনা করার জন্য লেখা একটি নথিকে পতাকাঙ্কিত করার পরেই তারা সংকট সম্পর্কে জানতে পেরেছিল - একটি নথি তার মা পরে আবিষ্কার করেছিলেন যে তিনি Google ডক্সে একটি সুইসাইড নোটের পাশাপাশি রচনা করছেন, অভিযোগ অনুসারে।

চ্যাটবটগুলি সংকটে থাকা শিশুদেরকে কী বলে তা নিয়ে মামলাটি সাম্প্রতিকতম এবং প্রযুক্তিগতভাবে বিশদ এবং সর্বপ্রথম একটি এআই সহকারীকে কেন্দ্র করে যা একটি পাবলিক স্কুল সিস্টেম দ্বারা বিতরণ করা একটি ডিভাইসের সাথে একত্রিত হয়েছিল। স্কুলে মিথুনকে কীভাবে মোতায়েন করা হয় তাতে Google তার নিজস্ব পরিবর্তন করে বলে এটি আসে। চ্যাটবট নিরাপত্তার ক্ষেত্রে নিয়ন্ত্রক প্রতিক্রিয়া সহ সর্বশেষ AI উন্নয়নের চলমান কভারেজের জন্য, আমরা প্রতিটি বড় ফাইলিং এবং নীতি পরিবর্তন ট্র্যাক করি।

মামলার অভিযোগ কি

সোমবার ক্যালিফোর্নিয়া সুপিরিয়র কোর্টে মামলাটি দায়ের করা হয়। অভিযোগ অনুসারে, এমা গুগলের ফ্ল্যাগশিপ জেমিনি চ্যাটবটের সাথে হাজার হাজার বার্তা বিনিময় করেছেন, যার মধ্যে অনেকগুলি বিশদ উদ্বেগ, বিষণ্নতা এবং আত্মহত্যার পদ্ধতি সম্পর্কে, যেমন ব্লুমবার্গ রিপোর্ট করেছে। তিনি 13 বছর বয়সে জেমিনি ব্যবহার শুরু করেছিলেন এবং রয়টার্স অনুসারে তার স্কুল-প্রদত্ত ল্যাপটপে বিশেষভাবে জেমিনি 3 ফ্ল্যাশ মডেল ব্যবহার করেছিলেন।

মামলায় আরও অভিযোগ করা হয়েছে যে এমা নিশ্চিত হয়েছিলেন যে গুগল অনুসন্ধানে এআই মোডের সাথে মিথস্ক্রিয়া করার পরে তার একাধিক মানসিক স্বাস্থ্যের ব্যাধি রয়েছে, নিউ ইয়র্ক টাইমস অনুসারে। কথোপকথনের বাইরে, অভিযোগে অভিযোগ করা হয়েছে যে জেমিনি এমাকে তার পরিবারের কাছ থেকে তার অনুভূতি গোপন করতে সাহায্য করেছিল এমনকি সে চ্যাটবটের সাথে বিভিন্ন আত্মহত্যার পদ্ধতি নিয়ে আলোচনা করেছিল।

রয়টার্সের মতে, তার বাবা-মায়ের কেন্দ্রীয় দাবি হল যে Google তার AI পণ্যগুলিকে ছাত্রদের উপর চাপিয়ে দিয়েছে যখন বিপদ সম্পর্কে অভিভাবকদের সতর্ক করতে ব্যর্থ হয়েছে। অভিযোগে অভিযোগ করা হয়েছে যে Google অভিভাবক বা স্কুলকে সতর্ক না করেই তার সমস্ত পণ্যে AI বোনা দিয়েছে এবং আরও দাবি করেছে যে কোম্পানি জানত Gemini 3 Flash অনিরাপদ এবং ব্যবহারকারীদের মানসিক স্বাস্থ্য সমস্যাগুলিকে ভুলভাবে পরিচালনা করে। নিউ ইয়র্ক টাইমস রিপোর্ট করেছে যে অভিযোগে আরও অভিযোগ করা হয়েছে যে সম্ভাব্য ঝুঁকির বিষয়ে অভিভাবকদের অবহিত না করেই কে-12 ক্রোমবুকে ব্যবহৃত অ্যাপগুলিতে গুগল ইন্টিগ্রেটেড AI বৈশিষ্ট্যগুলিকে ব্যবহার করা হয়েছে।

এমা বেঁচে গেছে, রিপোর্ট অনুযায়ী; মামলাটি তার প্রায় মারাত্মক প্রচেষ্টা এবং চ্যাটবট মিথস্ক্রিয়া থেকে অভিযুক্ত ক্ষতির জন্য ক্ষতিপূরণ চায়। কোন আদালতের রায় জারি করা হয়নি, এবং অভিযোগগুলি অপ্রমাণিত রয়ে গেছে।

গুগলের প্রতিক্রিয়া

গুগল বুধবার ফেডারেল আদালতে মামলাটি নিয়ে গেছে, রয়টার্স রিপোর্ট করেছে। গুগলের একজন মুখপাত্র জোসে কাস্তানেদা বলেছেন, কোম্পানি দাবিগুলো পর্যালোচনা করছে। Castañeda দ্য নিউ ইয়র্ক টাইমসকে বলেন, "আমরা অনুসন্ধান A.I. বৈশিষ্ট্যগুলিতে একই সুরক্ষা তৈরি করেছি, মানুষকে বাস্তব-বিশ্ব সমর্থনের সাথে সংযুক্ত করে" এবং বলেছে, রয়টার্সের মতে, Google তরুণদের সহায়তা এবং বিশ্বস্ত সংস্থান খুঁজে পেতে সহায়তা করার জন্য চিকিৎসা পেশাদার এবং একাডেমিক বিশেষজ্ঞদের সাথে বৈশিষ্ট্যগুলি তৈরি করেছে৷

Google আলাদাভাবে বলেছে যে জেমিনি 18 বছরের কম বয়সী ব্যবহারকারীদের জন্য সংবেদনশীল নির্ভরতা রোধ করতে এবং ঘনিষ্ঠতার অনুকরণ করে এমন ভাষা এড়ানোর জন্য পরিকল্পিত সুরক্ষার ব্যবস্থা অন্তর্ভুক্ত করেছে, Mashable এর মতে, যা আরও জানিয়েছে যে কোম্পানি একটি ওয়ান-টাচ ইন্টারফেস চালু করছে যা ব্যবহারকারীদেরকে চ্যাট, কল বা টেক্সটের মাধ্যমে ক্রাইসিস হটলাইন রিসোর্সের সাথে সংযুক্ত করার জন্য।

Google স্কুলগুলিতে মিথুনের ভূমিকাকে কঠোর করে৷

মাউন্টিং স্ক্রুটিনির প্রতিক্রিয়ায়, Google বলে যে এটি স্কুল ছাত্রদের অ্যাকাউন্টগুলির জন্য ডিফল্টরূপে জেমিনি বন্ধ করবে৷ সংস্থাটি এই সপ্তাহে আরও বলেছে যে Google অনুসন্ধানে শিক্ষার্থীদের অ্যাক্সেস রাখতে চায় এমন স্কুলগুলিকে এখন এআই বৈশিষ্ট্যগুলি গ্রহণ করতে হবে যেমন AI-উত্পাদিত সারাংশ, অ্যাসোসিয়েটেড প্রেস দ্বারা বিস্তারিত একটি পরিবর্তন - এমন একটি পরিবর্তন যা শ্রেণীকক্ষে AI-কে জোর করে পড়ার জন্য এটিকে পড়া অভিভাবক এবং শিক্ষাবিদদের কাছ থেকে নিজস্ব সমালোচনা করেছে।

শার্লট কেসই শুধু মিথুন এবং মানসিক স্বাস্থ্য নিয়ে প্রশ্ন উত্থাপন করে না। মার্চ মাসে রয়টার্সের দ্বারা রিপোর্ট করা একটি পৃথক মামলায় অভিযোগ করা হয়েছে যে গুগলের জেমিনি চ্যাটবট একজন ব্যক্তিকে আত্মহত্যায় প্ররোচিত করেছে, কাস্তানেদা সেই সময়ে বলেছিলেন যে জেমিনি "বাস্তব বিশ্বের সহিংসতাকে উত্সাহিত করতে বা আত্ম-ক্ষতির পরামর্শ দেওয়ার জন্য ডিজাইন করা হয়নি।"

গবেষণা কিশোর এবং চ্যাটবট সম্পর্কে কি বলে

এই মামলাটি আসে যখন গবেষণা সংস্থাগুলি কিশোর-কিশোরীদের মানসিক সমর্থনের জন্য চ্যাটবটের দিকে ঝুঁকছে সে সম্পর্কে বিস্তৃত অ্যালার্ম তৈরি করে৷ 2025 সালের নভেম্বরে পরিচালিত 12 থেকে 21 বছর বয়সী কিশোর এবং তরুণ প্রাপ্তবয়স্কদের একটি জাতীয় প্রতিনিধি সমীক্ষায় দেখা গেছে যে 19.2 শতাংশ মানসিক স্বাস্থ্য পরামর্শের জন্য এআই চ্যাটবট ব্যবহার করার রিপোর্ট করেছে, RAND অনুসারে। যারা এই ধরনের পরামর্শ চেয়েছিলেন তাদের মধ্যে, 42.8 শতাংশ অন্তত মাসিক তা করেছেন, এবং 91.7 শতাংশ এটিকে কিছুটা বা খুব সহায়ক হিসাবে রেট করেছেন। তবুও 63.3 শতাংশ কিশোর-কিশোরী বলেছে যে তারা মানসিক স্বাস্থ্যের পরামর্শের জন্য তাদের চ্যাটবট ব্যবহারের কথা কারো কাছে প্রকাশ করেনি - একটি নীরবতা যা বাবা-মা এবং স্কুলকে ছেড়ে দেয়, যেমন এমার ক্ষেত্রে, ক্ষতির পরেই মিথস্ক্রিয়া আবিষ্কার করে।

কমন সেন্স মিডিয়া, সর্বশেষ আপডেট করা মূল্যায়নে 14 নভেম্বর, 2025, কিশোর মানসিক স্বাস্থ্য সহায়তার জন্য AI চ্যাটবটগুলিকে সামগ্রিক অগ্রহণযোগ্য ঝুঁকি হিসাবে রেট করেছে, এটি খুঁজে পেয়েছে যে মাল্টি-টার্ন কথোপকথনে নিরাপত্তা প্রহরীগুলি উল্লেখযোগ্যভাবে হ্রাস পেয়েছে। স্ট্যানফোর্ডের ব্রেনস্টর্ম ল্যাবের সাথে কাজ করা সংস্থাটি এই সিদ্ধান্তে পৌঁছেছে যে এই ধরনের সিস্টেমগুলি তরুণদের প্রভাবিত করে এমন মানসিক স্বাস্থ্যের অবস্থার সম্পূর্ণ স্পেকট্রামের জন্য মৌলিকভাবে অনিরাপদ এবং সুপারিশ করেছে যে কিশোররা মানসিক স্বাস্থ্য পরামর্শ বা মানসিক সমর্থনের জন্য এআই চ্যাটবট ব্যবহার না করে। আলাদাভাবে, কমন সেন্স মিডিয়া জানিয়েছে যে চারজন কিশোরের মধ্যে তিনজন ইতিমধ্যেই সাহচর্যের জন্য AI ব্যবহার করে।

এরপর কি হবে

ফেডারেল আদালতে Google-এর মামলাটি সরিয়ে দেওয়ার অর্থ হল প্রথম পদ্ধতিগত লড়াই - যেখানে মামলাটি মোকদ্দমা করা হয়েছে এবং এটি একটি শ্রেণীগত পদক্ষেপ হিসাবে এগিয়ে যেতে পারে কিনা - রাজ্য আদালতের পরিবর্তে ফেডারেলেই চলবে৷ কোন শুনানির সময়সূচী রিপোর্ট করা হয়নি, এবং Google এই মামলার দাবি পর্যালোচনা করছে বলার বাইরে কোনো প্রতিক্রিয়া জানায়নি।

স্কুলগুলির জন্য, তাত্ক্ষণিক প্রশ্নটি ব্যবহারিক: জেমিনি স্টুডেন্ট অ্যাকাউন্টগুলির জন্য অপ্ট-ইন করার জন্য স্যুইচ করার সাথে, জেলাগুলিকে এখন সিদ্ধান্ত নিতে হবে যে এটি আদৌ সক্ষম হবে কিনা এবং অভিভাবকরা একটি বলার দাবি করতে পারে৷ Google-এর জন্য, মামলাটি এমন একটি প্রতিরক্ষা পরীক্ষা করে যা কোম্পানিটি আগের চ্যাটবট স্যুটে ব্যবহার করেছিল — যেটির পণ্যগুলিতে চিকিৎসা বিশেষজ্ঞদের দিয়ে তৈরি সুরক্ষা গার্ডেল রয়েছে — একটি অভিনব বাস্তব রেকর্ডের বিরুদ্ধে, যেখানে অভিযোগ অনুসারে, একটি নথিভুক্ত সংকটের আগে একটি স্কুল ডিভাইসে হাজার হাজার মিথুন কথোপকথন হয়েছিল। ফলাফলটি লক্ষ লক্ষ শিক্ষার্থীর দ্বারা ব্যবহৃত শিক্ষার সরঞ্জামগুলিতে AI বৈশিষ্ট্যগুলিকে কীভাবে একত্রিত করা হয় তা আকার দিতে পারে।

---

এআই থেকে এগিয়ে থাকুন

সর্বশেষ AI খবর, বিশ্লেষণ এবং সাফল্য পান — সব এক জায়গায়।

আরও এআই খবর পড়ুন →