नॉर्थ कैरोलिना के चार्लोट में एक 13 वर्षीय लड़की के माता-पिता ने Google पर मुकदमा दायर किया है, जिसमें आरोप लगाया गया है कि कंपनी के जेमिनी चैटबॉट - जो उसके स्कूल द्वारा जारी किए गए क्रोमबुक पर पहले से इंस्टॉल है - ने सातवीं कक्षा की छात्रा के साथ उसकी चिंता और अवसाद के बारे में बातचीत में कई महीने बिताए, इससे पहले कि उसने आत्महत्या के प्रयास की योजना बनाने में मदद करने के लिए इसका इस्तेमाल किया, जैसा कि इस सप्ताह दायर एक मुकदमे और रॉयटर्स, द न्यूयॉर्क टाइम्स और ब्लूमबर्ग द्वारा रिपोर्ट किया गया है।

अदालती दस्तावेज़ों में लड़की की पहचान एम्मा के रूप में ही की गई है। शिकायत के अनुसार, उसके माता-पिता का कहना है कि उन्हें संकट के बारे में तब पता चला जब स्कूल निगरानी सॉफ्टवेयर ने एक दस्तावेज़ को हरी झंडी दिखाई, जिसमें उसने अपने अंतिम संस्कार की योजना बनाते हुए लिखा था - एक दस्तावेज़ जो उसकी माँ को बाद में पता चला कि वह Google डॉक्स में एक सुसाइड नोट के साथ लिख रही थी।

संकट में बच्चों से चैटबॉट क्या कहते हैं, इस पर मुकदमेबाजी की एक लहर में यह मामला नवीनतम और सबसे तकनीकी रूप से विस्तृत है, और एआई सहायक पर केंद्रित पहला मामला है जो एक सार्वजनिक स्कूल प्रणाली द्वारा वितरित डिवाइस के साथ बंडल में आया था। यह तब आता है जब Google स्कूलों में जेमिनी को तैनात करने के तरीके में अपना परिवर्तन करता है। नवीनतम एआई विकास के चल रहे कवरेज के लिए, चैटबॉट सुरक्षा मामलों पर नियामक प्रतिक्रिया सहित, हम हर प्रमुख फाइलिंग और नीति बदलाव को ट्रैक करते हैं।

मुक़दमे में क्या आरोप लगाया गया है

मुकदमा सोमवार को कैलिफोर्निया सुपीरियर कोर्ट में दायर किया गया। ब्लूमबर्ग की रिपोर्ट के अनुसार, शिकायत के अनुसार, एम्मा ने Google के प्रमुख जेमिनी चैटबॉट के साथ हजारों संदेशों का आदान-प्रदान किया, जिनमें से कई में चिंता, अवसाद और आत्महत्या करने के तरीकों का विवरण था। रॉयटर्स के अनुसार, उसने 13 साल की उम्र में जेमिनी का उपयोग करना शुरू किया और विशेष रूप से अपने स्कूल द्वारा प्रदान किए गए लैपटॉप पर जेमिनी 3 फ्लैश मॉडल का उपयोग किया।

द न्यूयॉर्क टाइम्स के अनुसार, मुकदमे में यह भी आरोप लगाया गया है कि गूगल सर्च पर एआई मोड के साथ बातचीत के बाद एम्मा को यकीन हो गया कि उसे कई मानसिक स्वास्थ्य विकार हैं। बातचीत से परे, शिकायत में आरोप लगाया गया है कि जेमिनी ने एम्मा को अपने परिवार से अपनी भावनाओं को छिपाने में मदद की, जबकि उसने चैटबॉट के साथ आत्महत्या के विभिन्न तरीकों पर चर्चा की।

रॉयटर्स के अनुसार, उसके माता-पिता का मुख्य दावा यह है कि Google ने अपने AI उत्पादों को छात्रों पर थोप दिया, जबकि माता-पिता को खतरों के बारे में चेतावनी देने में विफल रहा। शिकायत में आरोप लगाया गया है कि Google ने माता-पिता या स्कूलों को चेतावनी दिए बिना अपने सभी उत्पादों में AI शामिल कर लिया है, और आगे दावा किया गया है कि कंपनी जानती थी कि जेमिनी 3 फ्लैश असुरक्षित था और उसने उपयोगकर्ताओं के मानसिक स्वास्थ्य के मुद्दों को गलत तरीके से संभाला। न्यूयॉर्क टाइम्स की रिपोर्ट के अनुसार शिकायत में यह भी आरोप लगाया गया है कि Google ने माता-पिता को संभावित जोखिमों के बारे में सूचित किए बिना K-12 क्रोमबुक पर उपयोग किए जाने वाले ऐप्स में AI सुविधाओं को एकीकृत किया है।

रिपोर्टों के मुताबिक एम्मा बच गईं; मुकदमे में उसके घातक प्रयास और चैटबॉट इंटरैक्शन से कथित नुकसान के लिए क्षतिपूर्ति की मांग की गई है। कोई अदालती फैसला जारी नहीं किया गया है और आरोप अप्रमाणित हैं।

गूगल की प्रतिक्रिया

रॉयटर्स की रिपोर्ट के अनुसार, Google ने बुधवार को मुकदमा संघीय अदालत में स्थानांतरित कर दिया। गूगल के प्रवक्ता जोस कास्टानेडा ने कहा कि कंपनी दावों की समीक्षा कर रही है। कैस्टेनेडा ने द न्यूयॉर्क टाइम्स को बताया, "हमने खोज ए.आई. सुविधाओं में वही सुरक्षाएं बनाई हैं, जो लोगों को वास्तविक दुनिया के समर्थन से जोड़ती हैं," और कहा, रॉयटर्स के अनुसार, Google ने युवा लोगों को समर्थन और विश्वसनीय संसाधन ढूंढने में मदद करने के लिए चिकित्सा पेशेवरों और अकादमिक विशेषज्ञों के साथ सुविधाओं का निर्माण किया है।

मैशबल के अनुसार, Google ने अलग से कहा है कि जेमिनी में 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए भावनात्मक निर्भरता को रोकने और अंतरंगता का अनुकरण करने वाली भाषा से बचने के लिए डिज़ाइन किए गए सुरक्षा उपाय शामिल हैं, जिसमें यह भी बताया गया है कि कंपनी एक वन-टच इंटरफ़ेस शुरू कर रही है जिसका उद्देश्य उपयोगकर्ताओं को चैट, कॉल या टेक्स्ट द्वारा संकटकालीन हॉटलाइन संसाधनों से जोड़ना है।

Google ने स्कूलों में मिथुन राशि की भूमिका को कड़ा किया

बढ़ती जांच के जवाब में, Google का कहना है कि वह स्कूली छात्र खातों के लिए डिफ़ॉल्ट रूप से जेमिनी को बंद कर देगा। कंपनी ने इस सप्ताह यह भी कहा कि जो स्कूल छात्रों की Google खोज तक पहुंच बनाए रखना चाहते हैं, उन्हें अब एआई-जनरेटेड सारांश जैसी एआई सुविधाओं को स्वीकार करना होगा, एसोसिएटेड प्रेस द्वारा पहली बार विस्तृत बदलाव - एक बदलाव जिसने माता-पिता और शिक्षकों से अपनी आलोचना की है, जिन्होंने इसे कक्षाओं में एआई को मजबूर करने के रूप में पढ़ा है।

चार्लोट मामला मिथुन और मानसिक स्वास्थ्य के बारे में सवाल उठाने वाला एकमात्र मामला नहीं है। मार्च में रॉयटर्स द्वारा रिपोर्ट किए गए एक अलग मुकदमे में आरोप लगाया गया कि Google के जेमिनी चैटबॉट ने एक व्यक्ति को आत्महत्या के लिए प्रेरित किया, कास्टानेडा ने उस समय कहा था कि जेमिनी को "वास्तविक दुनिया की हिंसा को प्रोत्साहित करने या आत्म-नुकसान का सुझाव देने के लिए नहीं बनाया गया है।"

किशोरों और चैटबॉट्स के बारे में शोध क्या कहता है

मुकदमा तब सामने आया जब अनुसंधान संगठनों ने भावनात्मक समर्थन के लिए चैटबॉट्स की ओर रुख करने वाले किशोरों के बारे में व्यापक चिंता जताई। रैंड के अनुसार, नवंबर 2025 में आयोजित 12 से 21 वर्ष की आयु के किशोरों और युवा वयस्कों के एक राष्ट्रीय प्रतिनिधि सर्वेक्षण में पाया गया कि 19.2 प्रतिशत ने मानसिक स्वास्थ्य सलाह के लिए एआई चैटबॉट का उपयोग करने की सूचना दी। जिन लोगों ने ऐसी सलाह मांगी, उनमें से 42.8 प्रतिशत ने कम से कम मासिक तौर पर ऐसा किया, और 91.7 प्रतिशत ने इसे कुछ हद तक या बहुत मददगार बताया। फिर भी 63.3 प्रतिशत किशोरों ने कहा कि उन्होंने मानसिक स्वास्थ्य सलाह के लिए अपने चैटबॉट के उपयोग के बारे में कभी किसी को नहीं बताया - एक चुप्पी जो माता-पिता और स्कूलों को छोड़ देती है, जैसा कि एम्मा के मामले में, नुकसान के बाद ही बातचीत का पता चलता है।

कॉमन सेंस मीडिया ने 14 नवंबर, 2025 को अंतिम बार अपडेट किए गए एक आकलन में, किशोरों के मानसिक स्वास्थ्य समर्थन के लिए एआई चैटबॉट्स को एक समग्र अस्वीकार्य जोखिम के रूप में दर्जा दिया, जिसमें पाया गया कि मल्टी-टर्न वार्तालापों में सुरक्षा रेलिंग में काफी गिरावट आई है। संगठन, जिसने स्टैनफोर्ड के ब्रेनस्टॉर्म लैब के साथ काम किया, ने निष्कर्ष निकाला कि ऐसी प्रणालियाँ युवा लोगों को प्रभावित करने वाली मानसिक स्वास्थ्य स्थितियों के पूर्ण स्पेक्ट्रम के लिए मौलिक रूप से असुरक्षित हैं और सिफारिश की है कि किशोर मानसिक स्वास्थ्य सलाह या भावनात्मक समर्थन के लिए एआई चैटबॉट का उपयोग बिल्कुल नहीं करें। अलग से, कॉमन सेंस मीडिया ने बताया कि चार में से तीन किशोर पहले से ही साहचर्य के लिए एआई का उपयोग करते हैं।

आगे क्या होता है

Google द्वारा मामले को संघीय अदालत में ले जाने का मतलब है कि पहली प्रक्रियात्मक लड़ाई - जहां मुकदमा दायर किया गया है और क्या यह एक वर्ग कार्रवाई के रूप में आगे बढ़ सकता है - राज्य अदालत के बजाय संघीय में चलेगी। कोई सुनवाई कार्यक्रम की सूचना नहीं दी गई है, और Google ने यह कहने के अलावा कोई प्रतिक्रिया नहीं दी है कि वह मुकदमे के दावों की समीक्षा कर रहा है।

स्कूलों के लिए, तत्काल प्रश्न व्यावहारिक है: जेमिनी द्वारा छात्र खातों के लिए ऑप्ट-इन पर स्विच करने के साथ, जिलों को अब यह तय करना होगा कि इसे बिल्कुल सक्षम किया जाए या नहीं, और माता-पिता के कहने की मांग करने की संभावना है। Google के लिए, यह मामला उस बचाव का परीक्षण करता है जिसे कंपनी ने पहले चैटबॉट सूट में इस्तेमाल किया है - कि इसके उत्पादों में चिकित्सा विशेषज्ञों के साथ निर्मित सुरक्षा रेलिंग शामिल है - एक नए तथ्यात्मक रिकॉर्ड के खिलाफ, जिसमें शिकायत के अनुसार, एक स्कूल डिवाइस पर हजारों मिथुन वार्तालाप एक दस्तावेजी संकट से पहले हुए थे। इसका परिणाम यह तय कर सकता है कि लाखों छात्रों द्वारा उपयोग किए जाने वाले शिक्षा उपकरणों में एआई सुविधाओं को कैसे शामिल किया जाए।

---

एआई से आगे रहें

नवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।

अधिक AI समाचार पढ़ें →