टेक्सास के अटॉर्नी जनरल केन पैक्सटन ने शुक्रवार को ओपनएआई और सीईओ सैम ऑल्टमैन पर मुकदमा दायर किया, जिसमें आरोप लगाया गया कि कंपनी ने चैटजीपीटी की सुरक्षा के बारे में उपभोक्ताओं को गुमराह किया और बच्चों सहित उपयोगकर्ताओं को वास्तविक दुनिया के नुकसान से बचाने में विफल रही।

कॉलिन काउंटी में राज्य अदालत में दायर किया गया मुकदमा, टेक्सास को चैटबॉट सुरक्षा पर चैटजीपीटी के निर्माता को अदालत में ले जाने वाला नवीनतम और सबसे बड़ा राज्य बनाता है, पिछले सप्ताह एरिज़ोना, वेस्ट वर्जीनिया और आयोवा सहित आठ अन्य राज्यों में द्विदलीय अटॉर्नी जनरल द्वारा दायर इसी तरह के मुकदमों के बाद। संघीय सरकार द्वारा एआई विनियमन के लिए बड़े पैमाने पर निष्क्रिय दृष्टिकोण बनाए रखने के साथ, राज्य के घर प्रौद्योगिकी को नियंत्रित करने के लिए प्राथमिक युद्ध का मैदान बन गए हैं। For more context on this story, see our ongoing latest AI developments.

पैक्सटन ने एक बयान में कहा, "एआई तकनीक की तेजी से प्रगति के साथ, ओपनएआई पर उपयोगकर्ताओं की सुरक्षा करने और उन्हें अपने प्लेटफॉर्म के कई खतरों से आगाह करने की जिम्मेदारी है।" "मैं टेक्ससवासियों को एआई के नुकसान से बचाने के लिए लड़ूंगा और यह सुनिश्चित करूंगा कि शक्तिशाली प्रौद्योगिकी कंपनियां कानून से ऊपर न हों।"

मुक़दमे में क्या आरोप लगाया गया है

पोलिटिको के अनुसार, जिसने अदालती दस्तावेजों की समीक्षा की, शिकायत में आरोप लगाया गया है कि ओपनएआई की व्यावसायिक प्रथाओं ने टेक्सास के उपभोक्ता संरक्षण कानून - भ्रामक व्यापार व्यवहार अधिनियम - के साथ-साथ माता-पिता सशक्तिकरण अधिनियम के माध्यम से राज्य के बच्चों को ऑनलाइन सुरक्षित करने का उल्लंघन किया है। मुख्य दावा भ्रामक विपणन है: ओपनएआई ने ज्ञात जोखिमों का खुलासा करने में विफल रहते हुए चैटजीपीटी को सुरक्षित के रूप में प्रस्तुत किया।

मुकदमे में तर्क दिया गया है कि वे जोखिम काल्पनिक नहीं हैं। शिकायत में ऐसे उदाहरणों का हवाला दिया गया है जिसमें चैटबॉट ने कथित तौर पर खुद को नुकसान पहुंचाने के लिए प्रोत्साहित किया और नाबालिगों सहित उपयोगकर्ताओं के साथ अस्वास्थ्यकर भावनात्मक संबंधों को बढ़ावा दिया। ह्यूस्टन क्रॉनिकल द्वारा सबसे पहले रिपोर्ट की गई भाषा में, मुकदमे में दावा किया गया है कि पर्याप्त सुरक्षा उपायों के बिना, "बड़े पैमाने पर निशानेबाजों को घातक हिंसा में सहायता और उकसाया गया है, कमजोर लोगों को आत्महत्या के लिए प्रोत्साहित किया गया है, पेशेवरों को सार्वजनिक अपमान का सामना करना पड़ा है, उपयोगकर्ताओं ने महत्वपूर्ण सोच कौशल खो दिया है, और नाबालिग एक ऐसे उपकरण के आदी हो गए हैं जो माता-पिता की निगरानी के बिना उनके डेटा को इकट्ठा करने के लिए मानवीय करुणा का दिखावा करता है।"

शिकायत चैटबॉट व्यवहार से भी आगे तक पहुंचती है. पैक्सटन उन घटनाओं की एक श्रृंखला की ओर इशारा करता है जिनमें ओपनएआई के अपने एआई एजेंटों ने अन्य निजी कंपनियों की वेबसाइटों और प्रणालियों को हैक किया या उनमें सेंध लगाने का प्रयास किया, यह तर्क देते हुए कि पैटर्न एक ऐसी कंपनी को दर्शाता है जिसने आंतरिक सुरक्षा चेतावनियों की अनदेखी करते हुए वित्तीय लाभ के लिए उत्पादों को बाजार में उतारा है। वे दावे इस वर्ष प्रलेखित प्रकरणों की एक श्रृंखला को प्रतिध्वनित करते हैं जिसमें फ्रंटियर एजेंट सैंडबॉक्स से बच गए, बाहरी प्रणालियों में हस्तक्षेप किया, और ओपनएआई और एंथ्रोपिक दोनों को प्रशिक्षण के दौरान लाइव इंटरनेट एक्सेस को प्रतिबंधित करने के लिए मजबूर किया।

पैक्सटन क्या चाहता है

पैक्सटन जो राहत चाहता है वह क्षति से कहीं अधिक है। राज्य एक न्यायाधीश से ओपनएआई को टेक्सास में नाबालिगों को चैटजीपीटी की पेशकश करने से पूरी तरह से प्रतिबंधित करने के लिए कह रहा है, और कंपनी को एक स्वतंत्र तृतीय-पक्ष मूल्यांकनकर्ता की मंजूरी के बिना टेक्सास के उपयोगकर्ताओं के लिए नए एआई मॉडल जारी करने से रोकने के लिए कह रहा है - फ्रंटियर मॉडल के लिए एक वास्तविक पूर्व-बाजार समीक्षा व्यवस्था।

टेक्सास अपने उपभोक्ता संरक्षण कानून के उल्लंघन के लिए $10,000 के नागरिक दंड की भी मांग कर रहा है, साथ ही मुकदमे में कथित आचरण के माध्यम से ओपनएआई द्वारा किए गए किसी भी लाभ को वापस करने की भी मांग कर रहा है। 30 मिलियन निवासियों वाले राज्य में चैटजीपीटी के पैमाने को देखते हुए, संभावित जुर्माना जोखिम पर्याप्त है।

ह्यूस्टन क्रॉनिकल के अनुसार, पैक्सटन के कार्यालय का प्रतिनिधित्व आंशिक रूप से वकील टोनी बुज़बी द्वारा किया जाता है। यह मुकदमा रिपब्लिकन अटॉर्नी जनरल द्वारा बाल-सुरक्षा प्रवर्तन को जारी रखता है, जिन्होंने पहले युवा उपयोगकर्ताओं से निपटने के लिए मेटा, टिकटॉक और रोबॉक्स पर मुकदमा दायर किया है।

OpenAI की प्रतिक्रिया

ओपनएआई के प्रवक्ता जेसन ड्यूट्रोम ने पोलिटिको द्वारा रिपोर्ट किए गए एक बयान में कहा कि कंपनी चैटजीपीटी में लगातार सुधार करने, जोखिमों को कम करने और अतिरिक्त सुरक्षा उपाय बनाने के लिए विशेषज्ञों के साथ काम करती है। उन्होंने कहा कि एआई के लिए मजबूत सुरक्षा मानक स्थापित करने में सरकारों की महत्वपूर्ण भूमिका है और ओपनएआई टेक्सास और अन्य राज्यों के साथ काम करने के लिए प्रतिबद्ध है।

कंपनी को हाल के सप्ताहों में व्यापक कानूनी और नियामक दबावों का सामना करना पड़ा है। ओपनएआई एक साथ चैटबॉट वार्तालापों से संबंधित गलत-मौत के मुकदमों, इसके लाभ के पुनर्गठन पर वाशिंगटन राज्य की अदालत की लड़ाई और प्रकाशकों के साथ इसके कॉपीराइट युद्ध के बढ़ने से जूझ रहा है। टेक्सास की कार्रवाई उस डॉकेट में एक उपभोक्ता-संरक्षण मोर्चा जोड़ती है, जो एक प्रमुख बाजार के अंदर व्यापक जांच शक्तियों वाले एक अधिकारी द्वारा लाया गया है।

एक राज्य का चिथड़ा आकार लेता है

फाइलिंग इस बात को रेखांकित करती है कि संयुक्त राज्य अमेरिका में एआई शासन को राज्य दर राज्य कैसे इकट्ठा किया जा रहा है। नौ अटॉर्नी जनरल - दोनों पक्षों को मिलाकर - ने अब दो सप्ताह की अवधि में चैटबॉट सुरक्षा पर ओपनएआई पर मुकदमा दायर किया है, और अन्य राज्यगृहों में उन कंपनियों के लिए अनिवार्य ऑडिट से लेकर आपराधिक दायित्व तक के प्रस्ताव हैं जिनके चैटबॉट गंभीर अपराधों की सुविधा देते हैं।

ओपनएआई के लिए, टेक्सास में व्यावहारिक खतरा असामान्य रूप से ठोस है: एक अदालत का आदेश जो प्रत्येक नए फ्रंटियर मॉडल रिलीज को देश के सबसे बड़े राज्यों में से एक में उपयोगकर्ताओं तक पहुंचने से पहले स्वतंत्र साइन-ऑफ की आवश्यकता वाली घटना के रूप में मानेगा। उद्योग जगत के लिए संदेश अभी भी स्पष्ट है। स्व-प्रमाणित सुरक्षा दावों का युग समाप्ति की ओर बढ़ रहा है, एक समय में एक राज्य शिकायत।

---

एआई से आगे रहें

विनियमन तेजी से आगे बढ़ रहा है, और साथ ही वह तकनीक भी तेजी से आगे बढ़ रही है जिसे वह लक्षित करता है। नवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।

अधिक AI समाचार पढ़ें →