न्यूयॉर्क के गवर्नर कैथी होचुल ने उस कानून पर हस्ताक्षर किए हैं जो एआई कंपनियों को नाबालिगों को चैटबॉट सहयोगी सुविधाएं प्रदान करने से रोकता है, राज्य के अधिकारी इस उपाय को देश में अपनी तरह का सबसे मजबूत कानून बता रहे हैं। इस सप्ताह बिल, एस.9051बी/ए.10379सी पर हस्ताक्षर किए गए, साथ ही एक दूसरे उपाय के साथ न्यूयॉर्क में बेचे जाने वाले इंटरनेट से जुड़े बेबी मॉनिटर में सुरक्षा सुविधाओं को शामिल करने की आवश्यकता होगी।
होचुल ने हस्ताक्षरित घोषणा में कहा, "चूंकि कृत्रिम बुद्धिमत्ता तीव्र गति से आगे बढ़ रही है, इसलिए कई दुखद घटनाएं हुई हैं जिन्हें रोका जाना चाहिए था, और न्यूयॉर्क की मां गवर्नर के रूप में, मैं कार्रवाई कर रही हूं।" "किसी भी कंपनी को बच्चों को खुद को नुकसान पहुंचाने के लिए प्रोत्साहित करने या उनके दोस्त या इससे भी अधिक होने का दिखावा करने के लिए चैटबॉट नहीं बेचने चाहिए।" For more context on this story, see our ongoing artificial intelligence updates.
कानून किस चीज़ पर रोक लगाता है
नए क़ानून के तहत, जो कंपनियाँ AI चैटबॉट सुविधाएँ प्रदान करती हैं, वे 18 वर्ष से कम उम्र के उपयोगकर्ताओं या किसी भी उपयोगकर्ता को व्यवहार की कई श्रेणियाँ प्रदान नहीं कर सकती हैं, जब तक कि कंपनी पहले यह पुष्टि न कर दे कि उपयोगकर्ता नाबालिग नहीं है। निषिद्ध सुविधाओं में शामिल हैं:
- चैटबॉट वास्तविक व्यक्ति होने, जीवित होने या मानवीय भावनाएं होने का दिखावा करते हैं
- किसी बच्चे के साथ व्यक्तिगत, रोमांटिक, पेशेवर या आधिकारिक व्यक्ति वाले रिश्ते का दावा करना
- बिना पूछे गए भावनात्मक प्रश्न, और बच्चे के निजी स्वास्थ्य या पहले की बातचीत से प्राप्त व्यक्तिगत जानकारी का उपयोग करना
- आत्महत्या, खुद को नुकसान पहुंचाने, खान-पान संबंधी विकार या नशीली दवाओं और शराब के सेवन को बढ़ावा देना या इसमें सहायता करना
- बच्चों को रहस्य बनाए रखने, खुद को अलग-थलग रखने या माता-पिता, भरोसेमंद वयस्कों या पेशेवरों से मदद मांगने से बचने के लिए प्रोत्साहित करना
- कोई भी स्पष्ट यौन सामग्री या बाल यौन शोषण सामग्री
बिल के सीनेट प्रायोजक सीनेटर क्रिस्टन गोंजालेज ने कहा कि एआई कंपनियों ने चैटबॉट को कम उम्र के उपभोक्ताओं के लिए पेश करने से लाभ कमाया है, उन्होंने चैटबॉट द्वारा खुद को नुकसान पहुंचाने के लिए प्रोत्साहित करने और नाबालिगों को दूसरों को नुकसान पहुंचाने के लिए प्रशिक्षित करने के उदाहरणों का हवाला दिया। असेंबली सदस्य एलेक्स बोरेस, जिन्होंने असेंबली में बिल पेश किया, ने इसे देश में सबसे मजबूत बाल एआई सुरक्षा कानून कहा, जो "उद्योग के आक्रामक विरोध के बावजूद" पारित हुआ।
आयु सत्यापन आवश्यकताएँ
कानून केवल सामग्री नियमों तक ही सीमित नहीं है। कंपनियों को आयु सत्यापन करना चाहिए और एक से अधिक तरीकों की पेशकश करनी चाहिए - जिसमें कम से कम एक विकल्प शामिल हो जो केवल सरकारी आईडी पर निर्भर न हो। उपयोग के बाद आयु संबंधी जानकारी हटा दी जानी चाहिए, एक प्रावधान का उद्देश्य सत्यापन डेटा को एक और गोपनीयता जोखिम बनने से रोकना है।
प्रवर्तन प्राधिकार राज्य अटॉर्नी जनरल के पास है। उल्लंघनों के लिए, अटॉर्नी जनरल लेटिटिया जेम्स प्रति उल्लंघन $25,000 तक के नागरिक दंड की मांग कर सकते हैं, साथ ही नुकसान, क्षतिपूर्ति, गैरकानूनी रूप से एकत्र किए गए डेटा को नष्ट करना - या उस पर प्रशिक्षित किसी भी एआई मॉडल - और निषेधाज्ञा राहत की मांग कर सकते हैं। कानून में अटॉर्नी जनरल को एक सार्वजनिक वेबसाइट बनाए रखने की भी आवश्यकता है जहां न्यूयॉर्कवासी शिकायत दर्ज कर सकें।
जेम्स, जिनके कार्यालय ने इस उपाय पर गवर्नर के कार्यालय और कानून निर्माताओं के साथ काम किया था, ने कहा कि राज्य ने "चैटबॉट्स द्वारा हमारे बच्चों के स्वास्थ्य को नुकसान पहुंचाने की बहुत सारी डरावनी कहानियाँ" देखी हैं और "कानून की पूरी ताकत के साथ" न्यूयॉर्क वासियों की रक्षा करने की प्रतिज्ञा की।
सबूत जिसने विधेयक को आगे बढ़ाया
कानून निर्माताओं ने कानून की वकालत करने वाली गैर-लाभकारी संस्था कॉमन सेंस मीडिया के शोध पर भरोसा किया। गवर्नर की घोषणा में उद्धृत आंकड़ों के अनुसार, 72 प्रतिशत किशोरों ने कम से कम एक बार एआई साथी का उपयोग किया है, और 52 प्रतिशत नियमित उपयोगकर्ता हैं जो महीने में कम से कम कुछ बार एआई साथियों के साथ बातचीत करते हैं।
गवर्नर के कार्यालय ने कहा कि एआई चैटबॉट निर्भरता और अलगाव से जुड़े हुए हैं, और कुछ मामलों में नाबालिगों के साथ यौन रूप से स्पष्ट बातचीत में लगे हुए हैं और कथित तौर पर किशोरों को अपनी जान लेने के लिए प्रोत्साहित किया है। कॉमन सेंस मीडिया के संस्थापक और सीईओ जेम्स पी. स्टेयेर ने हस्ताक्षरित बिल को "देश में बच्चों के लिए सबसे मजबूत एआई सुरक्षा बिल" कहा और कहा कि हानिकारक चैटबॉट सुविधाओं को "न्यूयॉर्क में गैरकानूनी घोषित कर दिया जाएगा।"
यह उपाय न्यूयॉर्क के पहले राष्ट्र-आधारित एआई साथी सुरक्षा उपायों पर आधारित है, जो उन्हें प्रकटीकरण आवश्यकताओं से लेकर नाबालिगों के लिए विशिष्ट चैटबॉट व्यवहार पर पूर्ण प्रतिबंध तक विस्तारित करता है।
एक साथी बिल बेबी मॉनिटर्स को निशाना बनाता है
होचुल ने उसी समय दूसरे प्रौद्योगिकी सुरक्षा बिल पर हस्ताक्षर किए। S.9508/A.5175A नए इंटरनेट से जुड़े बेबी मॉनिटर की बिक्री पर प्रतिबंध लगाता है जो इंटरनेट पर ऑडियो या वीडियो प्रसारित करते हैं, जब तक कि उनमें अजनबियों को देखने या सुनने से रोकने वाली सुरक्षा सुविधाएँ शामिल न हों। उपकरणों में एक स्पष्ट चेतावनी लेबल भी होना चाहिए जिसमें बताया जाए कि वे इंटरनेट से कनेक्ट हैं और परिवारों को उनकी सुरक्षा सुविधाओं का उपयोग करना चाहिए। हस्ताक्षर करने के 90 दिन बाद वह कानून प्रभावी हो जाता है।
तर्क सुरक्षा अनुसंधान से आया: जब रैपिड7 के शोधकर्ताओं ने आठ कंपनियों के नौ इंटरनेट से जुड़े बेबी मॉनिटर का परीक्षण किया, तो आठ मॉनिटरों को सुरक्षा के लिए "एफ" ग्रेड प्राप्त हुआ और एक को "डी" प्राप्त हुआ।
एक व्यापक गणना का हिस्सा
एआई चैटबॉट्स और माइनर्स पर राज्य-स्तरीय कार्रवाई की लहर के बीच न्यूयॉर्क का यह कदम उठाया गया है, देश भर की विधायिकाएं हाई-प्रोफाइल घटनाओं की एक श्रृंखला के बाद सहयोगी बॉट्स पर प्रतिबंधों पर विचार कर रही हैं। न्यूयॉर्क कानून अपने प्रवर्तन दांतों के लिए उल्लेखनीय है - प्रति-उल्लंघन दंड, कई मार्गों के साथ अनिवार्य आयु सत्यापन, और कंपनियों को गैरकानूनी रूप से एकत्र किए गए डेटा पर प्रशिक्षित मॉडल को नष्ट करने के लिए मजबूर करने की संभावना।
साथी-शैली के उत्पादों का संचालन करने वाली एआई कंपनियों के लिए, अनुपालन निहितार्थ पर्याप्त हैं: न्यूयॉर्क में किसी भी उपयोगकर्ता-सामना वाले चैटबॉट को भावनात्मक रोलप्ले जैसी सुविधाओं को सक्षम करने से पहले या तो मजबूत आयु आश्वासन की आवश्यकता होती है, या उन सुविधाओं को डिफ़ॉल्ट रूप से बंद कर दिया जाना चाहिए। अटॉर्नी जनरल को प्रति उल्लंघन दंड देने और दागी डेटासेट और मॉडलों को नष्ट करने की मांग करने का अधिकार मिलने के साथ, इसे गलत करने की लागत अब प्रतिष्ठित क्षति से कहीं अधिक है।
आने वाले महीनों में, जैसा कि कंपनियां न्यूयॉर्क के उपयोगकर्ताओं के लिए अपने उत्पादों को समायोजित करती हैं, राज्य का दृष्टिकोण एक टेम्पलेट के रूप में काम करने की संभावना है जिसका अध्ययन अन्य विधायिकाएं करती हैं - और यह एक परीक्षण है कि क्या राज्य नियामक सार्थक रूप से नया आकार दे सकते हैं कि उपभोक्ता एआई उत्पाद अपने सबसे कम उम्र के उपयोगकर्ताओं के साथ कैसा व्यवहार करते हैं।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
