न्यू यॉर्कच्या गव्हर्नर कॅथी हॉचुल यांनी AI कंपन्यांना अल्पवयीन मुलांना चॅटबॉट सहचर वैशिष्ट्ये ऑफर करण्यास मनाई करणाऱ्या कायद्यावर स्वाक्षरी केली आहे, राज्याचे अधिकारी हे देशातील सर्वात मजबूत कायदा म्हणत आहेत. S.9051B/A.10379C या बिलावर, न्यूयॉर्कमध्ये विकल्या गेलेल्या इंटरनेट-कनेक्टेड बेबी मॉनिटर्सची सुरक्षा वैशिष्ट्ये समाविष्ट करण्यासाठी आवश्यक असलेल्या दुसऱ्या उपायासोबत या आठवड्यात स्वाक्षरी करण्यात आली.
"कृत्रिम बुद्धिमत्ता जलद गतीने प्रगती करत असताना, बर्याच दुःखद घटना घडल्या आहेत ज्यांना प्रतिबंधित केले पाहिजे होते आणि न्यूयॉर्कची आई गव्हर्नर म्हणून मी कारवाई करत आहे," होचुल यांनी स्वाक्षरी केलेल्या घोषणेमध्ये म्हटले आहे. "कोणत्याही कंपनीने मुलांसाठी चॅटबॉट्स पेडलिंग करून स्वत:ला हानी पोहोचवू नयेत किंवा त्यांचा मित्र असल्याचे भासवू नये." For more context on this story, see our ongoing latest AI developments.
कायदा काय प्रतिबंधित करतो
नवीन कायद्यानुसार, एआय चॅटबॉट वैशिष्ट्ये ऑफर करणाऱ्या कंपन्या 18 वर्षांखालील वापरकर्त्यांना - किंवा कोणत्याही वापरकर्त्याला वर्तनाच्या अनेक श्रेणी प्रदान करू शकत नाहीत जोपर्यंत कंपनीने प्रथम वापरकर्ता अल्पवयीन नाही याची पुष्टी केली नाही. प्रतिबंधित वैशिष्ट्यांमध्ये हे समाविष्ट आहे:
- चॅटबॉट्स खरी व्यक्ती असल्याचा, जिवंत असण्याचा किंवा मानवी भावनांचा आव आणणारे
- मुलाशी वैयक्तिक, रोमँटिक, व्यावसायिक किंवा अधिकार-संबंध असल्याचा दावा करणे
- विनाकारण भावनिक प्रश्न आणि मुलाचे खाजगी आरोग्य किंवा पूर्वीच्या संभाषणातील वैयक्तिक माहिती वापरणे
- आत्महत्या, स्वत:ला हानी पोहोचवणे, खाण्याचे विकार किंवा ड्रग आणि अल्कोहोल वापरण्यास प्रोत्साहन देणे किंवा मदत करणे
- मुलांना गुप्त ठेवण्यासाठी, स्वतःला वेगळे ठेवण्यासाठी किंवा पालकांना, विश्वासू प्रौढांना किंवा व्यावसायिकांना मदतीसाठी विचारणे टाळण्यास प्रोत्साहित करणे
- कोणतीही लैंगिक स्पष्ट सामग्री किंवा बाल लैंगिक शोषण सामग्री
बिलाचे सिनेट प्रायोजक सिनेटर क्रिस्टन गोन्झालेझ यांनी सांगितले की, एआय कंपन्यांनी अल्पवयीन ग्राहकांना चॅटबॉट्स आणण्यापासून फायदा झाला आहे, चॅटबॉट्स स्वत: ची हानी करण्यास प्रोत्साहित करतात आणि अल्पवयीन मुलांना इतरांना हानी पोहोचवण्याबद्दल प्रशिक्षण देतात. असेंब्ली सदस्य ॲलेक्स बोरेस, ज्यांनी हे विधेयक विधानसभेत मांडले, त्याला देशातील सर्वात मजबूत चाइल्ड एआय सुरक्षा कायदा म्हटले, "उद्योगाच्या आक्रमक विरोधाला न जुमानता" मंजूर केले.
वय पडताळणी आवश्यकता
कायदा सामग्री नियमांवर थांबत नाही. कंपन्यांनी वय पडताळणी करणे आवश्यक आहे आणि एकापेक्षा जास्त पद्धती ऑफर केल्या पाहिजेत - ज्यात किमान एक पर्याय आहे जो पूर्णपणे सरकारी आयडीवर अवलंबून नाही. वयाची माहिती वापरल्यानंतर ती हटवली जाणे आवश्यक आहे, सत्यापन डेटाला आणखी एक गोपनीयता धोका होण्यापासून प्रतिबंधित करण्याच्या उद्देशाने तरतूद.
अंमलबजावणीचे अधिकार राज्याच्या ऍटर्नी जनरलकडे असतात. उल्लंघनासाठी, ॲटर्नी जनरल लेटिशिया जेम्स प्रत्येक उल्लंघनासाठी $25,000 पर्यंत नागरी दंड, नुकसान भरपाई, बेकायदेशीरपणे गोळा केलेल्या डेटाचा नाश — किंवा त्यावर प्रशिक्षित केलेले कोणतेही AI मॉडेल — आणि निषेधार्ह सूट मागू शकतात. कायद्यानुसार ॲटर्नी जनरलने सार्वजनिक वेबसाइट राखणे आवश्यक आहे जेथे न्यूयॉर्कर्स तक्रारी दाखल करू शकतात.
जेम्स, ज्यांचे कार्यालय गव्हर्नर ऑफिस आणि कायदेकर्त्यांसोबत या उपायावर काम करत होते, म्हणाले की राज्याने "आमच्या मुलांच्या आरोग्यास हानी पोहोचवणाऱ्या चॅटबॉट्सच्या बऱ्याच भयानक कथा" पाहिल्या आहेत आणि "कायद्याच्या पूर्ण शक्तीने" न्यूयॉर्कर्सचे रक्षण करण्याचे वचन दिले आहे.
विधेयक आणणारे पुरावे
कायद्याचे वकिली करणारे कॉमन सेन्स मीडिया, नानफा संस्था यांच्या संशोधनाकडे कायदेतज्ज्ञ झुकले. गव्हर्नरच्या घोषणेमध्ये उद्धृत केलेल्या आकडेवारीनुसार, 72 टक्के किशोरांनी AI सहचर किमान एकदा वापरला आहे आणि 52 टक्के नियमित वापरकर्ते आहेत जे AI सहचरांशी महिन्यातून किमान काही वेळा संवाद साधतात.
राज्यपालांच्या कार्यालयाने सांगितले की AI चॅटबॉट्स अवलंबित्व आणि अलगावशी जोडलेले आहेत आणि काही प्रकरणांमध्ये अल्पवयीन मुलांशी लैंगिकरित्या स्पष्ट संभाषणात गुंतले आहेत आणि किशोरांना स्वतःचा जीव घेण्यास प्रोत्साहित केले आहे. कॉमन सेन्स मीडियाचे संस्थापक आणि सीईओ जेम्स पी. स्टीयर यांनी स्वाक्षरी केलेल्या विधेयकाला "देशातील सर्वात मजबूत मुलांचे AI सुरक्षा विधेयक" म्हटले आणि म्हटले की हानिकारक चॅटबॉट वैशिष्ट्ये "न्यूयॉर्कमध्ये बेकायदेशीर ठरतील."
हा उपाय न्यू यॉर्कच्या पूर्वीच्या प्रथम-देशातील AI सहचर संरक्षणांवर आधारित आहे, त्यांना प्रकटीकरण आवश्यकतांपासून ते अल्पवयीन मुलांसाठी विशिष्ट चॅटबॉट वर्तनांवर पूर्णपणे प्रतिबंधित करते.
एक सहचर बिल बेबी मॉनिटर्सला लक्ष्य करते
हॉचुलने त्याच वेळी दुसऱ्या तंत्रज्ञान सुरक्षा विधेयकावर स्वाक्षरी केली. S.9508/A.5175A इंटरनेटवर ऑडिओ किंवा व्हिडिओ प्रसारित करणाऱ्या नवीन इंटरनेट-कनेक्ट बेबी मॉनिटर्सची विक्री प्रतिबंधित करते जोपर्यंत त्यात अनोळखी व्यक्तींना पाहण्यापासून किंवा ऐकण्यापासून प्रतिबंधित करणारी सुरक्षा वैशिष्ट्ये समाविष्ट नसतात. ते इंटरनेटशी कनेक्ट करतात आणि कुटुंबांनी त्यांची सुरक्षा वैशिष्ट्ये वापरावीत असे स्पष्ट करणारे एक स्पष्ट चेतावणी लेबल देखील डिव्हाइसना असले पाहिजे. स्वाक्षरी केल्यानंतर ९० दिवसांनी तो कायदा लागू होतो.
सुरक्षा संशोधनातून हे तर्क समोर आले: जेव्हा Rapid7 मधील संशोधकांनी आठ कंपन्यांमधील नऊ इंटरनेट-कनेक्टेड बेबी मॉनिटर्सची चाचणी घेतली, तेव्हा आठ मॉनिटर्सना सुरक्षिततेसाठी "F" श्रेणी मिळाली आणि एकाला "D" मिळाला.
एका व्यापक हिशेबाचा भाग
एआय चॅटबॉट्स आणि अल्पवयीन मुलांवर राज्यस्तरीय कारवाईच्या लाटेमध्ये न्यूयॉर्कचे पाऊल पुढे आले आहे, ज्यामध्ये देशभरातील विधानसभेने उच्च-प्रोफाइल घटनांच्या मालिकेनंतर साथीदार बॉट्सवर निर्बंध आणले आहेत. न्यूयॉर्क कायदा त्याच्या अंमलबजावणीच्या दातांसाठी उल्लेखनीय आहे — प्रति-उल्लंघन दंड, अनेक मार्गांसह अनिवार्य वय सत्यापन आणि बेकायदेशीरपणे गोळा केलेल्या डेटावर प्रशिक्षित मॉडेल नष्ट करण्यासाठी कंपन्यांना भाग पाडण्याची शक्यता.
सहचर-शैलीतील उत्पादने ऑपरेट करणाऱ्या AI कंपन्यांसाठी, अनुपालन परिणाम महत्त्वपूर्ण आहेत: न्यूयॉर्कमधील कोणत्याही वापरकर्त्याला तोंड देणाऱ्या चॅटबॉटला भावनिक रोलप्ले सारखी वैशिष्ट्ये सक्षम करण्यापूर्वी एकतर मजबूत वयाची हमी आवश्यक आहे किंवा ती वैशिष्ट्ये डीफॉल्टनुसार बंद करणे आवश्यक आहे. अटॉर्नी जनरलला प्रत्येक उल्लंघनाच्या दंडाचा पाठपुरावा करण्याचा आणि कलंकित डेटासेट आणि मॉडेल्सचा नाश करण्याची मागणी करण्याचा अधिकार मिळाल्यामुळे, ते चुकीचे ठरवण्याची किंमत आता प्रतिष्ठेच्या हानीच्या पलीकडे आहे.
येत्या काही महिन्यांत, कंपन्या न्यू यॉर्कच्या वापरकर्त्यांसाठी त्यांची उत्पादने समायोजित करत असताना, राज्याचा दृष्टीकोन एक टेम्पलेट म्हणून काम करेल ज्याचा इतर विधानमंडळे अभ्यास करतात - आणि राज्य नियामक ग्राहक AI उत्पादने त्यांच्या सर्वात तरुण वापरकर्त्यांशी कसे वागतात हे अर्थपूर्णपणे बदलू शकतात की नाही याची चाचणी.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
