कैलिफोर्निया के गवर्नर गेविन न्यूसोम ने शुक्रवार को एक कार्यकारी आदेश जारी कर राज्य एजेंसियों को एआई कंपनियों की स्वतंत्र निगरानी में नाटकीय रूप से तेजी लाने और सीमांत मॉडलों के लिए एक आपातकालीन शटऑफ - एक "एआई किल स्विच" के निर्माण को आगे बढ़ाने का निर्देश दिया। आदेश की घोषणा शुक्रवार को गवर्नर के कार्यालय द्वारा की गई और सीएनबीसी, कैलमैटर्स, लॉस एंजिल्स टाइम्स, पोलिटिको और ब्लूमबर्ग सरकार द्वारा तुरंत कवर किया गया।
यह कदम न्यूज़ॉम द्वारा पिछले सप्ताह हस्ताक्षरित दो कानूनों के कार्यान्वयन को आगे बढ़ाता है और दो महीने के भीतर राज्य के कानून में और बदलावों की सिफारिश करने के लिए विशेषज्ञों का एक पैनल बुलाता है - जो देश के सबसे बड़े तकनीकी बाजार में नियामक विकास के लिए असामान्य रूप से तेज़ समयरेखा है। For more context on this story, see our ongoing more AI stories.
आदेश क्या करता है
गवर्नर के कार्यालय के अनुसार, कार्यकारी आदेश कैलिफोर्निया सरकार संचालन एजेंसी को सीनेट बिल 813 और असेंबली बिल 1405 के कार्यान्वयन की समयसीमा में तेजी लाने का निर्देश देता है, दोनों ने पिछले सप्ताह कानून में हस्ताक्षर किए हैं। एसबी 813 ने स्वतंत्र सत्यापन संगठनों को प्रमाणित करने के लिए देश में पहला ढांचा स्थापित किया जो सुरक्षा और जोखिम के लिए एआई सिस्टम का आकलन कर सकता है। एबी 1405 ने एआई लेखा परीक्षकों के लिए उनकी स्वतंत्रता, पारदर्शिता और अखंडता के मानकों के साथ एक राज्य रजिस्ट्री बनाई।
आदेश में एजेंसी को गवर्नर के आपातकालीन सेवाओं के कार्यालय के परामर्श से, राज्य कानून को मजबूत करने के लिए सिफारिशें विकसित करने के लिए राष्ट्रीय विशेषज्ञों को बुलाने का भी निर्देश दिया गया है। उन विशेषज्ञों से दो महीने के भीतर राज्य को मार्गदर्शन देने की उम्मीद है।
गवर्नर के कार्यालय के अनुसार, विचाराधीन प्रस्तावों में फ्रंटियर एआई कंपनियों के लिए सुरक्षा योजनाएं लिखने के लिए स्वतंत्र तृतीय पक्षों की आवश्यकता होती है, साथ ही कंपनियों को फ्रंटियर मॉडल के लिए एक आपातकालीन शटऑफ - एक "किल स्विच" विकसित करने की आवश्यकता होती है।
अब क्यों
गवर्नर के कार्यालय ने आदेश को सीधे हाल की एआई सुरक्षा घटनाओं की एक श्रृंखला से जोड़ा, जिसमें वह हमला भी शामिल है जिसमें ओपनएआई के अपने दुष्ट एआई एजेंट ने साइबर सुरक्षा मूल्यांकन के दौरान हगिंग फेस का उल्लंघन किया था। शुक्रवार का आदेश भी उसी दिन आया जब खबर आई कि एक तीन-व्यक्ति सुरक्षा टीम ने अधिकृत बग बाउंटी अभ्यास के माध्यम से ओपनएआई के आंतरिक सिस्टम को तोड़ने के लिए एंथ्रोपिक के क्लाउड ओपस 5 का उपयोग किया था।
न्यूजॉम ने घोषणा में कहा, "हम कार्रवाई करने के लिए इंतजार नहीं कर रहे हैं - हम पर्याप्त और जिम्मेदार एआई निरीक्षण पर अपने काम में तेजी लाने जा रहे हैं, इससे पहले कि बहुत देर हो जाए।" "हम इसे सोच-समझकर लेकिन तत्काल गति से करने जा रहे हैं; प्रतीक्षा करने या कार्रवाई में देरी करने के लिए जोखिम बहुत बड़ा है।"
गवर्नर के कार्यालय ने नोट किया कि घटनाओं ने एआई उद्योग भर से - जिसमें स्वयं प्रयोगशाला नेता भी शामिल हैं - फ्रंटियर सिस्टम के विकास को गति देने और सुरक्षा और सुरक्षा जोखिमों के सख्त सरकारी विनियमन लागू करने के लिए कॉल को प्रेरित किया है।
संघीय निर्वात
घोषणा का एक केंद्रीय तर्क यह है कि वाशिंगटन ने एक नियामक शून्य छोड़ दिया है। गवर्नर के कार्यालय ने घोषणा में कहा, "किसी भी प्रकार की सार्थक एआई निगरानी या जवाबदेही बनाने में संघीय सरकार की घोर विफलता से हर अमेरिकी को चिंतित होना चाहिए, खासकर जब एआई सीईओ खुद विनियमन की भीख मांग रहे हैं।" इसमें कहा गया है कि किसी भी संघीय कानून में एआई कंपनियों को खतरनाक घटनाएं होने पर उनकी रिपोर्ट करने की आवश्यकता नहीं है, और राष्ट्रपति ट्रम्प ने सुरक्षा बढ़ाने के उद्देश्य से नए नियमों की मांग को खारिज कर दिया है।
न्यूज़ॉम ने कांग्रेस और राष्ट्रपति से कैलिफ़ोर्निया के ढांचे की समीक्षा करने और उसे अपनाने, या राष्ट्रीय नीति के लिए राज्य के विनियमन को "एक मंजिल, न कि एक सीमा" के रूप में उपयोग करने का आह्वान किया। घोषणा में कहा गया, "कैलिफ़ोर्निया ने पहले ही एक राष्ट्रीय मॉडल बना लिया है और हमारी नीति राष्ट्रीय आधार रेखा होनी चाहिए।"
यह फ़्रेमिंग कैलिफ़ोर्निया - लगभग हर प्रमुख सीमांत एआई प्रयोगशाला का घर - को वास्तविक राष्ट्रीय नियामक के रूप में स्थापित करती है। ओपनएआई, एंथ्रोपिक और गूगल डीपमाइंड सहित सभी कंपनियां राज्य में अपने फ्रंटियर मॉडल विकसित करती हैं और इसके सत्यापन और ऑडिट व्यवस्था के अधीन होंगी।
कैलिफोर्निया का व्यापक एआई फ्रेमवर्क
शुक्रवार का आदेश उस पर आधारित है जिसे गवर्नर का कार्यालय देश में सबसे मजबूत एआई नियामक ढांचे के रूप में वर्णित करता है। न्यूजॉम ने 2023 में जेनरेटिव एआई पर अपना पहला देश में कार्यकारी आदेश जारी किया, और राज्य में अब एआई नीति के लगभग हर प्रमुख क्षेत्र को छूने वाले कानून हैं - फ्रंटियर-मॉडल सुरक्षा, स्वतंत्र निरीक्षण, बच्चों और साथी चैटबॉट, गोपनीयता, डीपफेक, धोखाधड़ी, साइबर सुरक्षा और सरकारी तैनाती, गवर्नर के कार्यालय के अनुसार। 2025 में, न्यूजॉम ने एसबी 53, ट्रांसपेरेंसी इन फ्रंटियर आर्टिफिशियल इंटेलिजेंस एक्ट - देश का पहला एआई सुरक्षा कानून - पर हस्ताक्षर किए, जिसके लिए फ्रंटियर डेवलपर्स को सार्वजनिक रूप से सुरक्षा ढांचे का खुलासा करने, राज्य को महत्वपूर्ण सुरक्षा घटनाओं की रिपोर्ट करने और गंभीर जोखिम उठाने वाले व्हिसलब्लोअर्स की रक्षा करने की आवश्यकता होती है।
इस वर्ष के अतिरिक्त - एसबी 813 और एबी 1405 - प्रवर्तन शक्ति प्रदान करते हैं: स्वतंत्र रूप से फ्रंटियर सिस्टम का मूल्यांकन करने के लिए प्रमाणित तृतीय-पक्ष संगठन, और ऑडिटरों को स्वतंत्रता मानकों पर रखने के लिए एक पेशेवर रजिस्ट्री।
आगे क्या होगा यह दो महीने की घड़ी है। जब विशेषज्ञ पैनल वापस रिपोर्ट करेगा, तो कैलिफोर्निया पहला राज्य बन सकता है, जिसके लिए फ्रंटियर एआई कंपनियों को बाहरी रूप से लिखित सुरक्षा योजनाओं को स्वीकार करने और अपने सबसे शक्तिशाली मॉडल में आपातकालीन शटऑफ तंत्र बनाने की आवश्यकता होगी। एक ऐसे उद्योग के लिए जो अभी भी इस बात पर बहस कर रहा है कि उसका अपना कितना काम एआई को सौंपा जाना चाहिए - और उसके द्वारा बनाए गए एजेंटों को कैसे शामिल किया जाए - वह समय सीमा अब बहुत वास्तविक हो गई है।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
