प्रतिनिधि रो खन्ना, एक सिलिकॉन वैली डेमोक्रेट, कानून पेश करेंगे जो खुद को पुनरावर्ती रूप से सुधारने में सक्षम एआई मॉडल पर प्रतिबंध लगाएगा जब तक कि संघीय सरकार उनकी देखरेख करने में सक्षम नियामक प्रणाली नहीं बनाती - कांग्रेस में आने वाला अब तक का सबसे व्यापक एआई सुरक्षा प्रस्ताव।
बिल, जिसे एआई अधिनियम पर मानव नियंत्रण कहा जाता है, को इसके परिचय से पहले सारांश रूप में सीएनबीसी के साथ विशेष रूप से साझा किया गया था। यह बढ़ती सुरक्षा चिंताओं के बीच आया है जिसने पहले से ही ओपनएआई और एंथ्रोपिक के सीईओ को फ्रंटियर मॉडल के विकास को धीमा करने के लिए प्रेरित किया है। For more context on this story, see our ongoing AI trends.
खन्ना ने सोमवार को सीएनबीसी के साथ एक साक्षात्कार में कहा, "वास्तव में सभ्यतागत विलुप्त होने का खतरा है।" "नियंत्रण खोने का सुरक्षा जोखिम है, और फिर दुरुपयोग का जोखिम है, और हमें दोनों को गंभीरता से लेने की आवश्यकता है।"
बिल किस चीज़ पर प्रतिबंध लगाएगा
इसके मूल में, एआई पर मानव नियंत्रण अधिनियम एआई मॉडल को प्रतिबंधित करेगा जो पुनरावर्ती रूप से स्वयं-सुधार या स्वायत्त रूप से अपने स्वयं के मूल उद्देश्यों, रोकथाम तंत्र या शटडाउन नियंत्रण को संशोधित करते हैं - जब तक कि संघीय रेलिंग मौजूद न हो और एक नई सरकारी एजेंसी गतिविधियों को मंजूरी न दे।
व्यावहारिक रूप से, यह उस क्षमता को लक्षित करता है जिससे सुरक्षा शोधकर्ता सबसे अधिक डरते हैं: ऐसी प्रणालियाँ जो स्व-निर्देशित चक्र में खुद को फिर से डिज़ाइन कर सकती हैं, जिससे प्रत्येक चरण में मनुष्यों की निगरानी कम हो जाती है। प्रतिबंध तब तक जारी रहेगा जब तक नियामक जोखिमों का मूल्यांकन करने के लिए तैयार नहीं हो जाते।
फ्रंटियर एआई के लिए एक नई संघीय एजेंसी
यह बिल सबसे शक्तिशाली एआई मॉडल पर ध्यान केंद्रित करने वाली एक समर्पित संघीय एजेंसी बनाएगा - जो ओपनएआई, एंथ्रोपिक, गूगल डीपमाइंड और एक्सएआई द्वारा विकसित की गई हैं - क्योंकि ये कंपनियां खुद को गहन जांच के दायरे में पाती हैं।
सीएनबीसी के साथ साझा किए गए सारांश के अनुसार, एजेंसी इसके लिए जिम्मेदार होगी:
- फ्रंटियर एआई सिस्टम के लिए सुरक्षा नियम लिखना
- मॉडल प्रशिक्षण और तैनाती को मंजूरी देने के लिए एक लाइसेंसिंग प्रणाली का संचालन करना
- फ्रंटियर एआई मॉडल का ऑडिट करना
- निरंतर परीक्षण और प्रभावी मानव नियंत्रण के लिए सुरक्षा मानक निर्धारित करना
प्रत्येक सीमांत प्रयोगशाला में स्वतंत्र लेखा परीक्षकों को शामिल किया जाएगा और वे सीधे एजेंसी को रिपोर्ट करेंगे - एक संरचनात्मक जाँच जिसे यह सुनिश्चित करने के लिए डिज़ाइन किया गया है कि प्रयोगशालाएँ केवल अपने स्वयं के होमवर्क को चिह्नित नहीं कर सकती हैं। एजेंसी सैंडबॉक्स परीक्षण वातावरण, एयर गैप जो परीक्षण प्रणालियों को इंटरनेट से अलग करती है, किल स्विच और नियंत्रण को कवर करने वाले मानक भी निर्धारित करेगी जो मॉडलों को प्रयोगशाला सेटिंग्स से भागने और खुले इंटरनेट पर घूमने से रोकते हैं।
विशेष रूप से, कानून उन्नत चिप्स पर संघीय निगरानी का विस्तार करेगा जो फ्रंटियर प्रयोगशालाओं का उपयोग करते हैं, जिसमें उन प्रोसेसरों को कैसे तैनात किया जाता है इसकी निगरानी या नियंत्रण करने के तंत्र भी शामिल हैं।
आपराधिक दंड और अनिवार्य बीमा
यह बिल जुर्माने पर किसी भी पिछले प्रस्ताव से कहीं आगे है। यह एआई मॉडल की तैनाती के लिए जिसे वह "मानवता के खिलाफ अपराध" के रूप में परिभाषित करता है, उसे अपराध घोषित कर देगा जिसके परिणामस्वरूप नागरिक आबादी का विनाश होता है।
एआई कंपनियों के कर्मचारियों को सुरक्षा उपायों, किल स्विच, लॉगिंग या रोकथाम प्रणालियों को अक्षम करने या जानबूझकर एक अनधिकृत प्रणाली को तैनात करने के लिए आपराधिक दंड का सामना करना पड़ेगा। एआई कंपनियों को भी अपने मॉडल जारी करने से पहले व्यापक देयता बीमा कराने की आवश्यकता होगी, जिससे विफलता के वित्तीय जोखिम को जनता के बजाय उद्योग पर डाल दिया जाएगा।
भू-राजनीतिक मोर्चे पर, बिल प्रशासन से चीन और अन्य विरोधियों को खतरनाक एआई सिस्टम विकसित करने से रोकने के लिए लागू करने योग्य समझौतों और लक्षित निर्यात नियंत्रणों को आगे बढ़ाने का आह्वान करता है।
सुरक्षा समुदाय के साथ निर्मित, प्रयोगशालाओं के साथ नहीं
खन्ना इस बारे में स्पष्ट थे कि किसके इनपुट ने बिल को आकार दिया। उन्होंने कहा कि इसे विनियमित करने वाली कंपनियों के अधिकारियों के साथ बातचीत करने के बजाय, यह कानून एआई सुरक्षा संगठनों के साथ बातचीत पर आधारित था, जिसमें स्वतंत्र गैर-लाभकारी मॉडल मूल्यांकन और खतरा अनुसंधान, मशीन इंटेलिजेंस रिसर्च इंस्टीट्यूट और पैलिसेड रिसर्च शामिल थे।
खन्ना ने सीएनबीसी को बताया, "मैं चाहता हूं कि यह एआई सुरक्षा समुदाय को आवाज देने के लिए एक मॉडल बने।" "मेरा मानना है कि उन्हें गलत तरीके से विज्ञान कथा के रूप में खारिज कर दिया गया है और उन्हें पर्याप्त गंभीरता से नहीं लिया गया है। उन्हें इस बहस को चलाने की जरूरत है, एआई सुरक्षा समुदाय, न कि सीमांत प्रयोगशालाओं के अधिकारियों की।"
खन्ना ने इस उपाय को अब तक प्रस्तावित सबसे व्यापक एआई सुरक्षा कानून बताया।
विभाजित कांग्रेस में लंबी संभावनाएं
एआई पर मानव नियंत्रण अधिनियम कैपिटल हिल पर एआई सुरक्षा प्रस्तावों के भीड़ भरे क्षेत्र में शामिल हो गया है। उनमें कैलिफोर्निया रिपब्लिकन प्रतिनिधि जे ओबरनोल्टे और मैसाचुसेट्स डेमोक्रेट लोरी ट्रैहान का द्विदलीय फ्रंटियर अधिनियम शामिल है, जो फ्रंटियर प्रयोगशालाओं में स्वतंत्र लेखा परीक्षकों को रखेगा और सरकार को विनाशकारी जोखिम पैदा करने वाले मॉडल को बंद करने का अधिकार देगा। कृत्रिम अधीक्षण पर प्रतिबंध लगाने के एक अलग सैंडर्स-कैसर प्रस्ताव को दस हाउस डेमोक्रेट्स से सार्वजनिक समर्थन मिला है, जिसमें स्वयं खन्ना भी शामिल हैं।
हालाँकि, राजनीतिक वास्तविकता गंभीर है। मध्यावधि चुनाव के बाद तक किसी भी सदन के बिल पर वोट मिलने की उम्मीद नहीं है, और सीनेट के वाशिंगटन छोड़ने और मतदाताओं के मतदान के बाद तक वापस न लौटने की उम्मीद है।
उस समयरेखा का मतलब है कि एआई पर मानव नियंत्रण अधिनियम, कम से कम अभी के लिए, एक मार्कर के रूप में कार्य करेगा: एआई सुरक्षा समुदाय क्या बनाएगा इसका एक विस्तृत खाका अगर वह कलम पकड़ता है - ठीक उस समय पेश किया जाता है जो फ्रंटियर एआई का निर्माण करने वाले लोग चेतावनी दे रहे हैं, रिकॉर्ड पर, कि प्रौद्योगिकी अपने नियंत्रण से आगे निकल रही है।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
