Rep. Ro Khanna, एक सिलिकॉन व्हॅली डेमोक्रॅट, फेडरल सरकारने त्यांची देखरेख करण्यासाठी सक्षम नियामक प्रणाली तयार करेपर्यंत AI मॉडेल्सवर बंदी घालणारा कायदा सादर करतील - जोपर्यंत काँग्रेसमध्ये उतरलेला सर्वात मोठा AI सुरक्षा प्रस्ताव.
ह्युमन कंट्रोल ओव्हर एआय ॲक्ट असे नाव असलेले हे बिल, त्याच्या परिचयापूर्वी सारांश स्वरूपात CNBC सोबत खास शेअर केले गेले. हे वाढत्या सुरक्षेच्या चिंतेमध्ये आले आहे ज्याने आधीच ओपनएआय आणि अँथ्रोपिकच्या सीईओंना फ्रंटियर मॉडेल डेव्हलपमेंटची गती कमी करण्यास सांगितले आहे. For more context on this story, see our ongoing AI news.
खन्ना यांनी सोमवारी CNBC ला दिलेल्या मुलाखतीत सांगितले की, “वास्तविकपणे सभ्यता नष्ट होण्याचा धोका आहे. "नियंत्रण गमावण्याचा सुरक्षेचा धोका आहे आणि नंतर गैरवापराचा धोका आहे आणि आम्हाला दोन्ही गोष्टी गांभीर्याने घेणे आवश्यक आहे."
विधेयक कशावर बंदी घालेल
त्याच्या केंद्रस्थानी, ह्युमन कंट्रोल ओव्हर AI कायदा AI मॉडेल्सना प्रतिबंधित करेल जे वारंवार स्वत: ची सुधारित किंवा स्वायत्तपणे त्यांची स्वतःची मुख्य उद्दिष्टे, कंटेनमेंट यंत्रणा किंवा शटडाउन नियंत्रणे सुधारित करतात — जोपर्यंत फेडरल रेलिंग अस्तित्वात नाही आणि नवीन सरकारी एजन्सी क्रियाकलापांना मान्यता देत नाही.
व्यावहारिक भाषेत, ते त्या क्षमतेला लक्ष्य करते ज्याची सुरक्षा संशोधकांना सर्वात जास्त भीती वाटते: अशा सिस्टीम ज्या स्वत: ला स्वयं-दिग्दर्शित चक्रामध्ये पुन्हा डिझाइन करू शकतात, ज्यामुळे मानवांना प्रत्येक टप्प्यावर कमी होत असलेले निरीक्षण सोडता येते. जोपर्यंत नियामक जोखमीचे मूल्यांकन करण्यासाठी सज्ज होत नाहीत तोपर्यंत बंदी कायम राहील.
फ्रंटियर AI साठी एक नवीन फेडरल एजन्सी
हे विधेयक सर्वात शक्तिशाली AI मॉडेल्सवर लक्ष केंद्रित करणारी एक समर्पित फेडरल एजन्सी तयार करेल - जे OpenAI, Anthropic, Google DeepMind आणि xAI द्वारे विकसित केले गेले आहेत - कारण त्या कंपन्या स्वत: ला तीव्र तपासणीत सापडतील.
CNBC सोबत शेअर केलेल्या सारांशानुसार, एजन्सी यासाठी जबाबदार असेल:
- फ्रंटियर एआय सिस्टमसाठी सुरक्षा नियम लिहिणे
- मॉडेल प्रशिक्षण आणि तैनाती मंजूर करण्यासाठी परवाना प्रणाली चालवणे
- फ्रंटियर एआय मॉडेल्सचे ऑडिट आयोजित करणे
- सतत चाचणी आणि प्रभावी मानवी नियंत्रणासाठी सुरक्षा मानके सेट करणे
स्वतंत्र लेखापरीक्षकांना प्रत्येक सीमारेषा प्रयोगशाळेत एम्बेड केले जाईल आणि ते थेट एजन्सीला अहवाल देतील - एक संरचनात्मक तपासणी हे सुनिश्चित करण्यासाठी डिझाइन केलेले आहे की लॅब त्यांच्या स्वतःच्या गृहपाठावर फक्त चिन्हांकित करू शकत नाहीत. एजन्सी सँडबॉक्स चाचणी वातावरण, इंटरनेटवरून चाचणी प्रणाली अलग ठेवणारी एअर गॅप, स्विच मारणे आणि मॉडेल्सला लॅब सेटिंग्जमधून बाहेर पडण्यापासून आणि खुल्या इंटरनेटवर रोमिंग करण्यापासून प्रतिबंधित करणारी नियंत्रणे समाविष्ट करणारी मानके देखील सेट करेल.
विशेष म्हणजे, कायदे हे प्रोसेसर कसे तैनात केले जातात याचे निरीक्षण किंवा नियंत्रण करण्यासाठी यंत्रणांसह फ्रंटियर लॅब वापरत असलेल्या प्रगत चिप्सवर फेडरल निरीक्षणाचा विस्तार करेल.
फौजदारी दंड आणि अनिवार्य विमा
हे विधेयक दंडाच्या कोणत्याही मागील प्रस्तावापेक्षा पुढे जाते. नागरी लोकसंख्येचा नाश होणाऱ्या एआय मॉडेल्सच्या तैनातीसाठी ते "मानवतेविरुद्ध गुन्हे" म्हणून परिभाषित केलेल्या गोष्टींचे गुन्हेगारीकरण करेल.
AI कंपन्यांच्या कर्मचाऱ्यांना सेफगार्ड्स अक्षम करणे, स्विच मारणे, लॉगिंग किंवा कंटेनमेंट सिस्टम — किंवा जाणूनबुजून अनधिकृत सिस्टम तैनात केल्याबद्दल फौजदारी दंडास सामोरे जावे लागेल. एआय कंपन्यांना त्यांचे मॉडेल जारी करण्यापूर्वी व्यापक दायित्व विमा घेणे आवश्यक आहे, ज्यामुळे अपयशाचा आर्थिक धोका सार्वजनिक करण्याऐवजी उद्योगावर हलविला जाईल.
भू-राजकीय आघाडीवर, हे विधेयक प्रशासनाला चीन आणि इतर शत्रूंना धोकादायक AI प्रणाली विकसित करण्यापासून परावृत्त करण्यासाठी डिझाइन केलेले लागू करण्यायोग्य करार आणि लक्ष्यित निर्यात नियंत्रणांचे पालन करण्याचे आवाहन करते.
सुरक्षितता समुदायासह तयार केलेले, प्रयोगशाळा नाही
खन्ना यांनी या विधेयकाला कोणाच्या इनपुटने आकार दिला याबद्दल स्पष्टपणे सांगितले. ते नियमन करणाऱ्या कंपन्यांच्या अधिकाऱ्यांशी वाटाघाटी करण्याऐवजी, स्वतंत्र नानफा मॉडेल इव्हॅल्युएशन आणि थ्रेट रिसर्च, मशीन इंटेलिजेंस रिसर्च इन्स्टिट्यूट आणि पॅलिसेड रिसर्च यासह एआय सुरक्षा संस्थांशी संभाषणांवर आधारित हा कायदा तयार करण्यात आला आहे.
खन्ना यांनी सीएनबीसीला सांगितले की, "एआय सुरक्षा समुदायाला आवाज देण्यासाठी हे मॉडेल व्हावे अशी माझी इच्छा आहे." "माझा विश्वास आहे की त्यांना विज्ञान कल्पनारम्य म्हणून अयोग्यरित्या डिसमिस केले गेले आहे आणि पुरेसे गांभीर्याने घेतले गेले नाही. त्यांनी हा वादविवाद, एआय सुरक्षा समुदाय चालविणे आवश्यक आहे, फ्रंटियर लॅबचे अधिकारी नाही."
खन्ना यांनी हे उपाय आजपर्यंत प्रस्तावित केलेले सर्वात व्यापक AI सुरक्षा कायदा म्हणून वर्णन केले.
दुभंगलेल्या काँग्रेसमध्ये दीर्घ शक्यता
मानवी नियंत्रणावरील AI कायदा कॅपिटल हिलवरील AI सुरक्षा प्रस्तावांच्या गर्दीच्या क्षेत्रात सामील होतो. त्यापैकी कॅलिफोर्निया रिपब्लिकन रिपब्लिकन जय ओबरनोल्टे आणि मॅसॅच्युसेट्स डेमोक्रॅट लॉरी ट्राहान यांचा द्विपक्षीय फ्रंटियर कायदा आहे, जो फ्रंटियर लॅबमध्ये स्वतंत्र लेखा परीक्षक ठेवेल आणि सरकारला आपत्तीजनक जोखीम दर्शविणारी मॉडेल्स बंद करण्याचा अधिकार देईल. आर्टिफिशियल सुपरइंटिलिजन्सवर बंदी घालण्याच्या वेगळ्या सँडर्स-कॅसरच्या प्रस्तावाला स्वत: खन्ना यांच्यासह दहा हाऊस डेमोक्रॅट्सकडून सार्वजनिक समर्थन मिळाले आहे.
राजकीय वास्तव मात्र चिंताजनक आहे. मध्यावधी निवडणुकीपर्यंत कोणत्याही सभागृहाच्या बिलांना मत मिळण्याची अपेक्षा नाही आणि सिनेटने वॉशिंग्टन सोडणे आणि मतदार मतदानाला जाईपर्यंत परत येणार नाही अशी अपेक्षा आहे.
त्या टाइमलाइनचा अर्थ असा आहे की ह्युमन कंट्रोल ओव्हर AI कायदा किमान आत्तापर्यंत, मार्कर म्हणून कार्य करेल: AI सुरक्षा समुदायाने पेन हातात ठेवल्यास काय तयार होईल याची तपशीलवार ब्लूप्रिंट - ज्या क्षणी फ्रंटियर AI तयार करणारे लोक चेतावणी देत आहेत त्या क्षणी सादर केले गेले आहे, रेकॉर्डवर, की तंत्रज्ञान त्याच्या नियंत्रणांना मागे टाकत आहे.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
