फ्रंटियर AI मॉडेल्सच्या सुरक्षेची चाचणी घेण्यासाठी जबाबदार असलेल्या छोट्या यूएस सरकारी कार्यालयातील कर्मचाऱ्यांना अलीकडेच व्हाईट हाऊसच्या कार्यालयात अनौपचारिकपणे अहवाल देण्यास सांगितले गेले आहे, असे असोसिएटेड प्रेसने शनिवारी नोंदवले, ज्यामुळे देशातील सर्वोच्च AI सुरक्षा मूल्यांकनकर्त्याच्या स्वातंत्र्याबद्दल नवीन चिंता निर्माण झाली.
AP च्या म्हणण्यानुसार, ऑफिस, सेंटर फॉर ॲडव्हान्सिंग इनोव्हेशन अँड स्टँडर्ड्स फॉर सुपर इंटेलिजेंस - जे CAISSI म्हणून ओळखले जाते आणि वाणिज्य विभागाच्या आत आहे - यांनी देखील त्यांचे संशोधन प्रकाशित करणे थांबवले आहे. हा अहवाल नियंत्रणाबाहेरील एआय एजंट्सबद्दलच्या अनेक कथांबद्दल वाढत्या सार्वजनिक चिंतेमध्ये उतरला आहे आणि त्यात कमी कर्मचारी, नेतृत्वहीन आणि अधिकाधिक शांत असलेल्या वॉचडॉगचे वर्णन केले आहे. For more context on this story, see our ongoing breaking AI news.
CAISSI काय करते — आणि AP ला काय सापडले
CAISSI वर नवीन AI ऑफरिंग लोकांपर्यंत पोहोचण्याआधी त्यांच्या सुरक्षिततेचे मूल्यांकन करण्याचा आरोप आहे, एक आदेश ज्यामध्ये सीमावर्ती मॉडेल्स सायबर हल्ल्यांसाठी आणि इतर गंभीर हानींसाठी गैरवापराचा किती चांगला प्रतिकार करतात याचे मूल्यांकन समाविष्ट करते. एपीच्या मते, केंद्रातील कर्मचाऱ्यांना "अलीकडे" व्हाईट हाऊसच्या कार्यालयात अनौपचारिकपणे अहवाल देण्यास सांगितले गेले. वृत्तसंस्थेने चर्चेचे ज्ञान असलेल्या दोन माजी सरकारी अधिकाऱ्यांचा हवाला दिला, जे सध्याच्या कर्मचाऱ्यांचे संरक्षण करण्यासाठी अज्ञातपणे बोलले. व्हाईट हाऊसने केंद्राबद्दलच्या विशिष्ट प्रश्नांना उत्तर दिले नाही.
ऑपरेशनचे प्रमाण माफक आहे. AP ने अहवाल दिला आहे की CAISSI ला वर्षाला सुमारे $10 दशलक्ष मिळतात - युनायटेड किंगडमच्या समकक्षांना मिळणाऱ्या सुमारे एक-अष्टमांश, जरी युनायटेड स्टेट्स हे सर्वात सीमावर्ती मॉडेल तयार केले जातात.
अनौपचारिक अहवाल व्यवस्था ही केंद्रातील नवीनतम व्यत्यय आहे. एपीने अनेक महिने मागे असलेल्या नेतृत्वाच्या शून्यतेचे वर्णन केले आहे: एप्रिलमध्ये एका संचालकाची नियुक्ती करण्यात आली आणि काही दिवसांतच त्याला काढून टाकण्यात आले, त्याची बदली राजीनामा देण्याआधी काही महिने टिकली आणि पालक संस्थेचे प्रमुख सध्या कार्यवाहक संचालक म्हणून काम करत आहेत. व्यवहारात, याचा अर्थ असा आहे की कायमस्वरूपी आदेश असलेले कोणीही सध्या केंद्राच्या स्वातंत्र्याचे रक्षण करत नाही.
एक वॉचडॉग ज्याने प्रकाशन थांबवले
अधिक परिणामकारक बदल, एपीच्या मते, केंद्र आता करत नाही. ऑगस्टमध्ये, काँग्रेसने विचारले की CAISSI ने सुरक्षितता चाचण्यांवर AI सिस्टीम कसे कार्य करतात याविषयीचे अहवाल सार्वजनिकपणे का जारी करणे थांबवले आहे. मॉडेल बिल्डर्सवर सार्वजनिक तपासणी म्हणून प्री-डिप्लॉयमेंट चाचणी फंक्शन्स केवळ त्याचे परिणाम प्रयोगशाळेच्या बाहेर दृश्यमान असतील तरच — आणि, सध्या ते नाहीत.
शिफ्ट कुठूनही बाहेर आली नाही. ऑक्टोबरमध्ये, रॉयटर्सने द इन्फॉर्मेशनच्या एका अहवालाचा हवाला देत उघड केले की प्रशासनाने तीन वरिष्ठ CAISSI अधिकाऱ्यांना व्हाईट हाऊसमध्ये हलवण्याची योजना आखली आहे. व्हाईट हाऊसच्या एका अधिकाऱ्याने त्या वेळी द इन्फॉर्मेशनला सांगितले की कॉमर्समधील समन्वयातील समस्यांमुळे केंद्राच्या नेतृत्वाला एआय निर्णय घेण्याच्या जवळ आणण्याची गरज दिसून आली. त्या अहवालानुसार, अधिकारी विज्ञान आणि तंत्रज्ञान धोरणाचे कार्यालय चालवणारे मायकेल क्रॅटसिओस आणि राष्ट्रीय सायबर संचालक सीन केर्नक्रॉस यांना उत्तर देतील. वाणिज्य सचिव हॉवर्ड लुटनिक यांनी सुमारे सहा महिन्यांपूर्वी दोघांना केंद्राचे सह-व्यवस्थापन करण्यासाठी आमंत्रित केले होते.
एकत्र वाचा, AP चे नवीन अहवाल सूचित करते की योजना सरावात येत आहे — अनौपचारिकपणे, आणि कोणत्याही औपचारिक पुनर्रचनाच्या पुढे.
स्वातंत्र्याची चिंता, दोन्ही दिशांनी
AP द्वारे उद्धृत केलेल्या समीक्षकांना चिंता वाटते की सायबरसुरक्षा आणि बायोवेपन्सच्या जोखमीला स्पर्श करणाऱ्या निर्णयांचे राजकारण केले जाऊ शकते किंवा तंत्रज्ञान उद्योगाला अनुकूल असे निष्कर्ष मऊ केले जाऊ शकतात. ब्रेनन सेंटर फॉर जस्टिसचे आमोस टोह यांनी एपीला सांगितले की अशा निर्णयांचे सार्वजनिक परिणाम खूप मोठे आहेत आणि ते सार्वजनिकपणे स्पष्ट केले पाहिजेत. फेडरेशन ऑफ अमेरिकन सायंटिस्ट्सच्या कॅरोलिन सिगेल सिंग यांनी CAISSI सारख्या केंद्रांचे वर्णन शक्तिशाली संस्था म्हणून केले जे जीवनात कमालीची सुधारणा करू शकतात किंवा उलट करू शकतात.
एक प्रतिवाद आहे, आणि एपी ते फेटाळत नाही. मालवेअर लिहिण्यात मदत करण्याच्या मॉडेलच्या क्षमतेचे मूल्यांकन करणे हा एक राष्ट्रीय सुरक्षा प्रश्न आहे आणि ज्या प्रशासनाला ते परिणाम कोण पाहतील याची दृश्यमानता हवी आहे त्यांच्याकडे बचाव करण्यायोग्य केस आहे. अडचण संस्थात्मक आहे: संघाच्या प्रायोजकांपैकी एकाला उत्तर देणारा रेफरी गेमला सरळ कॉल करण्यासाठी खराबपणे ठेवलेला आहे आणि केंद्राने अहवाल प्रकाशित करणे थांबवले आहे जे अन्यथा त्याचे स्वातंत्र्य प्रदर्शित करेल.
बिल्डर्स आणि खरेदीदारांसाठी हे महत्त्वाचे का आहे
फ्रंटियर मॉडेल्सवर निर्माण करणाऱ्या कंपन्यांसाठी, अहवालात ओळखण्यात आलेला व्यावहारिक जोखीम ही बंदी नाही - ही अनिश्चितता आहे. जर मूल्यमापन गुप्त राहिल्यास आणि निर्यात नियंत्रणे आणि सरकारी खरेदीमध्ये फीड केले गेले, तर प्रयोगशाळा कधीही पाहण्यास किंवा स्पर्धा करण्यास न मिळाल्याच्या आधारावर करार किंवा बाजार गमावू शकते. तो धोका कोणत्याही चेतावणीशिवाय पुरवठा साखळीद्वारे डाउनस्ट्रीम उत्पादनांमध्ये प्रसारित होईल.
पुढील दोन गोष्टी पाहण्यासारख्या आहेत. पहिला मुद्दा म्हणजे प्रशासन केंद्रासाठी कायमस्वरूपी संचालक नेमते की नाही आणि त्यांची निवड कोण करते. दुसरा मुद्दा असा की, प्रकाशित झालेल्या अहवालांवरील मौन बाळगून केंद्रावर दबाव आणणारी काँग्रेस केंद्राच्या स्वातंत्र्याला कायद्यात लिहिण्याचा प्रयत्न करत आहे का. दोन्हीपैकी एक घडेपर्यंत, अमेरिकेचे फ्रंटियर एआय सुरक्षा रेफरी $10 दशलक्ष बजेटसह कार्य करतात, कायमस्वरूपी नेता नाही आणि व्हाईट हाऊसकडे जाणारी रिपोर्टिंग लाइन आहे.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
