एसोसिएटेड प्रेस ने शनिवार को रिपोर्ट दी कि फ्रंटियर एआई मॉडल की सुरक्षा के परीक्षण के लिए जिम्मेदार छोटे अमेरिकी सरकारी कार्यालय के कर्मचारियों को हाल ही में व्हाइट हाउस कार्यालय में अनौपचारिक रूप से रिपोर्ट करने के लिए कहा गया है, जिससे देश के शीर्ष एआई सुरक्षा मूल्यांकनकर्ता की स्वतंत्रता के बारे में नई चिंताएं पैदा हो गई हैं।
एपी के अनुसार, कार्यालय, सेंटर फॉर एडवांसिंग इनोवेशन एंड स्टैंडर्ड्स फॉर सुपर इंटेलिजेंस - जिसे CAISSI के नाम से जाना जाता है और वाणिज्य विभाग के अंदर स्थित है - ने भी अपना शोध प्रकाशित करना बंद कर दिया है। नियंत्रण से बाहर एआई एजेंटों के बारे में कहानियों की एक श्रृंखला पर बढ़ती सार्वजनिक चिंता के बीच यह रिपोर्ट सामने आई है, और यह एक ऐसे निगरानीकर्ता का वर्णन करती है जो कम कर्मचारियों वाला, नेतृत्वहीन और तेजी से शांत है। For more context on this story, see our ongoing AI trends.
CAISSI क्या करता है - और AP ने क्या पाया
CAISSI पर जनता तक पहुंचने से पहले नई AI पेशकशों की सुरक्षा का आकलन करने का आरोप लगाया गया है, एक जनादेश जिसमें यह मूल्यांकन करना शामिल है कि फ्रंटियर मॉडल साइबर हमलों और अन्य गंभीर नुकसानों के लिए दुरुपयोग का कितना अच्छा विरोध करते हैं। एपी के अनुसार, केंद्र के कर्मचारियों को "हाल ही में" व्हाइट हाउस के एक कार्यालय में अनौपचारिक रूप से रिपोर्ट करने के लिए कहा गया था। समाचार एजेंसी ने चर्चाओं की जानकारी रखने वाले दो पूर्व सरकारी अधिकारियों का हवाला दिया, जिन्होंने वर्तमान कर्मचारियों की सुरक्षा के लिए गुमनाम रूप से बात की थी। व्हाइट हाउस ने केंद्र के बारे में विशिष्ट सवालों का जवाब नहीं दिया।
ऑपरेशन का पैमाना मामूली है. एपी की रिपोर्ट है कि CAISSI को प्रति वर्ष लगभग 10 मिलियन डॉलर मिलते हैं - यूनाइटेड किंगडम के समकक्ष को मिलने वाली राशि का लगभग आठवां हिस्सा, भले ही संयुक्त राज्य अमेरिका वह जगह है जहां सबसे अधिक सीमांत मॉडल बनाए जाते हैं।
अनौपचारिक रिपोर्टिंग व्यवस्था केंद्र में नवीनतम व्यवधान है। एपी कई महीनों तक चली नेतृत्व शून्यता का वर्णन करता है: एक निदेशक को अप्रैल में नियुक्त किया गया था और कुछ ही दिनों में निकाल दिया गया, उनका प्रतिस्थापन इस्तीफा देने से कुछ महीने पहले तक चला, और मूल संस्थान के प्रमुख वर्तमान में कार्यवाहक निदेशक के रूप में कार्यरत हैं। व्यवहार में, इसका मतलब है कि स्थायी जनादेश वाला कोई भी व्यक्ति वर्तमान में केंद्र की स्वतंत्रता का बचाव नहीं कर रहा है।
एक निगरानी संस्था जिसने प्रकाशन बंद कर दिया
एपी के अनुसार, अधिक परिणामी परिवर्तन वह है जो केंद्र अब नहीं कर रहा है। अगस्त में, कांग्रेस ने पूछा कि CAISSI ने सुरक्षा परीक्षणों पर AI सिस्टम कैसे प्रदर्शन करते हैं, इस पर सार्वजनिक रूप से रिपोर्ट जारी करना क्यों बंद कर दिया है। प्री-डिप्लॉयमेंट परीक्षण मॉडल बिल्डरों पर एक सार्वजनिक जांच के रूप में कार्य करता है, केवल तभी जब इसके परिणाम प्रयोगशाला के बाहर दिखाई देते हैं - और, अभी के लिए, वे नहीं हैं।
यह बदलाव कहीं से भी नहीं आया। अक्टूबर में, रॉयटर्स ने द इंफॉर्मेशन की एक रिपोर्ट का हवाला देते हुए खुलासा किया कि प्रशासन ने CAISSI के तीन वरिष्ठ अधिकारियों को व्हाइट हाउस में स्थानांतरित करने की योजना बनाई है। व्हाइट हाउस के एक अधिकारी ने उस समय सूचना को बताया कि वाणिज्य के साथ समन्वय की समस्याओं ने केंद्र के नेतृत्व को एआई निर्णय लेने के करीब लाने की आवश्यकता को दर्शाया। उस रिपोर्ट के अनुसार, अधिकारी विज्ञान और प्रौद्योगिकी नीति कार्यालय चलाने वाले माइकल क्रैटसियोस और राष्ट्रीय साइबर निदेशक सीन केयर्नक्रॉस को जवाब देंगे। वाणिज्य सचिव हॉवर्ड लुटनिक ने लगभग छह महीने पहले दोनों को केंद्र के सह-प्रबंधन के लिए आमंत्रित किया था।
एक साथ पढ़ें, एपी की नई रिपोर्टिंग से पता चलता है कि योजना व्यवहार में आ रही है - अनौपचारिक रूप से, और किसी भी औपचारिक पुनर्गठन से पहले।
स्वतंत्रता संबंधी चिंताएँ, दोनों दिशाओं में
एपी द्वारा उद्धृत आलोचकों को चिंता है कि साइबर सुरक्षा और जैव हथियारों के जोखिम को छूने वाले निर्णयों का राजनीतिकरण किया जा सकता है, या प्रौद्योगिकी उद्योग के अनुरूप निष्कर्षों को नरम किया जा सकता है। ब्रेनन सेंटर फॉर जस्टिस के अमोस तोह ने एपी को बताया कि इस तरह के फैसले सार्वजनिक तौर पर बेहद महत्वपूर्ण होते हैं और इन्हें सार्वजनिक रूप से समझाया जाना चाहिए। फेडरेशन ऑफ अमेरिकन साइंटिस्ट्स की कैरोलिन सीगल सिंह ने CAISSI जैसे केंद्रों को शक्तिशाली संस्थान बताया जो जीवन में काफी सुधार कर सकते हैं या इसके विपरीत कार्य कर सकते हैं।
एक प्रतिवाद है, और एपी इसे खारिज नहीं करता है। मैलवेयर लिखने में मदद करने के लिए किसी मॉडल की क्षमता का मूल्यांकन करना एक राष्ट्रीय सुरक्षा प्रश्न है, और एक प्रशासन जो यह देखना चाहता है कि उन परिणामों को कौन देखता है, उसके पास बचाव योग्य मामला है। कठिनाई संस्थागत है: एक रेफरी जो टीमों के प्रायोजकों में से एक को जवाब देता है, वह खेल को सीधे कॉल करने के लिए खराब स्थिति में है, और केंद्र ने उन रिपोर्टों को प्रकाशित करना बंद कर दिया है जो अन्यथा उसकी स्वतंत्रता को प्रदर्शित करती हैं।
यह बिल्डरों और खरीदारों के लिए क्यों मायने रखता है
फ्रंटियर मॉडल पर निर्माण करने वाली कंपनियों के लिए, रिपोर्टिंग में पहचाना गया व्यावहारिक जोखिम प्रतिबंध नहीं है - यह अनिश्चितता है। यदि मूल्यांकन गुप्त रहता है और निर्यात नियंत्रण और सरकारी खरीद में शामिल होता है, तो एक प्रयोगशाला उस निष्कर्ष के आधार पर एक अनुबंध या बाजार खो सकती है जिसे उसे कभी देखने या प्रतिस्पर्धा करने का मौका नहीं मिलता है। यह जोखिम बिना किसी चेतावनी के आपूर्ति श्रृंखला के माध्यम से डाउनस्ट्रीम उत्पादों तक फैल जाएगा।
आगे दो चीजें देखने लायक हैं. पहला यह है कि क्या प्रशासन केंद्र के लिए एक स्थायी निदेशक का नाम नामित करता है, और उन्हें कौन चुनता है। दूसरा यह है कि क्या कांग्रेस, जो पहले से ही प्रकाशित रिपोर्टों पर अपनी चुप्पी को लेकर केंद्र पर दबाव बना चुकी है, केंद्र की स्वतंत्रता को कानून बनाने की दिशा में आगे बढ़ रही है। जब तक ऐसा नहीं होता, अमेरिका का फ्रंटियर एआई सुरक्षा रेफरी 10 मिलियन डॉलर के बजट, किसी स्थायी नेता और व्हाइट हाउस की ओर चलने वाली रिपोर्टिंग लाइन के साथ काम करता है।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
