Google डीपमाइंड के सीईओ डेमिस हसाबिस ने सार्वजनिक रिलीज से पहले फ्रंटियर एआई मॉडल का मूल्यांकन और विनियमन करने के लिए वित्तीय उद्योग नियामक प्राधिकरण (एफआईएनआरए) के बाद एक स्वतंत्र, अमेरिकी नेतृत्व वाले मानक निकाय के निर्माण का प्रस्ताव दिया है, जिसमें चेतावनी दी गई है कि कृत्रिम सामान्य बुद्धि को सुरक्षित रूप से विकसित करने के लिए मानवता के पास एक "कीमती खिड़की" है।
मंगलवार सुबह एक्स पर प्रकाशित "ए फ्रेमवर्क फॉर फ्रंटियर एआई एंड द डॉनिंग ऑफ ए न्यू एज" नामक एक फ्रेमवर्क दस्तावेज़ में, हसाबिस ने एक विस्तृत प्रस्ताव रखा कि कैसे संयुक्त राज्य अमेरिका सबसे शक्तिशाली एआई सिस्टम के लिए एक विश्वसनीय नियामक बुनियादी ढांचा स्थापित कर सकता है। योजना में एक नए संगठन की आवश्यकता है जो फ्रंटियर मॉडल का परीक्षण करेगा और उनकी तैनाती के लिए सर्वोत्तम प्रथाओं का विकास करेगा - एआई उद्योग द्वारा वित्त पोषित लेकिन किसी एक कंपनी से स्वतंत्र रूप से संचालित।
नवीनतम [ब्रेकिंग एआई न्यूज़] (https://aibuzzwire.news) और गहन नीति विश्लेषण के लिए, एआई बज़ वायर उद्योग को आकार देने वाले विकास को ट्रैक करता है।
प्रस्तावित मानक निकाय कैसे काम करेगा
हसाबिस के प्रस्ताव के तहत, एआई प्रयोगशालाएं सार्वजनिक रिलीज से 30 दिन पहले समीक्षा के लिए स्वेच्छा से अपने फ्रंटियर मॉडल को मानक निकाय के साथ साझा करेंगी। यह पूर्व-तैनाती मूल्यांकन सुरक्षा, सुरक्षा और संभावित दुरुपयोग जोखिमों के लिए मॉडल का मूल्यांकन करेगा। एक बार जब मूल्यांकन प्रोटोकॉल प्रभावी और मजबूत साबित हो जाता है, तो रूपरेखा प्रक्रिया को औपचारिक बनाने की कल्पना करती है ताकि फ्रंटियर मॉडल को अमेरिकी बाजार में तैनात होने से पहले इसे पारित करना आवश्यक हो।
प्रस्ताव सीधे तौर पर फ्रंटियर एआई सिस्टम की हालिया सरकारी समीक्षाओं से उजागर अंतर को संबोधित करता है। इस साल की शुरुआत में, अमेरिकी सरकार ने एंथ्रोपिक के माइथोस मॉडल और ओपनएआई के सोल मॉडल की उनके संबंधित रिलीज से पहले तदर्थ सुरक्षा समीक्षा की। उन समीक्षाओं में तकनीकी गहराई की कमी और किसी मॉडल को सार्वजनिक तैनाती के लिए पर्याप्त सुरक्षित समझे जाने के बारे में अपारदर्शी निर्णय लेने के लिए महत्वपूर्ण आलोचना हुई।
हसबिस के ढांचे के तहत, उन निर्णयों को तकनीकी विशेषज्ञों से युक्त एक समर्पित संगठन द्वारा नियंत्रित किया जाएगा, जो अमेरिकी सरकार द्वारा समर्थित होगा लेकिन राजनीतिक दबाव से अलग रहेगा। रिलीज़ के बाद खोजी गई महत्वपूर्ण कमजोरियों को दूर करने के लिए प्रयोगशालाओं को मानक निकाय के साथ काम करने की भी आवश्यकता होगी।
एजीआई से पहले एक 'कीमती खिड़की'
फ्रेमवर्क के विमोचन के साथ एक्सियोस, सीएनबीसी और द इकोनॉमिस्ट के साथ साक्षात्कार में, हसाबिस ने इस बात पर जोर दिया कि वर्तमान क्षण कृत्रिम सामान्य बुद्धिमत्ता के आने से पहले शासन तंत्र स्थापित करने के एक संकीर्ण अवसर का प्रतिनिधित्व करता है। उन्होंने इस अवधि को "कीमती खिड़की" के रूप में वर्णित किया - जिसका अर्थ है कि खिड़की अनिश्चित काल तक खुली नहीं रहेगी।
हस्साबिस लंबे समय से सक्रिय एआई शासन के समर्थक रहे हैं। उनकी रूपरेखा इस बात पर तीव्र बहस के बीच आई है कि क्या संयुक्त राज्य अमेरिका को एक औपचारिक एआई नियामक बनाना चाहिए, और यदि हां, तो इसे क्या रूप लेना चाहिए। एफआईएनआरए मॉडल उल्लेखनीय है क्योंकि वित्तीय उद्योग का स्व-नियामक संगठन सदस्य फर्मों द्वारा वित्त पोषित है, लेकिन सरकारी निरीक्षण के तहत संचालित होता है, जिससे इसे उद्योग विशेषज्ञता और सार्वजनिक जवाबदेही दोनों मिलती है।
ट्रम्प प्रशासन का विरोध
इस प्रस्ताव को महत्वपूर्ण राजनीतिक बाधाओं का सामना करना पड़ रहा है। ट्रम्प प्रशासन ने कृत्रिम बुद्धिमत्ता के लिए नए नियामक निकाय बनाने के प्रति गहरे संदेह का संकेत दिया है। व्हाइट हाउस के AI सलाहकार और a16z के जनरल पार्टनर श्रीराम कृष्णन - जिन्होंने तब से अपनी भूमिका छोड़ दी है - ने कार्यकारी शाखा के भीतर एक AI नियामक के विचार को सार्वजनिक रूप से खारिज कर दिया, और स्पष्ट रूप से कहा कि "AI के लिए कोई FDA नहीं होगा।"
उस रुख ने प्रशासन के अधिकारियों को उद्योग के कुछ सबसे प्रमुख नेताओं के साथ मतभेद में डाल दिया है। जबकि एंथ्रोपिक और ओपनएआई जैसी कंपनियों ने व्यापक रूप से पूर्व-तैनाती सुरक्षा परीक्षण का समर्थन किया है, ऐसे परीक्षण के लिए तंत्र और प्राधिकरण पर विवाद बना हुआ है। हसबिस का प्रस्ताव पहले मानक निकाय को उद्योग-वित्त पोषित और स्वैच्छिक के रूप में स्थापित करके इस सुई को पिरोने का प्रयास करता है, प्रक्रिया के मूल्य साबित होने के बाद ही औपचारिकता आती है।
मौजूदा प्रयासों पर निर्माण
ढांचा खरोंच से शुरू नहीं होता है. यह उन स्वैच्छिक प्रतिबद्धताओं पर आधारित है जो कई अग्रणी एआई कंपनियां सुरक्षा परीक्षण और रेड-टीमिंग के संबंध में पहले ही कर चुकी हैं। यह यूके के एआई सेफ्टी इंस्टीट्यूट और जी7 के हिरोशिमा एआई प्रोसेस सहित अंतरराष्ट्रीय प्रयासों पर भी आधारित है, जिन्होंने उन्नत मॉडलों के मूल्यांकन के लिए प्रारंभिक रूपरेखा स्थापित की है।
हालाँकि, हासबिस का प्रस्ताव एक स्थायी, अच्छी तरह से संसाधन वाले संगठन की मांग करके आगे बढ़ता है, जिसे रिलीज से पहले हर फ्रंटियर मॉडल का परीक्षण करने का आदेश दिया गया है - जांच का एक स्तर जो कोई भी मौजूदा निकाय प्रदान नहीं करता है। एफआईएनआरए सादृश्य एक छोटे सलाहकार पैनल के बजाय सैकड़ों तकनीकी विशेषज्ञों के साथ एक बड़े पैमाने पर पेशेवर संचालन का सुझाव देता है।
प्रस्ताव तैनाती के बाद की निगरानी को भी संबोधित करता है, जिसके लिए प्रयोगशालाओं को एक मॉडल के सार्वजनिक रूप से उपलब्ध होने के बाद खोजी गई कमजोरियों पर मानक निकाय के साथ काम करने की आवश्यकता होती है। यह बढ़ती मान्यता को दर्शाता है कि सुरक्षा जोखिम लॉन्च के साथ समाप्त नहीं होते हैं, जैसा कि कई हाई-प्रोफाइल मॉडल रिलीज़ के बाद सामने आए जेलब्रेक और दुरुपयोग के मामलों से पता चलता है।
उद्योग प्रतिक्रिया और अगले कदम
इस ढांचे ने एआई नीति समुदाय में महत्वपूर्ण ध्यान आकर्षित किया है। समर्थकों का तर्क है कि एक विश्वसनीय पूर्व-तैनाती परीक्षण व्यवस्था सीमांत मॉडल में सार्वजनिक विश्वास का निर्माण कर सकती है और भयावह दुरुपयोग के जोखिम को कम कर सकती है। कुछ मुक्त-बाज़ार अधिवक्ताओं सहित आलोचकों ने चेतावनी दी है कि एक अनिवार्य परीक्षण आवश्यकता छोटी कंपनियों और ओपन-सोर्स डेवलपर्स के लिए नियामक बाधाएँ पैदा करके बड़े पदधारियों को फँसा सकती है।
हस्साबिस का प्रस्ताव यह निर्दिष्ट नहीं करता है कि कौन से मॉडल "सीमांत" के रूप में योग्य होंगे - एक प्रारंभिक प्रश्न जो किसी भी भविष्य के नियामक शासन के दायरे को निर्धारित करेगा। इसमें यह भी खुला है कि मानक निकाय वर्गीकृत या दोहरे उपयोग वाले अनुप्रयोगों को कैसे संभालेगा, विशेष रूप से वर्गीकृत अमेरिकी प्रणालियों को क्रैक करने के लिए एआई मॉडल के उपयोग के बारे में हाल की चिंताओं को देखते हुए।
प्रस्ताव का समय सोच-समझकर रखा गया है। अगले कई वर्षों में एजीआई के तेजी से प्रशंसनीय दिखने के साथ, हासबिस इस मामले पर दबाव डाल रहे हैं कि शासन के बुनियादी ढांचे का निर्माण अभी किया जाना चाहिए, न कि किसी खतरनाक क्षमता के उभरने के बाद। यह देखना बाकी है कि वाशिंगटन उनके आह्वान पर कार्रवाई करेगा या नहीं।
एआई से आगे रहें
एआई नीति, विनियमन और उद्योग विकास के व्यापक कवरेज के लिए, [एआई बज़ वायर] (https://aibuzzwire.news) पर जाएं।
अधिक AI समाचार पढ़ें →
