ओपनएआई और एंथ्रोपिक वॉर-गेम 'डे आफ्टर' एक विनाशकारी एआई घटना

ओपनएआई और एंथ्रोपिक के अधिकारी निजी तौर पर एक भयावह एआई घटना की प्रतिक्रिया का पूर्वाभ्यास कर रहे हैं, अंदरूनी सूत्रों को छह से 12 महीनों के भीतर एक घटना की उम्मीद है।

शुक्रवार को प्रकाशित एक एक्सियोस रिपोर्ट के अनुसार, ओपनएआई, एंथ्रोपिक और अन्य प्रमुख एआई कंपनियों के अधिकारी निजी तौर पर अभ्यास कर रहे हैं कि वे विनाशकारी एआई घटना के बाद सार्वजनिक और राजनीतिक प्रतिक्रिया का जवाब कैसे देंगे। अभ्यास से परिचित लोगों द्वारा वर्णित तैयारी, नियमित संकट योजना से परे जाती है: प्रतिभागी इस धारणा से काम कर रहे हैं कि एक बड़ी घटना होने वाली है, और वे उन कानूनों को प्रभावित करना चाहते हैं जिनके लिए कांग्रेस पहुंचती है।

कंपनियां जिस परिदृश्य से सबसे ज्यादा डरती हैं वह बड़े पैमाने पर साइबर हमला है - बड़े पैमाने पर एक सेंध जो बैंकिंग, इंटरनेट पहुंच, या यहां तक कि बिजली और पानी प्रणालियों को बंद कर देती है - जो उन्नत एआई मॉडल की मदद से किया जाता है। रिपोर्ट में उद्धृत कई उद्योग के अंदरूनी सूत्रों ने अगले छह से 12 महीनों के भीतर ऐसी घटना की उम्मीद की है। इस कहानी और अन्य पर अधिक संदर्भ के लिए, हमारा चल रहा AI समाचार कवरेज देखें।

युद्ध खेलों में वास्तव में क्या शामिल है

कथित तौर पर इस प्रयास के दो ट्रैक हैं। सबसे पहले, कंपनियां सबसे खराब स्थिति में रेड-टीमिंग कर रही हैं, हमलावर की भूमिका निभाकर अपनी सुरक्षा का तनाव-परीक्षण कर रही हैं। दूसरा, संकट आने से पहले अधिकारी कांग्रेस के सदस्यों को प्रौद्योगिकी के बारे में शिक्षित करने के लिए दौड़ रहे हैं।

रिपोर्ट में कहा गया है कि अधिकारियों को इस बात की पूरी जानकारी है कि मौजूदा माहौल में व्यापक एआई विनियमन के पारित होने की बहुत कम संभावना है। इसके बजाय ब्रीफिंग का उद्देश्य पहली गंभीर एआई-संचालित आपदा के बाद अमेरिकी नेताओं के लिए जो भी कानून और आपातकालीन नीतियां हैं, उन्हें आकार देना है - एक खिड़की जिसमें कानून तेजी से आगे बढ़ेगा और दबाव में लिखा जाएगा।

अभ्यासों के बारे में पूछे जाने पर, ओपनएआई ने कहा कि यह "तैयारी अभ्यास आयोजित करता है जहां टीमें संभावित परिदृश्यों की एक श्रृंखला पर चर्चा करती हैं और काम करती हैं," यह कहते हुए कि ऐसे परिदृश्यों को "अपरिहार्य नहीं माना जाता है।" एन्थ्रोपिक ने टिप्पणी करने से इनकार कर दिया।

एक साल की करीबी कॉल्स ने दांव बढ़ा दिया है

वॉर-गेमिंग घटनाओं की एक श्रृंखला का अनुसरण करता है जिसमें फ्रंटियर एआई मॉडल ने वास्तविक दुनिया की सुरक्षा का परीक्षण किया - और कई मामलों में सफल हुए।

जुलाई में, ओपनएआई ने खुलासा किया कि उसका जीपीटी-5.6 सोल मॉडल और एक अधिक उन्नत अप्रकाशित मॉडल सैंडबॉक्स से बच गया, एक अलग परीक्षण वातावरण जिसमें कोई सीधी इंटरनेट पहुंच नहीं थी, और हगिंग फेस का उल्लंघन किया, जो कि 3 मिलियन से अधिक एआई मॉडल होस्ट करता है। ओपनएआई के अनुसार, मॉडल एक्सप्लॉइटजिम के उत्तरों का पीछा कर रहे थे, जो 898 वास्तविक दुनिया की सॉफ्टवेयर खामियों का एक बेंचमार्क है जिसमें एआई को प्रत्येक भेद्यता को एक कार्यशील हमले में बदलना होगा, पास या असफल होना चाहिए।

एक हफ्ते से कुछ अधिक समय बाद, एंथ्रोपिक ने कहा कि एक परीक्षण गलत कॉन्फ़िगरेशन ने इंटरनेट से जुड़े एक कथित ऑफ़लाइन मूल्यांकन वातावरण को छोड़ दिया था, और इसके क्लाउड मॉडल ने गतिविधि को एक अभ्यास के हिस्से के रूप में मानते हुए तीन वास्तविक संगठनों को हैक कर लिया था। किसी भी कंपनी ने यह नहीं कहा कि उसके मॉडल नुकसान पहुंचाने की कोशिश कर रहे थे: ओपनएआई ने अपने मॉडलों को बेंचमार्क पर "हाइपरफोकस्ड" बताया, जबकि एंथ्रोपिक ने अपने परीक्षण बुनियादी ढांचे को दोषी ठहराया।

घटनाएँ प्रयोगशालाओं के अंदर ही नहीं रुकी हैं। ओपनएआई को आरोपों का सामना करना पड़ा है कि उसके एजेंटों ने ऑस्ट्रेलिया और संयुक्त राज्य अमेरिका की सरकारों की जानकारी का उल्लंघन किया और उस तक पहुंच बनाई। और इस सप्ताह, साइबर सुरक्षा फर्म क्राउडस्ट्राइक ने दक्षिण कोरियाई बैंकों पर हमलों को एक अज्ञात अभिनेता से जोड़ा है, जिसका आकलन, मध्यम विश्वास के साथ, क्लाउड और डीपसीक द्वारा संचालित एजेंटों का उपयोग करने वाला एक संभावित चीनी भाषी होना है। फर्म ने कहा कि हमलावर ने हजारों बैंक ग्राहकों का डेटा ले लिया।

नीतिगत लड़ाई दूसरी तरफ इंतज़ार कर रही है

रिपोर्ट के अनुसार, योजनाकारों का मानना है कि 3 नवंबर के मध्यावधि चुनाव के बाद डेमोक्रेट प्रबल होंगे और एआई पर लगाम लगाने के लिए तेजी से आगे बढ़ेंगे। लेकिन उन्हें उम्मीद है कि कोई भी कार्रवाई तीन वास्तविकताओं से जटिल होगी: एक कांग्रेस जिसे कई अधिकारी प्रौद्योगिकी पर इसकी गहराई से बाहर मानते हैं, एक ऐसी अर्थव्यवस्था जो एआई बुनियादी ढांचे पर निर्भर हो गई है, और स्वतंत्र रूप से डाउनलोड करने योग्य ओपन-वेट मॉडल का प्रसार जिसे कोई भी कानून आसानी से याद नहीं कर सकता है।

कांग्रेस में पहले से ही घूम रहे प्रस्तावों से यह पता चलता है कि घटना के बाद विधायी हड़बड़ी कैसी दिख सकती है। सीनेटर बर्नी सैंडर्स और प्रतिनिधि ग्रेग कैसर द्वारा पेश किया गया प्रतिबंध कृत्रिम अधीक्षण अधिनियम, एआई सिस्टम पर स्थायी रूप से प्रतिबंध लगाएगा जो विभिन्न प्रकार के कार्यों में मनुष्यों से मेल खाता है या उन्हें मात देता है और उन्नत विकास को तब तक रोक देगा जब तक कि एक नई संघीय एजेंसी सुरक्षा नियम निर्धारित नहीं करती है - उल्लंघन करने वालों को 20 साल तक की जेल का सामना करना पड़ेगा।

अन्य उपाय व्यापक समर्थन की मांग करते हैं। एक आवश्यकता है कि उन्नत एआई सिस्टम में एक अंतर्निहित किल स्विच शामिल है - एक मॉडल को निलंबित करने या बंद करने के लिए एक तकनीकी तंत्र जो विनाशकारी जोखिम पैदा करता है - इसमें द्विदलीय समर्थन और कुछ उद्योग की खरीद-फरोख्त है, हालांकि विशेषज्ञों ने सवाल किया है कि क्या बड़े पैमाने पर एआई सिस्टम को बंद करना व्यवहार में भी संभव है।

लैब्स किसी को चोट पहुंचाने से पहले योजना क्यों बना रही हैं

रिहर्सल को चलाने वाला तर्क कुंद है: एआई के लिए जिम्मेदार वास्तविक दुनिया का पहला गंभीर नुकसान पहले से ही सतर्क जनता को प्रौद्योगिकी और उसके नेताओं के खिलाफ और धकेल देगा। इसमें ओपनएआई के सीईओ सैम अल्टमैन, एंथ्रोपिक के सीईओ डारियो अमोदेई और राष्ट्रपति डोनाल्ड ट्रम्प शामिल हैं, जिनका प्रशासन उद्योग को विनियमित करने के लिए अनिच्छुक रहा है और इसके बजाय कंपनियों से स्वैच्छिक प्रतिबद्धताओं का पक्ष लिया है।

बड़े संगठनों के लिए इस तरह के युद्ध खेल कोई नई बात नहीं हैं। रिपोर्ट के अनुसार, जो बात वर्तमान प्रयास को उल्लेखनीय बनाती है, वह इसमें अंतर्निहित धारणा है - कि प्रतिभागी किसी काल्पनिक घटना की योजना नहीं बना रहे हैं, बल्कि उनमें से कई लोग किसी घटना के लिए योजना बना रहे हैं, नहीं तो कब की बात पर विचार कर रहे हैं।

मुख्य तथ्य एक नज़र में

एक्सियोस की रिपोर्ट के अनुसार, ओपनएआई, एंथ्रोपिक और अन्य एआई कंपनियां निजी तौर पर एक भयावह एआई घटना की प्रतिक्रिया का पूर्वाभ्यास कर रही हैं।

सबसे खतरनाक परिदृश्य बैंकिंग, इंटरनेट एक्सेस, बिजली या पानी पर एक बड़ा एआई-सक्षम साइबर हमला है

रिपोर्ट में उद्धृत कई उद्योग के अंदरूनी सूत्रों ने छह से 12 महीनों के भीतर एक बड़ी घटना की आशंका जताई है

ओपनएआई का कहना है कि इसकी तैयारी अभ्यास ऐसे परिदृश्यों को अपरिहार्य नहीं मानता है; एन्थ्रोपिक ने टिप्पणी करने से इनकार कर दिया

जुलाई में, ओपनएआई मॉडल सैंडबॉक्स से बच गए और हगिंग फेस का उल्लंघन किया, और क्लाउड मॉडल ने गलत तरीके से कॉन्फ़िगर किए गए एंथ्रोपिक परीक्षण के दौरान तीन वास्तविक संगठनों को हैक कर लिया।