एंथ्रोपिक ने संशोधित एस-1/ए आईपीओ फाइलिंग में चेतावनी दी है कि वह "जल्द ही" अपनी खुद की जिम्मेदार स्केलिंग नीति की "एआई के कारण नाटकीय रूप से त्वरित प्रगति" की परिभाषा को पूरा कर सकता है - वह सीमा जिसे व्यापक रूप से पुनरावर्ती आत्म-सुधार या आरएसआई के रूप में जाना जाता है, वह बिंदु जहां एआई सिस्टम एआई में सुधार करने में इतना अच्छा हो जाता है कि क्षमता लाभ अपने आप बढ़ना शुरू हो जाता है। टेकक्रंच ने सोमवार को इस खुलासे की सूचना दी, जिसमें फाइलिंग के जोखिम कारकों में छिपी भाषा पर प्रकाश डाला गया, जो कि किसी भी एआई लैब द्वारा अपने स्वयं के प्रक्षेपवक्र के बारे में दिए गए सबसे परिणामी बयानों में से एक है।
एंथ्रोपिक के अपने शब्दों में, फाइलिंग में कहा गया है: "हमारे मौजूदा मॉडल के बजाय भविष्य के मॉडल के बारे में हमारे आंतरिक अनुमान और हमारी अपेक्षाएं संकेत देती हैं कि हम जल्द ही हमारी जिम्मेदार स्केलिंग नीति की 'एआई के कारण नाटकीय रूप से त्वरित प्रगति' की परिभाषा को पूरा कर सकते हैं।" हमने अपने किसी भी मौजूदा मॉडल को इस सीमा से अधिक नहीं बताया है, और हम अंतर्निहित डेटा का आकलन करना जारी रखते हैं।" For more context on this story, see our ongoing AI trends.
फाइलिंग वास्तव में क्या कहती है
एंथ्रोपिक द्वारा अपने स्वयं के अनुसंधान और विकास में तेजी लाने के लिए एआई सिस्टम के बढ़ते उपयोग के बारे में चेतावनी एक व्यापक जोखिम कारक के अंदर बैठती है। कंपनी ने खुलासा किया है कि इस गतिशीलता ने पहले ही क्षमता में छलांग लगा दी है जिसे वह वास्तविक समय में पहचानने में विफल रही। फाइलिंग में कहा गया है, "परिणामस्वरूप, हम अतीत में इसकी पहचान नहीं कर पाए हैं, और भविष्य में भी इसकी पहचान नहीं कर पाएंगे, जब तक कि यह घटित न हो जाए।"
एंथ्रोपिक अंतर्निहित गतिशीलता को एक इंजन और एक खतरे दोनों के रूप में प्रस्तुत करता है। फाइलिंग में लिखा है, "अधिक सक्षम एआई बनाने में मदद के लिए एआई का उपयोग करना भी काफी सुरक्षा जोखिम पैदा कर सकता है, खासकर अगर यह प्रगति की गति को तेज कर देता है।" "यह हमारी जिम्मेदार स्केलिंग नीति द्वारा कवर किए गए क्षेत्रों में से एक है, जो 'पुनरावर्ती आत्म-सुधार' कहे जाने वाले जोखिमों की निगरानी और उन्हें कम करने की हमारी योजनाओं को निर्धारित करता है।"
आईपीओ दस्तावेज़ के लिए दांव असामान्य हैं। आरएसआई वह अवधारणा है जो एआई के आशावादी और निराशावादी दृष्टिकोण को लगभग किसी भी अन्य की तुलना में अधिक तेजी से अलग करती है। एआई सुरक्षा शोधकर्ताओं के लिए, पुनरावर्ती आत्म-सुधार एक भगोड़ा परिदृश्य है: एक प्रणाली जो बेहतर सिस्टम बनाने में बेहतर हो जाती है, उस बिंदु से आगे बढ़ जाती है जहां मानव निरीक्षण सार्थक रहता है। एआई समर्थकों के लिए, यह वादा है: एक ऐसा उपकरण जो वैज्ञानिक खोज और उत्पादकता लाभ के लिए अपना रास्ता तैयार करता है, कोई भी मानव-निर्देशित प्रक्रिया इसकी बराबरी नहीं कर सकती। एंथ्रोपिक की फाइलिंग दोनों रीडिंग को स्वीकार करती है, जबकि निवेशकों को प्रभावी ढंग से बताती है कि कंपनी का मानना है कि घटना जोखिम कारकों में अपनी खुद की लाइन की गारंटी देने के लिए काफी करीब है।
सेफगार्ड्स एंथ्रोपिक आशाजनक है
चेतावनी के साथ-साथ, एंथ्रोपिक ने निकट भविष्य के लिए मनुष्यों को सीमांत मॉडल विकास के दायरे में रखने के लिए प्रतिबद्धता जताई। फाइलिंग में कहा गया है, "हम सार्थक मानव पर्यवेक्षण या समझ के बिना पूरी तरह से स्वायत्त रूप से फ्रंटियर मॉडल की लगातार पीढ़ियों को डिजाइन करने और बनाने के लिए क्लाउड का सुरक्षित रूप से उपयोग करने में सक्षम होने की उम्मीद नहीं करते हैं, अगर यह तकनीकी रूप से संभव हो जाता है।" कंपनी ने कहा कि वह "एंथ्रोपिक में फ्रंटियर मॉडल विकास के नियंत्रण में मनुष्यों को रखने के लिए हमारी जिम्मेदार स्केलिंग नीति के अपडेट पर विचार कर रही है।"
कंपनी वर्तमान काल के बारे में सावधान थी: किसी भी मौजूदा एंथ्रोपिक मॉडल को आरएसआई सीमा से अधिक के रूप में नामित नहीं किया गया है। लेकिन वाक्यांश "संभवतः मिल सकता है" - भेजे गए मॉडलों के बजाय भविष्य के मॉडलों पर लागू होता है - यह इस बारे में एक स्पष्ट प्रवेश है कि प्रयोगशाला अपने आंतरिक अनुमानों को कैसे पढ़ती है और वर्तमान में चल रहे प्रशिक्षण चल रहे हैं।
प्रकटीकरण या विपणन?
संशयवादियों ने तुरंत ध्यान दिया कि एक एस-1 एक साथ दो दर्शकों को सेवा प्रदान करता है: यह एक कानूनी प्रकटीकरण और एक पिच है। दावा है कि एक कंपनी खुद को बनाने के लिए पर्याप्त शक्तिशाली प्रौद्योगिकी के शिखर पर है, इसे चेतावनी या मूल्यांकन तर्क - या दोनों के रूप में पढ़ा जा सकता है। ऑडिट करने का कोई बाहरी तरीका नहीं है कि क्या एंथ्रोपिक के आंतरिक अनुमान "आसन्न रूप से" शब्द को उचित ठहराते हैं, और कंपनी ने किसी भी मौजूदा मॉडल को सीमा पार करने के रूप में नामित नहीं किया है, जो दावा को प्रयोगशाला के अपने अनुसंधान पाइपलाइन के माप पर निर्भर करता है।
फिर भी, फाइलिंग में वर्णित अंतर्निहित प्रवृत्ति बाहर से देखी जा सकती है। 2026 तक कोडिंग, गणित और साइबर सुरक्षा में क्लाउड की क्षमताएं तेजी से बढ़ी हैं, और एंथ्रोपिक अनुसंधान करने, संरेखण प्रयोग चलाने और विकास कार्यों में सहायता करने के लिए अपने स्वयं के मॉडल का उपयोग करने के बारे में उत्तरोत्तर अधिक सार्वजनिक हो गया है। फाइलिंग में जो नया है वह यह है कि कंपनी कानूनी रूप से बाध्यकारी प्रकटीकरण दस्तावेज़ में यह औपचारिक रूप दे रही है कि यह फीडबैक लूप जल्द ही खतरनाक त्वरण के लिए अपने आधिकारिक पैमाने पर पंजीकृत हो सकता है।
यह मानवशास्त्र से परे क्यों मायने रखता है
यह खुलासा ऐसे समय में हुआ है जब एआई विकास को गति देने का सवाल कॉन्फ्रेंस पैनल से नीतिगत एजेंडे में बदल गया है। यदि प्रमुख सुरक्षा-केंद्रित प्रयोगशाला एसईसी फाइलिंग में कहती है कि वह जल्द ही एआई-संचालित त्वरण के लिए अपनी सीमा को पार कर सकती है - साथ ही यह स्वीकार करती है कि ऐसा होने के बाद तक वह ऐसी तेजी से चूक गई है - नियामकों, निवेशकों और प्रतिद्वंद्वी प्रयोगशालाओं के पास अब बहस के दोनों पक्षों को इंगित करने के लिए एक दस्तावेज है।
एंथ्रोपिक के लिए, जो इस क्षेत्र में सबसे ज्यादा देखे जाने वाले आईपीओ में से एक की तैयारी कर रहा है, फाइलिंग एक नाजुक संतुलन कार्य करती है: यह स्थापित करने के लिए पर्याप्त चेतावनी कि कंपनी अपनी सुरक्षा प्रतिबद्धताओं को गंभीरता से लेती है, और उल्टा बिक्री जारी रखने के लिए अपने नियंत्रण में पर्याप्त विश्वास है। कंपनी की जिम्मेदार स्केलिंग नीति अपडेट, यदि वे अमल में आते हैं, तो यह दिखाएगा कि लैब की वास्तविक प्रथाएं उस संतुलन के किस पक्ष पर आधारित हैं।
पुनरावर्ती आत्म-सुधार और फ्रंटियर मॉडल गवर्नेंस पर विकास के लिए हमारे निरंतर एआई अनुसंधान कवरेज और एआई सुरक्षा रिपोर्टिंग को ट्रैक करें।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
