एंथ्रोपिक की संशोधित आईपीओ फाइलिंग ने सोमवार को अपनी वित्तीय स्थिति के लिए सुर्खियां बटोरीं - गणना प्रतिबद्धताओं में $895.4 बिलियन के मुकाबले तीसरी तिमाही के राजस्व में लगभग $17 बिलियन। लेकिन संशोधित एस-1ए के जोखिम कारकों में एक रहस्य छिपा है जो अधिक परिणामी साबित हो सकता है: कंपनी का कहना है कि यह पुनरावर्ती आत्म-सुधार के लिए अपनी स्वयं की सीमा को पार करने के कगार पर हो सकता है, वह बिंदु जिस पर एआई सिस्टम अपने स्वयं के विकास में तेजी लाने में सक्षम हो जाते हैं।
टेकक्रंच ने बताया कि फाइलिंग में चेतावनी दी गई है कि एंथ्रोपिक पुनरावर्ती आत्म-सुधार में सक्षम एक मॉडल बनाने की कगार पर है, जिसे आमतौर पर आरएसआई के रूप में जाना जाता है - वह चरण जिस पर एआई एआई में सुधार करने में इतना अच्छा हो जाता है कि क्षमता लाभ नाटकीय रूप से बढ़ने लगता है। For more context on this story, see our ongoing breaking AI news.
फाइलिंग वास्तव में क्या कहती है
एंथ्रोपिक पहले से ही अपने स्वयं के अनुसंधान और विकास में तेजी लाने के लिए एआई का उपयोग करता है। संशोधित फाइलिंग में, कंपनी ने चेतावनी दी है कि यह अभ्यास दोनों तरीकों से कटौती करता है: "अधिक सक्षम एआई बनाने में मदद के लिए एआई का उपयोग करना भी काफी सुरक्षा जोखिम पैदा कर सकता है, खासकर अगर यह प्रगति की गति को तेज करता है। यह हमारी जिम्मेदार स्केलिंग नीति द्वारा कवर किए गए क्षेत्रों में से एक है, जो जोखिमों की निगरानी और उन्हें कम करने के लिए हमारी योजनाओं को निर्धारित करता है क्योंकि हम 'पुनरावर्ती आत्म-सुधार' कहलाते हैं।"
नई जोखिम-कारक भाषा एंथ्रोपिक द्वारा पहले अपनी सार्वजनिक फाइलिंग में कही गई बातों से कहीं आगे जाती है। कंपनी ने खुलासा किया है कि वह अतीत में प्रमुख क्षमता छलांगों को पहचानने में विफल रही है जैसे कि वे घटित हुई थीं: "अतीत में हमने विकास की दर में एक महत्वपूर्ण तेजी की पहचान नहीं की है, और भविष्य में भी इसकी पहचान नहीं की जा सकती है, जब तक कि ऐसा न हो जाए।"
फिर उद्योग का ध्यान खींचने वाला बयान आता है। फाइलिंग के अनुसार: "हमारे वर्तमान मॉडल के बजाय भविष्य के मॉडल के संबंध में हमारे आंतरिक अनुमान और हमारी अपेक्षाएं संकेत देती हैं कि हम जल्द ही हमारी जिम्मेदार स्केलिंग नीति की 'एआई के कारण नाटकीय रूप से त्वरित प्रगति' की परिभाषा को पूरा कर सकते हैं।"
एंथ्रोपिक जोड़ता है कि उसने "हमारे किसी भी मौजूदा मॉडल को इस सीमा से अधिक के रूप में नामित नहीं किया है" और अंतर्निहित डेटा का आकलन करना जारी रखता है। दूसरे शब्दों में: कोई भी मौजूदा क्लाउड मॉडल योग्य नहीं है, लेकिन कंपनी के आंतरिक अनुमानों से पता चलता है कि इसकी अगली पीढ़ी योग्य हो सकती है।
इंसानों को पाश में रखना
चेतावनी के साथ-साथ, एंथ्रोपिक लोगों को मॉडल विकास पर नियंत्रण रखने के लिए प्रतिबद्ध है। फाइलिंग में कहा गया है, "हम सार्थक मानव पर्यवेक्षण या समझ के बिना पूरी तरह से स्वायत्त रूप से फ्रंटियर मॉडल की लगातार पीढ़ियों को डिजाइन करने और बनाने के लिए क्लाउड का सुरक्षित रूप से उपयोग करने में सक्षम होने की उम्मीद नहीं करते हैं, अगर यह तकनीकी रूप से संभव हो जाता है।" "तदनुसार, हम एंथ्रोपिक में फ्रंटियर मॉडल विकास के नियंत्रण में मनुष्यों को रखने के लिए हमारी जिम्मेदार स्केलिंग नीति के अपडेट पर विचार कर रहे हैं।"
एंथ्रोपिक के अपने शोध में एआई की भूमिका का पैमाना तेज़ी से बढ़ रहा है। बिजनेस इनसाइडर ने बताया कि एआई अब एंथ्रोपिक के आंतरिक आर एंड डी कार्य में लगभग एक चौथाई का नेतृत्व करता है, जो मार्च में 1 प्रतिशत से अधिक है - एक चार्ट जिसे उद्योग के अंदरूनी सूत्रों ने एआई में सबसे महत्वपूर्ण में से एक कहा है।
एक प्रवचन बदलाव: बज़वर्ड से बैलेंस शीट तक
जब आरएसआई शब्द इस साल की शुरुआत में लोकप्रिय हो गया, तो उद्योग में कई लोगों ने इसे एक प्रचलित शब्द के रूप में खारिज कर दिया - या, सबसे अच्छा, एक लक्ष्य जिसे हासिल करने, साबित करने या विनियमित करने के लिए बहुत खराब परिभाषित किया गया था। उस संदेह को बनाए रखना अब कठिन है क्योंकि यह अवधारणा एक सटीक आंतरिक परिभाषा के साथ एक दस्तावेज़ में दिखाई देती है, जिसे जनता को शेयर बेचने से पहले एक कंपनी को एसईसी के साथ फाइल करना कानूनी रूप से आवश्यक होता है।
आत्म-सुधार को निकट अवधि की योजना धारणा के रूप में मानने में एंथ्रोपिक भी अकेला नहीं है। Google के सह-संस्थापक सर्गेई ब्रिन ने उद्योग को "आरएसआई ट्रेडमिल" की ओर दौड़ने वाला बताया है, जिसमें मॉडल अपने उत्तराधिकारी बनाने में मदद करते हैं, और पूर्व ओपनएआई के सह-संस्थापक जॉन शुलमैन ने कहा है कि उन्हें लगभग तीन से चार वर्षों के भीतर पुनरावर्ती आत्म-सुधार की उम्मीद है। एंथ्रोपिक के प्रकटीकरण को जो अलग करता है वह इसकी औपचारिकता है: एक परिभाषित सीमा, एक आंतरिक माप प्रक्रिया, और एक सार्वजनिक बयान जब कंपनी इसे पार करने की उम्मीद करती है।
आरएसआई दोनों कैंपों पर नजर रखने वाला ट्रिपवायर क्यों है
आरएसआई का अलग-अलग अर्थ होता है जो इस बात पर निर्भर करता है कि इसका वर्णन कौन कर रहा है। एआई सुरक्षा शोधकर्ताओं के लिए, यह बिना किसी रिटर्न के बिंदु का प्रतिनिधित्व करता है - वह परिदृश्य जिसमें एआई सिस्टम इंसानों की समझ, पुष्टि या हस्तक्षेप की तुलना में तेजी से खुद को सुधारता है, जो संभावित रूप से मानव नियंत्रण से परे हो जाता है। एआई आशावादियों के लिए, वही गतिशीलता पुरस्कार है: जो सिस्टम खुद को विश्वसनीय रूप से सुधारते हैं वे असाधारण उत्पादकता और वैज्ञानिक खोज में बदल जाएंगे।
एन्थ्रोपिक का फ़्रेमिंग दोनों संभावनाओं को स्वीकार करता है। प्रकटीकरण एक दस्तावेज़ में बैठता है जिसका प्राथमिक दर्शक निवेशक हैं, और संदेहियों का कहना है कि एक एस -1 प्रकटीकरण और विपणन दोनों के रूप में कार्य करता है - एक दावा है कि कंपनी एक आत्म-सुधार एआई के निर्माण के करीब है, इसे आसानी से इसके मूल्यांकन के लिए एक तर्क के रूप में पढ़ा जा सकता है।
हालाँकि, दावे के लिए एक ठोस आधार है। कोडिंग, गणित और साइबर सुरक्षा में क्लाउड की क्षमताएं 2026 तक तेजी से बढ़ी हैं, और एंथ्रोपिक की अपनी जिम्मेदार स्केलिंग नीति "एआई के कारण नाटकीय रूप से त्वरित प्रगति" मानक को परिभाषित करती है, कंपनी अब कहती है कि यह जल्द ही पूरा हो सकता है।
एआई गवर्नेंस के लिए एक परीक्षण
फ्रंटियर मॉडल की समीक्षा के लिए व्हाइट हाउस के ढांचे से लेकर कंप्यूट गवर्नेंस की अंतरराष्ट्रीय चर्चाओं तक, फ्रंटियर एआई निरीक्षण पर नीतिगत बहस तेज होने के बीच यह खुलासा हुआ है। यदि एक अग्रणी एआई प्रयोगशाला औपचारिक रूप से एक मॉडल को अपनी त्वरित-प्रगति सीमा को पूरा करने के रूप में नामित करती है, तो यह एंथ्रोपिक की जिम्मेदार स्केलिंग नीति के तहत दायित्वों को ट्रिगर करेगी - और यह पहला वास्तविक दुनिया परीक्षण होगा कि क्या ऐसे उद्योग ढांचे व्यवहार में क्षमता रेसिंग को धीमा या आकार दे सकते हैं।
फिलहाल, एंथ्रोपिक का कहना है कि किसी भी मॉडल ने सीमा पार नहीं की है। फाइलिंग से पता चलता है कि कंपनी को उम्मीद है कि यह सीमा जल्द ही पार कर ली जाएगी - और निवेशकों से पहले से यह समझने के लिए कह रही है कि वह इसके बारे में क्या करने की योजना बना रही है।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
