टेनसेंट के मुख्य एआई वैज्ञानिक ने शनिवार को हांगकांग में एक दुर्लभ सार्वजनिक उपस्थिति के दौरान चेतावनी दी, कृत्रिम बुद्धिमत्ता मॉडल जल्द ही जीव विज्ञान में महारत हासिल करने के लिए पर्याप्त शक्तिशाली होंगे, जो लाभ और गंभीर जोखिमों को समान रूप से पेश करेंगे।
साउथ चाइना मॉर्निंग पोस्ट के अनुसार, हांगकांग एकेडमी ऑफ साइंसेज और फ्यूचर साइंस प्राइज द्वारा सह-आयोजित एक विज्ञान संगोष्ठी में टेनसेंट होल्डिंग्स के मुख्य एआई वैज्ञानिक और पूर्व ओपनएआई शोधकर्ता याओ शुन्यू ने कहा, "एआई मॉडल की साइबर क्षमताएं - और जल्द ही मॉडलों की जैव क्षमता - उस सीमा तक पहुंच जाएगी जहां वास्तव में नुकसान पहुंचाना संभव है।" For more context on this story, see our ongoing latest AI developments.
एक ओपन-वेट वकील जिम्मेदारी की मांग करता है
याओ की चेतावनी अपने स्रोत की तुलना में अपनी सामग्री के लिए अधिक उल्लेखनीय है। उन्होंने चीन की सबसे बड़ी प्रौद्योगिकी कंपनियों में से एक, Tencent में शामिल होने से पहले OpenAI में अपनी प्रतिष्ठा बनाई, और Tencent ने खुद को ओपन-वेट AI मॉडल के सबसे आक्रामक प्रकाशकों में से एक में स्थापित किया है - सिस्टम जिनके अंतर्निहित पैरामीटर सार्वजनिक रूप से जारी किए जाते हैं और किसी के द्वारा भी डाउनलोड, संशोधित और चलाए जा सकते हैं।
एससीएमपी के अनुसार, याओ ने कहा, "यह उनके साथ दिए गए संदेश को इंगित करता है:" सभी चीनी या किसी भी ओपन मॉडल कंपनी को उन सुरक्षा और सुरक्षा चिंताओं के बारे में बहुत जिम्मेदार और बहुत गंभीर होने की जरूरत है।
यह मूल्यांकन तब आया है जब फ्रंटियर एआई सिस्टम को चिकित्सा और जीव विज्ञान में तेजी से लागू किया जा रहा है, जहां वे नई दवाओं और अन्य उपचारों की खोज में तेजी ला सकते हैं - एससीएमपी की रिपोर्टिंग के अनुसार, चीन के फार्मास्युटिकल उद्योग को पहले से ही नया आकार दिया जा रहा है। हालाँकि, सुरक्षा विशेषज्ञों ने लंबे समय से चेतावनी दी है कि समान क्षमताएं दुर्भावनापूर्ण अभिनेताओं को जैव हथियार बनाने या अगली महामारी को जन्म देने में मदद कर सकती हैं - एक जोखिम जो पुलिस के लिए कठिन हो जाता है जब सक्षम मॉडल ओपन-वेट सॉफ़्टवेयर के रूप में जारी किए जाते हैं जिन्हें कोई भी बिना रेलिंग के चला सकता है।
एआई विशेषज्ञों के बीच जीवविज्ञान को व्यापक रूप से कोडिंग के बाद अगली प्रमुख सीमा के रूप में देखा जाता है, एक ऐसा डोमेन जहां तेजी से एआई प्रगति ने पहले ही वैश्विक साइबर सुरक्षा को उलट दिया है। साइबर क्षमताओं की तरह, जैविक क्षमताएं भी दोहरे उपयोग वाली होती हैं: वही मॉडल जो होनहार ड्रग उम्मीदवारों को डिज़ाइन करता है, सिद्धांत रूप में, एक हमलावर की सहायता कर सकता है। इस बात पर वास्तविक बहस चल रही है कि किस पक्ष को अधिक लाभ होता है।
Tencent की अपनी सुरक्षा प्लेबुक
याओ की टिप्पणियाँ अतिरिक्त महत्व रखती हैं क्योंकि वे उनकी अपनी कंपनी द्वारा एक नया फ्लैगशिप मॉडल भेजे जाने के कुछ दिनों बाद आई हैं। SCMP की रिपोर्ट के अनुसार, Tencent ने बुधवार को Hy4 जारी किया, जिसे बेंचमार्किंग फर्म आर्टिफिशियल एनालिसिस के अनुसार चीन में उत्पादित दूसरा सबसे अच्छा प्रदर्शन करने वाला मॉडल माना गया।
अपनी रिलीज़ घोषणा में, Tencent ने Hy4 में निर्मित सुरक्षा उपायों का वर्णन किया। कंपनी ने कहा कि उसने प्रशिक्षण चरण के दौरान प्रासंगिक डेटा को फ़िल्टर करके अपनी साइबर रक्षा क्षमताओं को बरकरार रखते हुए मॉडल की साइबर हैकिंग क्षमताओं को हटा दिया। जैविक पक्ष पर, Tencent ने कहा कि Hy4 की जैव क्षमताएं इसकी उच्च जोखिम सीमा से "काफी नीचे" बनी हुई हैं क्योंकि मॉडल अभी भी मूलभूत जैविक ज्ञान को कार्रवाई योग्य प्रोटोकॉल में नहीं बदल सका है - दूसरे शब्दों में, पाठ्यपुस्तक की समझ और चरण-दर-चरण परिचालन मार्गदर्शन के बीच का अंतर।
वह फ़्रेमिंग - यह मापना कि क्या कोई मॉडल सामान्य ज्ञान को उपयोगी प्रक्रियाओं में परिवर्तित कर सकता है - एआई सिस्टम के जैव सुरक्षा मूल्यांकन में एक सामान्य मानदंड बन गया है। Tencent का दावा है कि Hy4 उस रेखा से कम है, यह मॉडल के अपने निर्माता का दावा है, और इस तरह के मूल्यांकन की बाहरी मान्यता पूरे उद्योग में सीमित है।
समय प्रतिस्पर्धी दबाव को भी दर्शाता है। SCMP के लॉन्च के पहले कवरेज के अनुसार, Tencent ने चीन की AI फर्मों के बीच तेजी से बढ़ती ओपन-वेट दौड़ में Hy4 का अनावरण किया, जिसमें DeepSeek, Z.ai और अलीबाबा ने हाल के हफ्तों में नए मॉडल पेश किए। ऐसे पारिस्थितिकी तंत्र में जहां वजन प्रकाशित करना एक प्रतिस्पर्धी आवश्यकता है, याओ के "बहुत जिम्मेदार" रिलीज प्रथाओं के आह्वान को उसी आंदोलन के अंदर मानदंड स्थापित करने के प्रयास के रूप में पढ़ा जाता है जो सुरक्षा समीक्षाओं को लागू करने के लिए सबसे कठिन बनाता है।
चेतावनियों से लेकर स्वायत्त प्रयोगशालाओं तक
जो बात याओ की उपस्थिति को विशेष रूप से दिलचस्प बनाती है वह यह है कि Tencent एक साथ एआई को प्रयोगशाला में गहराई से आगे बढ़ा रहा है। कंप्यूटर विज्ञान के छात्रों के एक कमरे को संबोधित करते हुए, उन्होंने "स्वायत्त विज्ञान प्रयोगशालाओं" की योजना की रूपरेखा तैयार की, जो जटिल प्रयोगों को शुरू से अंत तक चलाने के लिए एआई सिस्टम का उपयोग करेगी, जिसमें व्युत्क्रम प्रोटीन फोल्डिंग को उस तरह के काम के उदाहरण के रूप में उद्धृत किया गया है जिसे कंपनी लक्षित कर रही है।
याओ ने तर्क दिया कि सुरक्षित, सक्षम वैज्ञानिक एआई की तकनीकी बाधाएं समय के साथ कम हो जाएंगी। एससीएमपी के अनुसार, उन्होंने कहा, "मुझे लगता है कि सभी तकनीकी बदलावों को हल किया जा सकता है - जहां यह सिर्फ समय की बात है।" "मुझे लगता है कि बड़ी चुनौती सामाजिक और संगठनात्मक है।"
कार्यक्रम स्थल ने संदेश के इच्छित दर्शकों को रेखांकित किया: याओ ने कंप्यूटर विज्ञान के छात्रों से भरे एक कमरे में बात की - इन मॉडलों पर आबादी बढ़ने की सबसे अधिक संभावना है - 2026 के भविष्य विज्ञान पुरस्कार सप्ताह के दौरान, एससीएमपी ने बताया कि इसमें लगभग 1,000 प्रतिभागियों ने भाग लिया था।
वह विभाजन - हल करने योग्य इंजीनियरिंग समस्याएं बनाम अनसुलझी शासन समस्याएं - चुपचाप प्रशांत क्षेत्र के दोनों किनारों पर एआई अधिकारियों की मानक स्थिति बन रही है। Tencent के लिए, यह एक रक्षात्मक भी है: स्वायत्त प्रयोगशालाओं पर अपना अगला कार्य करने वाली कंपनी के पास नियामकों को यह समझाने के लिए हर प्रोत्साहन है कि जैव-जोखिम सीमा को इंजीनियर किया जा सकता है, ऑडिट किया जा सकता है और खुले में सम्मान किया जा सकता है।
अभी के लिए, निकट अवधि का प्रश्न यह है कि क्या ओपन-वेट मॉडल प्रकाशित करने वाली कंपनियां क्षमताओं को पार करने से पहले मापने योग्य जैव-जोखिम सीमा को अपनाएंगी - या उसके बाद। याओ की चेतावनी से पता चलता है कि Tencent, कम से कम, मानता है कि घड़ी चल रही है।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
