आर्टिफिशियल इंटेलिजन्स मॉडेल्स लवकरच जीवशास्त्रात प्रभुत्व मिळवण्यासाठी पुरेसे शक्तिशाली होतील, फायदे आणि गंभीर जोखीम समान प्रमाणात सादर करतील, Tencent च्या मुख्य AI शास्त्रज्ञाने शनिवारी हाँगकाँगमध्ये दुर्मिळ सार्वजनिक देखाव्यादरम्यान चेतावणी दिली, जेव्हा AI प्रणाली पूर्णपणे जीवन विज्ञान आत्मसात करते तेव्हा काय होते याविषयी वाढत्या चर्चेला त्यांचा आवाज जोडला.
"एआय मॉडेल्सची सायबर क्षमता - आणि लवकरच मॉडेल्सची जैव क्षमता - अशा उंबरठ्यावर पोहोचेल जिथे प्रत्यक्षात नुकसान करणे शक्य आहे," याओ शुन्यु, Tencent होल्डिंग्सचे प्रमुख AI शास्त्रज्ञ आणि माजी OpenAI संशोधक यांनी हाँगकाँग अकादमी ऑफ सायन्सेस आणि द फ्यूचर सायन्स टू साउथ पोस्ट मॉर्झ सायन्सेस द्वारे सह-आयोजित विज्ञान परिसंवादात सांगितले. For more context on this story, see our ongoing breaking AI news.
एक ओपन-वेट ॲडव्होकेट जबाबदारीसाठी कॉल करतो
याओची चेतावणी त्याच्या स्रोतापेक्षा त्याच्या सामग्रीसाठी कमी लक्षणीय आहे. चीनच्या सर्वात मोठ्या तंत्रज्ञान कंपन्यांपैकी एक असलेल्या Tencent मध्ये सामील होण्यापूर्वी त्याने OpenAI मध्ये आपली प्रतिष्ठा निर्माण केली आणि Tencent ने स्वतःला ओपन-वेट AI मॉडेल्सच्या सर्वात आक्रमक प्रकाशकांमध्ये स्थान मिळवून दिले आहे — ज्या सिस्टमचे मूलभूत पॅरामीटर्स सार्वजनिकपणे रिलीझ केले जातात आणि ते डाउनलोड, सुधारित आणि कोणीही चालवू शकतात.
यामुळे त्याच्या सोबतचा संदेश सूचित करतो: "सर्व चिनी किंवा कोणत्याही ओपन मॉडेल कंपनीने त्या सुरक्षा आणि सुरक्षिततेच्या चिंतेबद्दल अतिशय जबाबदार आणि अत्यंत गंभीर असणे आवश्यक आहे," याओ म्हणाले, एससीएमपीनुसार.
SCMP च्या अहवालानुसार, फ्रंटियर AI सिस्टीम औषध आणि जीवशास्त्रावर वाढत्या प्रमाणात लागू होत असल्याने हे मूल्यांकन आले आहे, जिथे ते नवीन औषधे आणि इतर उपचारांच्या शोधाला गती देऊ शकतात - एक बदल आधीच चीनच्या फार्मास्युटिकल उद्योगाला आकार देत आहे. सुरक्षा तज्ञांनी, तथापि, बर्याच काळापासून चेतावणी दिली आहे की समान क्षमता दुर्भावनापूर्ण अभिनेत्यांना बायोवेपन्स तयार करण्यास किंवा पुढील साथीच्या रोगाचा प्रसार करण्यास मदत करू शकतात - जेव्हा सक्षम मॉडेल्स ओपन-वेट सॉफ्टवेअर म्हणून कोणीही रेलिंगशिवाय चालवू शकतात तेव्हा पोलिसांसाठी हा धोका अधिक कठीण होतो.
AI तज्ञांमध्ये जीवशास्त्र हे कोडिंग नंतरचे पुढचे प्रमुख सीमा म्हणून पाहिले जाते, एक डोमेन जेथे जलद AI प्रगतीने आधीच जागतिक सायबरसुरक्षा वाढवली आहे. सायबर क्षमतांप्रमाणे, जैविक क्षमतांचा दुहेरी वापर होतो: तेच मॉडेल जे आश्वासक औषध उमेदवारांची रचना करते, तत्त्वतः, आक्रमणकर्त्याला मदत करू शकते. कुठल्या बाजूने जास्त फायदा होतो यावर अस्सल वाद आहे.
Tencent चे स्वतःचे सेफ्टी प्लेबुक
याओच्या टिप्पण्यांमध्ये अतिरिक्त वजन आहे कारण ते त्याच्या स्वतःच्या कंपनीने नवीन फ्लॅगशिप मॉडेल पाठवल्यानंतर काही दिवसांनी आले होते. Tencent ने बुधवारी Hy4 रिलीझ केले, जे बेंचमार्किंग फर्म आर्टिफिशियल ॲनालिसिसनुसार चीनमध्ये उत्पादित केलेले दुसरे-सर्वोत्तम कार्यप्रदर्शन मॉडेल म्हणून स्थान मिळवले, SCMP ने अहवाल दिला.
त्याच्या प्रकाशन घोषणेमध्ये, Tencent ने Hy4 मध्ये तयार केलेल्या सुरक्षा उपायांचे वर्णन केले आहे. प्रशिक्षणाच्या टप्प्यात संबंधित डेटा फिल्टर करून सायबर संरक्षण क्षमता राखून ठेवत मॉडेलची सायबर हॅकिंग क्षमता काढून टाकल्याचे कंपनीने म्हटले आहे. जैविक बाजूवर, Tencent ने सांगितले की Hy4 ची जैव क्षमता त्याच्या उच्च-जोखीम थ्रेशोल्डच्या "चांगल्या खाली" राहिली कारण मॉडेल अजूनही मूलभूत जैविक ज्ञानाला कृती करण्यायोग्य प्रोटोकॉलमध्ये बदलू शकले नाही - दुसऱ्या शब्दांत, पाठ्यपुस्तक समजून घेणे आणि चरण-दर-चरण ऑपरेशनल मार्गदर्शन यांच्यातील अंतर.
ते फ्रेमिंग — एखादे मॉडेल सामान्य ज्ञानाला वापरण्यायोग्य प्रक्रियेमध्ये रूपांतरित करू शकते की नाही हे मोजणे — AI प्रणालींच्या जैवसुरक्षा मूल्यमापनात एक सामान्य मापदंड बनले आहे. Tencent चा दावा की Hy4 त्या रेषेपेक्षा कमी आहे हे मॉडेलच्या स्वतःच्या निर्मात्याचे प्रतिपादन आहे आणि अशा मूल्यमापनांचे बाह्य प्रमाणीकरण संपूर्ण उद्योगात मर्यादित आहे.
वेळ स्पर्धात्मक दबाव देखील दर्शवते. Tencent ने Hy4 चे अनावरण चीनच्या AI कंपन्यांमध्ये वाढत्या गरमागरम ओपन-वेट शर्यतीत केले, ज्यात DeepSeek, Z.ai आणि Alibaba सर्व नवीन मॉडेल्स अलीकडच्या आठवड्यात पाठवत आहेत, SCMP च्या लॉन्चच्या आधीच्या कव्हरेजनुसार. एका परिसंस्थेत जेथे वजन प्रकाशित करणे ही स्पर्धात्मक गरज आहे, "अत्यंत जबाबदार" रिलीझ पद्धतींसाठी याओचे आवाहन अतिशय चळवळीमध्ये मानदंड सेट करण्याचा प्रयत्न म्हणून वाचले जाते ज्यामुळे सुरक्षा पुनरावलोकनांची अंमलबजावणी करणे कठीण होते.
चेतावणी पासून स्वायत्त लॅब पर्यंत
याओचे स्वरूप विशेषतः मनोरंजक बनवते ते म्हणजे Tencent एकाच वेळी AI ला प्रयोगशाळेत खोलवर ढकलत आहे. कॉम्प्युटर सायन्सच्या विद्यार्थ्यांच्या एका खोलीला संबोधित करताना, त्यांनी "स्वायत्त विज्ञान प्रयोगशाळा" च्या योजनांची रूपरेषा सांगितली जी एआय सिस्टीमचा वापर करून क्लिष्ट प्रयोगांना शेवटपर्यंत चालवतील, इन्व्हर्स प्रोटीन फोल्डिंग हे कंपनी लक्ष्य करत असलेल्या कामाचे उदाहरण म्हणून उद्धृत करते.
याओने युक्तिवाद केला की सुरक्षित, सक्षम वैज्ञानिक एआयमधील तांत्रिक अडथळे वेळेत कमी होतील. "मला वाटते की सर्व तांत्रिक बदलांचे निराकरण केले जाऊ शकते - जिथे ही फक्त वेळेची बाब आहे," तो म्हणाला, SCMP नुसार. "मला वाटते की सर्वात मोठे आव्हान सामाजिक आणि संघटनात्मक आहे."
स्थळाने संदेशाच्या अभिप्रेत प्रेक्षकांना अधोरेखित केले: याओने संगणक विज्ञानाच्या विद्यार्थ्यांनी भरलेल्या खोलीशी बोलले - 2026 फ्यूचर सायन्स प्राइज वीक दरम्यान - या मॉडेल्सवर लोकसंख्या तयार होण्याची शक्यता आहे, ज्याचा SCMP ने अहवाल दिला आहे की सुमारे 1,000 सहभागी होते.
तो विभाग — सोडवता येण्याजोगा अभियांत्रिकी समस्या विरुद्ध निराकरण न झालेल्या प्रशासन समस्या — शांतपणे पॅसिफिकच्या दोन्ही बाजूंच्या AI एक्झिक्युटिव्हचे मानक स्थान बनत आहे. Tencent साठी, हे देखील एक बचावात्मक आहे: स्वायत्त प्रयोगशाळांवर त्याच्या पुढील कृतीवर सट्टेबाजी करणाऱ्या कंपनीला नियामकांना हे पटवून देण्याचे सर्व प्रोत्साहन आहे की बायो-रिस्क थ्रेशोल्डचे अभियंता, ऑडिट केले जाऊ शकते आणि खुल्या ठिकाणी त्यांचा आदर केला जाऊ शकतो.
आत्तासाठी, नजीकचा प्रश्न हा आहे की ओपन-वेट मॉडेल्स प्रकाशित करणाऱ्या कंपन्या क्षमता ओलांडण्यापूर्वी किंवा नंतर मोजता येण्याजोग्या बायो-रिस्क थ्रेशोल्डचा अवलंब करतील. याओच्या चेतावणीने टेनसेंटला सूचित केले की, किमान, घड्याळ चालू आहे.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
