एआय कंपनीतील अनेक संशोधकांनी कृत्रिम बुद्धिमत्तेचे माजी सहकाऱ्याचे अपोकॅलिप्टिक मूल्यांकन प्रतिध्वनी केल्याने या आठवड्यात अँथ्रोपिकच्या आतून सार्वजनिक इशाऱ्यांची लाट तीव्र झाली - एलोन मस्कचा तिरस्कारपूर्ण प्रतिसाद, ज्याने सुचवले की हा आक्रोश एक समन्वित "सायओप" आहे.
द गार्डियनच्या म्हणण्यानुसार, एन्थ्रोपिक संशोधक जेकब कॉक्सन यांनी एका व्हायरल पोस्टमध्ये राजीनामा दिल्याच्या एका दिवसानंतर ही वाढ झाली, त्यात लिहिले की अँथ्रोपिक किंवा ओपनएआय - त्यांचे माजी नियोक्ता - एआय मॉडेल्स जबाबदारीने तयार करत नाहीत आणि "आमच्या जीवनाशी जुगार खेळत आहेत." मिटण्याऐवजी, सध्याच्या मानववंशीय कर्मचाऱ्यांनी समर्थनार्थ त्यांचे स्वतःचे भयानक मूल्यांकन पोस्ट केल्याने वाद वाढला. For more context on this story, see our ongoing AI news.
चेतावणी जमा झाली
ॲन्थ्रोपिक येथे आर्टिफिशियल जनरल इंटेलिजेंस सेफ्टीवर काम करणाऱ्या आणि यापूर्वी गुगलच्या डीपमाइंडमध्ये काम करणाऱ्या अण्णा वांग यांनी गुरुवारी सांगितले की कंपनीतील बरेच लोक वाढत्या सक्षम मॉडेल्समुळे उद्भवलेल्या जोखमीसाठी योजना आखण्यासाठी विकास कमी करू इच्छित आहेत.
"पुन्हा पुनरावृत्ती होणाऱ्या एआयच्या जोखमींचे निराकरण करण्यासाठी अद्याप एक व्यवहार्य वैज्ञानिक योजना नाही," वांग यांनी X वर लिहिले.
आणखी एक मानववंशीय कर्मचारी, ड्रेक थॉमस, म्हणाले की त्यांनी तंत्रज्ञान तयार करण्यापासून दूर जाण्याच्या कॉक्सनच्या निर्णयाचा आदर केला. थॉमसने लिहिले, "गोष्टी खूप वेगाने पुढे जात आहेत, एएसआय [कृत्रिम सुपरइंटेलिजेन्स] साठी आम्हाला जेवढे आश्वासन हवे आहे ते आमच्याकडे कुठेही नाही.
सॅम्युअल मार्क्स, जे कंपनीत सुरक्षा संशोधनावर काम करतात, असा युक्तिवाद केला की चिंता उद्योगात मोठ्या प्रमाणात सामायिक केली जाते - आणि ज्येष्ठता अलार्मशी संबंधित आहे. "एआय विकसकांचा विश्वास आहे की त्यांच्या तंत्रज्ञानामुळे मानवी विलुप्त होऊ शकते (किंवा त्याचप्रमाणे वाईट परिणाम)," मार्क्सने लिहिले. "पुढील काही वर्षांत हे घडू शकते. सर्वसाधारणपणे, कर्मचारी जितके वरिष्ठ तितके ते अधिक चिंतित असतात."
इव्हान हबिंगर, जो स्वतःला अँथ्रोपिकच्या संरेखन विभागात आघाडीवर असल्याचे वर्णन करतो, तो सर्वात पुढे गेला. "एआय सर्व मानवांना मारू शकते यावर आमचा मनापासून विश्वास आहे!" हबिंगरने लिहिले, पुढील दशकात तो वैयक्तिकरित्या संभाव्यता 10 टक्क्यांपेक्षा जास्त ठेवतो.
इनसाइडर नोट्स सीबीएस न्यूजने दिलेल्या अहवालानंतर एका मानववंशीय संशोधकाने AI ला 10 टक्क्यांहून अधिक संधी दिल्या आहेत ज्यामुळे मानवी विलोपन होते आणि जपान टाइम्सने दिलेले कव्हरेज या इशाऱ्यांनी युनायटेड स्टेट्समध्ये नवीन AI नियमांसाठी नूतनीकरण केले आहे.
कस्तुरी: 'सेटअप सारखे दिसते'
एलोन मस्कने तीव्र विरोधक दृष्टिकोन घेतला. "एक सेटअप सारखे दिसते," जगातील सर्वात श्रीमंत व्यक्ती X वर लिहिले, त्याच्या स्वत: च्या सामाजिक व्यासपीठ.
कॉक्सनने सेल्फीसह उत्तर दिले: "मी खरा आहे आणि हे माझे खरे विश्वास आहेत. तुम्ही तुमच्या xAI संशोधकांना माझ्याबद्दल विचारू शकता जर तुम्ही त्यांना काढून टाकले नसते."
मस्क आणि इतर सहानुभूतीपूर्ण आवाजांनी पार्कर थायर, पुराणमतवादी थिंक टँक कॅपिटल रिसर्चचे संशोधक यांनी मांडलेल्या सिद्धांताला अधिक वाढवले, ज्यांनी सुचवले - थोड्या पुराव्यांसह, द गार्डियन नोट्स - की कॉक्सनची पोस्ट ही "डेमोक्रॅट्सना डेमोक्रॅट्सना समर्थन मिळण्यासाठी अत्यंत अत्याधुनिक आणि चांगल्या अर्थसहाय्यित PR ऑपरेशनची सुरुवात होती."
अब्जाधीश हेज फंड मॅनेजर बिल ऍकमन यांनी थायरच्या पोस्टला एका शब्दाच्या उत्तरासह उद्धृत केले: "रुचक."
कस्तुरी यांनी नंतर विस्ताराने सांगितले. "मला वाटते की या psy op साठी ग्राउंडवर्क (चांगल्या मुदतीच्या अभावासाठी) बर्याच काळापासून तयार केले गेले आहे," त्याने पोस्ट केले. "हा फक्त सामना होता ज्याने आग लावली."
मानववंशीय त्याच्या दृष्टिकोनाचे रक्षण करते
स्वतःच्या कर्मचाऱ्यांचे इशारे आणि बाहेरून होणारे हल्ले यांच्यात अडकलेल्या, अँथ्रोपिकने मोजमाप सार्वजनिक प्रतिसाद दिला.
कंपनीच्या प्रवक्त्याने द गार्डियनला सांगितले की, "एआय प्रचंड फायदे आणि अभूतपूर्व जोखीम दोन्ही आणेल याची आम्ही नेहमीच पारदर्शकता बाळगली आहे." "या जोखमींचे निराकरण करण्यासाठी, आम्ही उद्योगातील काही मजबूत सुरक्षा उपायांसह मॉडेल तयार करणे सुरू ठेवतो."
कंपनीने दस्तऐवजीकरण आणि गैरवापर व्यत्यय आणण्याच्या त्याच्या ट्रॅक रेकॉर्डकडे लक्ष वेधले. ज्या दिवशी इशारे व्हायरल झाले त्याच दिवशी, अँथ्रोपिकने त्याचा सप्टेंबरचा धोका बुद्धिमत्ता अहवाल प्रसिद्ध केला, ज्यामध्ये कंपनीने सायबर हल्ल्यांच्या आणि प्रभाव ऑपरेशन्सवर पसरलेल्या विस्कळीत मोहिमांसह - त्याच्या AI मॉडेल्सचा वापर करून जैविक शस्त्रे तयार करण्याचा प्रयत्न करणारे ऑपरेशन कसे उद्ध्वस्त केले याबद्दल तपशीलवार माहिती दिली आहे. अल जझीरा आणि बीबीसी हे शुक्रवारी बायोवेपन्सच्या निष्कर्षांवर प्रकाश टाकणारे आउटलेट होते.
संशयवादी एक वेगळा धोका पहा
प्रत्येकजण विलोपन फ्रेमिंग स्वीकारत नाही. गॅरी मार्कस, शास्त्रज्ञ आणि दीर्घकाळ AI समीक्षक, असा युक्तिवाद केला की तंत्रज्ञान आधीच हानी पोहोचवत आहे जे सुपरइंटिलिजन्स परिस्थितीकडे दुर्लक्ष करून कारवाईची हमी देते - सध्याच्या नुकसानावर AI वर बहिष्कार टाकण्याची मागणी केली आहे.
विलुप्त होण्यापेक्षा, मार्कसने द गार्डियनला सांगितले की त्याला "एआय-व्युत्पन्न रोगजनकांच्या जोखमींबद्दल, एआय-व्युत्पन्न केलेल्या विकृत माहितीमुळे सुरू झालेल्या किंवा वाढलेल्या युद्धांमुळे, गंभीर पायाभूत सुविधांचा नाश करणाऱ्या हॅकपासून आणि अशाच इतर गोष्टींबद्दल काळजी वाटते. मी पाहिलेले काहीही असे कोणतेही संकेत देत नाही की ते नियंत्रणात आहे."
त्याची स्थिती AI सुरक्षितता वादातच एक विभाजन अधोरेखित करते: दीर्घकालीन, भविष्यातील प्रणालींपासून सभ्यतेच्या प्रमाणात जोखीम आणि आजच्या मॉडेल्सच्या ठोस हानीवर लक्ष केंद्रित करणाऱ्यांमध्ये.
अंतर्गत राहण्यास नकार देणारा वाद
एका संशोधकाच्या राजीनामा पत्राने जे सुरू झाले ते एआय उद्योग आपली सर्वात शक्तिशाली प्रणाली कशी तयार करीत आहे यावर एक सार्वजनिक सार्वमत बनले आहे. एन्थ्रोपिकच्या आत, कर्मचारी उघडपणे चर्चा करत आहेत की सुरक्षित विकासासाठी त्यांची स्वतःची टाइमलाइन घसरली आहे. त्याच्या बाहेर, सरकारांनी हस्तक्षेप करावा की नाही आणि कसा करावा यावरील वाढत्या ध्रुवीकृत राजकीय लढ्यात इशारे जोडले जात आहेत.
गार्डियनच्या अहवालात असे सुचवले आहे की अनेक मानववंशीय कर्मचारी या चिंता खाजगीरित्या सामायिक करतात परंतु सार्वजनिकरित्या बोलले नाहीत. जर त्यांच्यापैकी बरेच जण कॉक्सन, वांग, थॉमस, मार्क्स आणि हबिंगरचे अनुसरण करतात, तर अग्रगण्य AI लॅब्सवर मंद होण्याचा दबाव — आणि नियामकांवर कारवाई करण्यासाठी — फक्त वाढेल.
_हा लेख सीबीएस न्यूज, द जपान टाईम्स, अल जझीरा आणि बीबीसीच्या अतिरिक्त संदर्भासह द गार्डियनच्या अहवालावर आधारित आहे._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
