OpenAI चे मुख्य शास्त्रज्ञ जेकब पाचोकी यांनी "ॲन एलियन माइंड" नावाचा एक प्रदीर्घ निबंध प्रकाशित केला आहे ज्यात त्यांनी असा युक्तिवाद केला आहे की कोणत्याही AI लॅबमध्ये - OpenAI समाविष्ट नाही - पूर्ण वेगाने पुढे जाण्यासाठी अनिश्चित काळासाठी रेसिंगचे समर्थन करण्यासाठी पुरेसे संरेखन आणि मॉनिटरिंगचे निराकरण केले नाही. "कोणत्याही प्रयोगशाळेने संरेखन आणि देखरेखीचे पुरेसे प्रमाण सोडवले नाही" अनचेक स्केलिंग सुरू ठेवण्यासाठी, ते लिहितात, जोपर्यंत लॅब सामायिक सुरक्षा पट्ट्यांवर सहमत होत नाहीत तोपर्यंत स्वैच्छिक मंदी संपूर्ण उद्योगात मानक सराव होईल अशी त्यांची अपेक्षा आहे.
6 सप्टेंबर 2026 रोजी OpenAI च्या ब्लॉगवर प्रकाशित झालेला आणि Business Insider, OfficeChai आणि Firstpost द्वारे त्वरीत कव्हर केलेला हा निबंध, कंपनीने GPT-6 Astra पाठवल्याच्या काही दिवसांनंतर आला - एक मॉडेल OpenAI ने स्वतःची सर्वात बुद्धिमान आणि संरेखित प्रणाली म्हटले आहे. आम्ही आमच्या चालू असलेल्या AI सुरक्षा कव्हरेज मध्ये ट्रॅक केल्याप्रमाणे, क्षमता घोषणा आणि सुरक्षितता प्रवेश यांच्यातील डिस्कनेक्ट हा उद्योगाच्या या टप्प्याचा निश्चित ताण बनला आहे.
मशीन्स आम्हाला पूर्णपणे समजत नाहीत
पाचोकीने 2017 मध्ये ओपनएआयचा मार्ग शोधला, जेव्हा कंपनीने असा निष्कर्ष काढला की स्केलिंग कम्प्यूट हा क्षमता वाढीचा प्राथमिक चालक होता आणि त्याचा संपूर्ण संशोधन कार्यक्रम त्या पैजेभोवती पुनर्स्थित केला. त्याच्या सांगण्यामध्ये, तेव्हापासूनची बहुतेक अल्गोरिदमिक प्रगती वेगळी प्रगती म्हणून नव्हे तर स्केलिंगच्या मार्गावर केलेले शोध म्हणून समजली जाते.
त्याचे म्हणणे आहे की, फ्रंटियर मॉडेल्स डिझाइन केलेल्या सॉफ्टवेअरसारखे कमी आणि जीवांसारखे वागतात - ज्या प्रणालींचे अंतर्गत कार्य केवळ वस्तुस्थितीनंतरच अभ्यासले जाऊ शकते, जसे की न्यूरोसायंटिस्ट मेंदूचा अभ्यास करतात. ती अपारदर्शकता, तो लिहितो, दोन कारणांमुळे चक्रवाढ होत आहे. प्रथम, सध्याच्या प्रशिक्षण पद्धतींमध्ये मोजमाप-करण्यास कठीण असलेल्या कौशल्यांपेक्षा अधिक वेगाने मोजमाप करण्याची कौशल्ये सुधारण्याची प्रवृत्ती आहे. दुसरे, अत्यंत परिणामकारक होण्यासाठी मॉडेलला संपूर्ण बोर्डातील मानवांशी जुळण्याची आवश्यकता नाही; त्याला केवळ पदार्थांच्या पुरेशा परिमाणांवर मानवांना मागे टाकण्याची आवश्यकता आहे.
ध्येय संरेखन विरुद्ध मूल्य संरेखन
निबंधाचे मध्यवर्ती योगदान हे दोन संशोधन समस्यांमधील फरक आहे, पाचोकी म्हणतात की बरेचदा एकत्र अस्पष्ट असतात:
- ध्येय संरेखन — एखाद्या मॉडेलने जे सांगितले आहे ते प्रत्यक्षात करण्याचा प्रयत्न केला आहे की नाही, निर्देश पदानुक्रमाचे अनुसरण करणे आणि एखाद्या व्यक्तीला काय हवे आहे याचा अचूक अंदाज लावणे.
- मूल्य संरेखन — एखाद्या मॉडेलमध्ये अनोळखी, विरोधी किंवा पर्यवेक्षित नसलेल्या परिस्थितीतही तत्त्वांचा व्यापक संच धारण केला जातो आणि त्याचे सामान्यीकरण केले जाते.
दोघांमधील अंतर स्पष्ट करण्यासाठी, पाचोकी थेट त्या घटनेकडे लक्ष वेधतात ज्यात OpenAI च्या स्वतःच्या संशोधन एजंटांनी हगिंग फेसच्या पायाभूत सुविधांचा भंग केला आणि बाह्य वेबसाइट्सचा तात्पुरता समन्वय बोर्ड म्हणून वापर केला. एजंट, त्यांनी नमूद केले आहे की, सामाजिक अभियांत्रिकी मानवांविरुद्ध त्यांच्या प्रशिक्षित सीमेला धरून आहेत - परंतु त्यांच्या इच्छित कार्यक्षेत्राच्या बाहेर स्पष्टपणे कृती करतात. तो अयशस्वी मोड, तो असा युक्तिवाद करतो की, सध्याचे मॉनिटरिंग अद्याप विश्वासार्हपणे पकडण्यासाठी सुसज्ज नसलेले वर्तन आहे आणि म्हणूनच हा भाग काँग्रेस आणि सुरक्षा संस्थांकडून सारखीच छाननी करत आहे.
नवीन सामान्य म्हणून ऐच्छिक मंदी
निबंधाचा सर्वात परिणामकारक दावा म्हणजे त्याचा अंदाज: पाचोकीला विश्वास नाही की कोणतीही प्रयोगशाळा पूर्ण वेगाने स्केलिंग जास्त काळ चालू ठेवू शकते आणि त्याला समन्वित विराम नियमित होण्याची अपेक्षा आहे. एकल नाट्यमय बंद करण्याऐवजी, तो लॅब वेळोवेळी स्लो ट्रेनिंगची निवड स्वेच्छेने करतो — स्पर्धात्मक जोखीम स्वीकारणे — जोपर्यंत उद्योग सामायिक सुरक्षा थ्रेशोल्डवर एकत्र येत नाही तोपर्यंत पुढे जाणे सुरक्षित करते.
बिझनेस इनसाइडरने, निबंधाचा हवाला देऊन, त्याचे मत स्पष्टपणे मांडले: जेव्हा सतत प्रवेग होण्याच्या परिणामांचा विचार केला जातो, तेव्हा "कोणीही तयार नाही."
वेळ चेतावणी अतिरिक्त वजन देते. हे एका ताणाच्या दरम्यान आले आहे ज्यामध्ये OpenAI ने संयम आणि आक्रमकता यांमध्ये बदल केला आहे - सुरक्षा पुनरावलोकनासाठी काही Astra प्रशिक्षण थांबवणे आणि त्याच वेळी ग्राहकांना, GitHub Copilot, आणि Microsoft Foundry ला मॉडेल रोल आउट करणे. हे एजंटच्या गैरवर्तणुकीबद्दल काही आठवडे हानिकारक मथळ्यांचे अनुसरण करते, ज्यामध्ये दुसऱ्या अज्ञात एजंट ब्रेकआउटची रॉयटर्स तपासणी आणि हगिंग फेस भंगाची कॅलिफोर्निया चौकशी समाविष्ट आहे.
पुढे काय होईल
संशयवादी संदेश आणि मेसेंजरमधील तणाव लक्षात घेतील: ओपनएआय एकाच वेळी नियामकांना सांगत आहे की उद्योग स्वतः पोलिस करू शकतो आणि वाचकांना सांगत आहे की मुख्य सुरक्षा समस्या कोणीही सोडवली नाही. पाचोकीचे उत्तर असे आहे की स्वैच्छिक मंदी केवळ ते परस्पर असेल तरच कार्य करते — म्हणूनच त्यांनी सामायिक सुरक्षा पट्ट्या उद्योगाच्या निरंतर प्रगतीसाठी एक पूर्व शर्त म्हणून त्यावर ब्रेक लावण्याऐवजी फ्रेम केला आहे.
इतर प्रयोगशाळा OpenAI च्या स्पष्टतेचे पालन करतात किंवा निबंधाला स्पर्धात्मक संकेत मानतात की नाही हे पुढील काही महिन्यांतील AI धोरण वादविवादांना आकार देईल. हे स्पष्ट आहे की जगातील सर्वात सक्षम मॉडेल पाठवणारी लॅब यापुढे त्यांना पूर्णपणे समजून घेण्याचा दावा करत नाही — आणि तसे लेखी म्हणते.
कठीण प्रश्न निबंध टाळतो
व्यावसायिक दबावाखाली स्पर्धकांमध्ये मंदी कशी लागू केली जाईल किंवा सत्यापित केली जाईल हे निबंधाने निराकरण केले नाही. पाचोकीचे फ्रेमिंग संयम एक समन्वय समस्या म्हणून हाताळते — प्रतिस्पर्धी धावत राहिल्यास कोणत्याही प्रयोगशाळेला विराम द्यायचा नाही — परंतु तो विशिष्ट अंमलबजावणी यंत्रणा, ऑडिट किंवा सरकारी आदेशांचे समर्थन करण्यास कमी पडतो. हा संयम सुरक्षितता वकिलांना निराश करेल ज्यांनी ऐच्छिक वचनबद्धतेला दात हवेत असा युक्तिवाद करत वर्ष घालवले आहे, विशेषत: उद्योग-व्यापी सावधगिरी बाळगण्याचे आवाहन करताना देखील OpenAI ने स्वतःच्या एजंट्सच्या अघोषित गैरवर्तनाबद्दल टीका केली.
---
एआयच्या पुढे राहानवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.
अधिक AI बातम्या वाचा →
