28 अक्टूबर को पैरामीटर लैब्स द्वारा प्रकाशित एक तकनीकी खुलासे के अनुसार, एक सुरक्षा अनुसंधान टीम ने पीड़ित से साझा वार्तालाप लिंक खुलवाकर किसी भी चैटजीपीटी खाते को अपने कब्जे में लेने का एक तरीका ढूंढ लिया। कंपनी ने बताया कि ओपनएआई ने 26 अक्टूबर को भेद्यता तय की और रिपोर्ट को पी1 के रूप में वर्गीकृत किया, जो इसकी उच्चतम गंभीरता रेटिंग है।

यह खोज मुख्यधारा के एआई प्लेटफॉर्म के खिलाफ एक दुर्लभ एंड-टू-एंड खाता अधिग्रहण है, और यह [नवीनतम एआई विकास] (https://aibuzzwire.news) के रूप में सामने आया है जो दिखाता रहता है कि लोग अब चैट एप्लिकेशन के अंदर कितनी संवेदनशील सामग्री रखते हैं। पैरामीटर लैब्स ने कहा कि हमले के लिए किसी ऐप इंस्टॉलेशन, किसी डेवलपर टूल और हमलावर के साझा चैटजीपीटी यूआरएल को खोलने के अलावा किसी इंटरैक्शन की आवश्यकता नहीं थी।

हमले की शृंखला कैसे काम करती है

श्रृंखला ने दो सामान्य चैटजीपीटी सुविधाओं का दुरुपयोग किया जो अलगाव में हानिरहित दिखती थीं: एक इंटरैक्टिव ग्राफ़ और HTML पूर्वावलोकन सैंडबॉक्स। ChatGPT की पूर्वावलोकन सुविधा एक अलग वेब पते पर एक प्रतिबंधित फ्रेम में जेनरेट किए गए HTML को चलाती है, जो इसे इसके चारों ओर साइन-इन चैटgpt.com पेज को छूने से रोकती है।

सफलता ग्राफ़ से मिली, जिसने MathLive नामक गणित लाइब्रेरी को लोड किया। उस लाइब्रेरी ने अपने ऑन-स्क्रीन कीबोर्ड के लिए मुख्य चैटजीपीटी पृष्ठ में एक संदेश श्रोता स्थापित किया, लेकिन पैरामीटर लैब्स ने पाया कि श्रोता ने प्रेषक को सत्यापित किए बिना किसी भी मूल से संदेश स्वीकार कर लिया। एक स्वीकृत संदेश प्रकार वर्चुअल कीबोर्ड लेआउट को हमलावर-नियंत्रित HTML से बदल सकता है, जिसे MathLive ने आंतरिक HTML के माध्यम से वास्तविक चैटजीपीटी पृष्ठ में डाला है।

इस तरह से डाली गई स्क्रिप्ट सामान्य रूप से निष्पादित नहीं होती हैं, इसलिए शोधकर्ताओं ने srcdoc विशेषता का उपयोग करके अपने पेलोड को एक iframe में लपेट दिया। क्योंकि मुख्य चैटजीपीटी पेज ने सैंडबॉक्स के बिना उस फ्रेम को बनाया था, ब्राउज़र ने उसके अंदर के कोड को मूल पेज तक पहुंच के साथ वास्तविक चैटजीपीटी.कॉम सामग्री के रूप में माना।

सामग्री सुरक्षा नीति से बचना

चैटजीपीटी की सामग्री सुरक्षा नीति ने अभी भी इनलाइन स्क्रिप्ट को अवरुद्ध कर दिया है, लेकिन पैरामीटर लैब्स को एक अंतर मिला: नीति ने यूट्यूब से स्क्रिप्ट की अनुमति दी। शोधकर्ताओं ने पता लगाया कि यूट्यूब के ओएम्बेड एंडपॉइंट ने सत्यापन से पहले अपनी त्रुटि प्रतिक्रिया में एक अमान्य JSONP कॉलबैक पैरामीटर को प्रतिबिंबित किया, जिससे उन्हें निष्पादन योग्य जावास्क्रिप्ट को प्रतिक्रिया में प्रीपेन्ड करने की सुविधा मिली, जिसे ब्राउज़र स्क्रिप्ट के रूप में खुशी से लोड करेगा।

उस समय टीम के पास पीड़ित के साइन-इन सत्र के अंदर चैटजीपीटी.कॉम की पहचान के साथ मनमानी जावास्क्रिप्ट चल रही थी। पैरामीटर लैब्स इस बारे में स्पष्ट थी कि व्यवहार में इसका क्या मतलब है: पेलोड पृष्ठ को संशोधित करने या अलर्ट प्रदर्शित करने तक ही सीमित नहीं था - यह सीधे चैटजीपीटी के प्रमाणित एपीआई को पीड़ित के रूप में कॉल कर सकता था। परीक्षण में, पेलोड पीड़ित की बातचीत सूची की गणना कर सकता है, निजी बातचीत की सामग्री को पुनः प्राप्त कर सकता है जिसे हमलावर के साथ कभी साझा नहीं किया गया था, और उस डेटा को बाहरी सर्वर पर भेज सकता है। ब्राउज़र ने प्रत्येक क्रिया को चैटजीपीटी.कॉम से आने वाली के रूप में पहचाना, जिससे पीड़ित को कोई दृश्य संकेत नहीं मिला कि कुछ भी गलत था।

एक लिंक ही काफी था

जिस चीज़ ने एक शोध बग को व्यावहारिक हथियार में बदल दिया, वह थी डिलीवरी। शोधकर्ताओं ने ग्राफ़ और एक पूर्वावलोकन योग्य HTML ब्लॉक को एक सामान्य वार्तालाप में रखा, इसे चैटजीपीटी की सामान्य साझाकरण सुविधा के साथ प्रकाशित किया, और परिणामी /शेयर/लिंक को उन्हीं मार्गों से भेजा जिनका उपयोग कोई भी करेगा: ईमेल, चैट, एक समर्थन टिकट, या एक सामाजिक पोस्ट।

सबसे स्थिर पुनरुत्पादन में, पीड़ित को लिंक खोलने के बाद एक बार ChatGPT के पूर्वावलोकन बटन पर क्लिक करना था। बाद के संस्करण में HTML ब्लॉक को पूर्वावलोकन योग्य के रूप में चिह्नित किया गया था, इसलिए चैटजीपीटी ने इसे स्वचालित रूप से खोला और पीड़ित की एकमात्र आवश्यक कार्रवाई यूआरएल पर जाना था। टीम ने उस पूरी तरह से स्वचालित पथ को एक अलग खाते में तीन बार पुन: प्रस्तुत किया, जिसमें हार्ड रिफ्रेश के बाद भी शामिल था, पेज लोड होने के लगभग 4.5 सेकंड बाद पेलोड सक्रिय हो गया।

चूँकि ग्राफ़ और पूर्वावलोकन स्वतंत्र रूप से लोड होते हैं, मैथलाइव तैयार होने से पहले पेलोड कभी-कभी सक्रिय हो सकता है। अंतिम संस्करण ने उस दौड़ की स्थिति को संभालने के लिए सीमित अवधि के लिए अपने संदेशों को पुनः प्रयास किया।

प्रकटीकरण और समाधान

पैरामीटर लैब्स ने ओपनएआई को समस्या की सूचना दी, जिसने 26 अक्टूबर को समस्या का समाधान भेजा और रिपोर्ट को पी1 रेटिंग दी। यह खुलासा एआई प्लेटफॉर्म सुरक्षा अनुसंधान के व्यापक दौर के बीच हुआ है; इस सप्ताह की शुरुआत में रजिस्टर ने पांच एआई डेवलपर टूल में बग की सूचना दी थी, जिनमें से कुछ को प्रकाशन के समय अभी भी पैच नहीं किया गया था।

पाठ एक पुस्तकालय से परे सामान्यीकरण करता है। आधुनिक चैट एप्लिकेशन एक ही प्रमाणित पृष्ठ में तृतीय-पक्ष घटकों, सैंडबॉक्स पूर्वावलोकन और अनुमेय संदेश चैनलों की रचना करते हैं, और कोई भी असत्यापित पोस्टमैसेज रिसीवर उनके बीच सेतु बन सकता है। उपयोगकर्ताओं के लिए, व्यावहारिक मार्गदर्शन क्लासिक वेब सुरक्षा से अपरिवर्तित है: साझा एआई वार्तालापों के लिंक के साथ उसी तरह व्यवहार करें जैसे आप किसी अन्य अनचाहे लिंक के साथ करते हैं, क्योंकि प्लेटफ़ॉर्म अब यह वादा नहीं कर सकता है कि किसी लिंक को खोलना हानिरहित है।

अपनी ओर से, OpenAI के P1 वर्गीकरण और तेज़ बदलाव से पता चलता है कि कंपनी Chatgpt.com पर ब्राउज़र-आधारित सत्र हमलों को प्रथम श्रेणी के खतरों के रूप में मानती है। यह घटना इस बात की भी याद दिलाती है कि इन खातों में अब कितना मूल्य केंद्रित है, उपयोगकर्ता चैट इतिहास में काम के दस्तावेज़, चिकित्सा प्रश्न और निजी परियोजनाओं को संग्रहीत करते हैं - बिल्कुल वही सामग्री जो पैरामीटर लैब्स ने साबित की है कि एक हमलावर निकाला जा सकता है।

---

एआई से आगे रहें

नवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।

अधिक AI समाचार पढ़ें →