पॅरामीटर लॅब्सने 28 ऑक्टोबर रोजी प्रकाशित केलेल्या तांत्रिक प्रकटीकरणानुसार, एका सुरक्षा संशोधन संघाने कोणतेही चॅटजीपीटी खाते ताब्यात घेण्याचा मार्ग शोधून काढला, पीडितेला सामायिक संभाषण लिंक उघडण्यासाठी. कंपनीने अहवाल दिला की OpenAI ने 26 ऑक्टोबर रोजी असुरक्षा निश्चित केली आणि अहवालाला P1 म्हणून वर्गीकृत केले, त्याचे सर्वोच्च तीव्रता रेटिंग.

शोध हे मुख्य प्रवाहातील AI प्लॅटफॉर्म विरुद्ध एक दुर्मिळ एंड-टू-एंड अकाउंट टेकओव्हर आहे आणि ते नवीनतम AI घडामोडी म्हणून आले आहे जे लोक आता चॅट ऍप्लिकेशन्समध्ये किती संवेदनशील सामग्री ठेवतात हे दर्शविते. पॅरामीटर लॅब्सने सांगितले की हल्ल्यासाठी कोणतेही ॲप इन्स्टॉलेशन, कोणतेही डेव्हलपर टूल्स आणि आक्रमणकर्त्याची शेअर केलेली ChatGPT URL उघडण्यापलीकडे परस्परसंवादाची आवश्यकता नाही.

हल्ल्याची साखळी कशी कार्य करते

साखळीने दोन सामान्य ChatGPT वैशिष्ट्यांचा गैरवापर केला जो एकाकीपणात निरुपद्रवी दिसत होता: एक परस्पर आलेख आणि HTML पूर्वावलोकन सँडबॉक्स. ChatGPT चे पूर्वावलोकन वैशिष्ट्य एका वेगळ्या वेब पत्त्यावर व्युत्पन्न केलेल्या HTML ला प्रतिबंधित फ्रेममध्ये चालवते, ज्यामुळे ते साइन-इन केलेल्या chatgpt.com पृष्ठाला स्पर्श करण्यापासून प्रतिबंधित करते.

ग्राफमधून यश आले, ज्याने मॅथलाइव्ह नावाची गणित लायब्ररी लोड केली. त्या लायब्ररीने त्याच्या ऑन-स्क्रीन कीबोर्डसाठी मुख्य ChatGPT पृष्ठावर एक संदेश श्रोता स्थापित केला, परंतु पॅरामीटर लॅबला प्रेषकाची पडताळणी न करता श्रोत्याने कोणत्याही मूळचे संदेश स्वीकारलेले आढळले. एक स्वीकारलेला संदेश प्रकार व्हर्च्युअल कीबोर्ड लेआउटला हल्लेखोर-नियंत्रित HTML सह बदलू शकतो, जो MathLive ने नंतर innerHTML द्वारे वास्तविक ChatGPT पृष्ठामध्ये समाविष्ट केला.

अशा प्रकारे घातलेल्या स्क्रिप्ट्स सामान्यपणे कार्यान्वित होत नाहीत, म्हणून संशोधकांनी srcdoc विशेषता वापरून त्यांचे पेलोड आयफ्रेममध्ये गुंडाळले. मुख्य ChatGPT पृष्ठाने ती फ्रेम सँडबॉक्सशिवाय तयार केल्यामुळे, ब्राउझरने मूळ पृष्ठावरील प्रवेशासह वास्तविक chatgpt.com सामग्री म्हणून त्यातील कोड हाताळला.

सामग्री सुरक्षा धोरणातून बाहेर पडणे

ChatGPT च्या सामग्री सुरक्षा धोरणाने अद्याप इनलाइन स्क्रिप्ट अवरोधित केल्या आहेत, परंतु पॅरामीटर लॅबला एक अंतर आढळले: धोरणाने YouTube वरील स्क्रिप्टला परवानगी दिली. संशोधकांनी शोधून काढले की YouTube च्या oEmbed एंडपॉईंटने प्रमाणीकरणापूर्वी त्याच्या त्रुटी प्रतिसादामध्ये एक अवैध JSONP कॉलबॅक पॅरामीटर प्रतिबिंबित केला आहे, ज्यामुळे ब्राउझर आनंदाने स्क्रिप्ट म्हणून लोड करेल अशा प्रतिसादासाठी एक्झिक्यूटेबल JavaScript प्रीपेंड करू देते.

त्या वेळी टीमकडे chatgpt.com च्या ओळखीसह पीडितेच्या साइन-इन सत्रामध्ये अनियंत्रित JavaScript चालू होते. पॅरामीटर लॅब्स प्रॅक्टिसमध्ये याचा अर्थ काय आहे याबद्दल स्पष्ट होते: पेलोड पृष्ठ सुधारित करणे किंवा इशारा प्रदर्शित करण्यापुरते मर्यादित नव्हते — ते थेट ChatGPT च्या प्रमाणीकृत API ला बळी म्हणून कॉल करू शकते. चाचणीमध्ये, पेलोड पीडिताच्या संभाषण सूचीची गणना करू शकतो, आक्रमणकर्त्यासह कधीही सामायिक न केलेल्या खाजगी संभाषणांची सामग्री पुनर्प्राप्त करू शकतो आणि तो डेटा बाह्य सर्व्हरवर पाठवू शकतो. ब्राउझरने प्रत्येक कृती chatgpt.com वरूनच येत असल्याचे ओळखले, पीडितेला काहीही चुकीचे असल्याचे दृश्यमान सिग्नल देत नाही.

एक लिंक पुरेशी होती

रिसर्च बगला प्रॅक्टिकल अस्त्र बनवले ते म्हणजे डिलिव्हरी. संशोधकांनी आलेख आणि पूर्वावलोकन करण्यायोग्य HTML ब्लॉक एका सामान्य संभाषणात ठेवले, ते ChatGPT च्या सामान्य सामायिकरण वैशिष्ट्यासह प्रकाशित केले आणि परिणामी /share/ लिंक कोणीही वापरेल त्याच मार्गाने पाठवले: ईमेल, चॅट, समर्थन तिकीट किंवा सामाजिक पोस्ट.

सर्वात स्थिर पुनरुत्पादनात, पीडितेला लिंक उघडल्यानंतर एकदा ChatGPT च्या पूर्वावलोकन बटणावर क्लिक करावे लागले. नंतरच्या आवृत्तीने HTML ब्लॉकला पूर्वावलोकन करण्यायोग्य म्हणून चिन्हांकित केले, त्यामुळे ChatGPT ने ते आपोआप उघडले आणि पीडितेची फक्त आवश्यक क्रिया URL ला भेट देणे ही होती. पृष्ठ लोड झाल्यानंतर अंदाजे 4.5 सेकंदांनंतर पेलोड फायरिंगसह हार्ड रिफ्रेशसह, टीमने पूर्णपणे स्वयंचलित मार्ग वेगळ्या खात्यात तीन वेळा पुनरुत्पादित केला.

आलेख आणि पूर्वावलोकन स्वतंत्रपणे लोड केल्यामुळे, मॅथलाइव्ह तयार होण्यापूर्वी पेलोड अधूनमधून फायर होऊ शकतो. अंतिम आवृत्तीने त्या शर्यतीची स्थिती हाताळण्यासाठी मर्यादित कालावधीसाठी त्याचे संदेश पुन्हा प्रयत्न केले.

प्रकटीकरण आणि निराकरण

पॅरामीटर लॅब्सने ही समस्या OpenAI ला कळवली, ज्याने 26 ऑक्टोबर रोजी एक निराकरण केले आणि अहवाल P1 रेट केला. एआय प्लॅटफॉर्म सुरक्षा संशोधनाच्या व्यापक धावा दरम्यान प्रकटीकरण आले आहे; या आठवड्याच्या सुरुवातीला द रजिस्टरने पाच एआय डेव्हलपर टूल्समध्ये बग नोंदवले आहेत, काही अद्याप प्रकाशनात अनपॅच नाहीत.

धडा एका लायब्ररीच्या पलीकडे सामान्यीकरण करतो. आधुनिक चॅट ऍप्लिकेशन्स तृतीय-पक्ष घटक, सँडबॉक्स केलेले पूर्वावलोकन आणि परवानगी देणारे संदेश चॅनेल एकाच प्रमाणीकृत पृष्ठामध्ये तयार करतात आणि कोणताही असत्यापित पोस्टमेसेज प्राप्तकर्ता त्यांच्या दरम्यान पूल बनू शकतो. वापरकर्त्यांसाठी, क्लासिक वेब सुरक्षेपासून व्यावहारिक मार्गदर्शन अपरिवर्तित आहे: सामायिक केलेल्या AI संभाषणांच्या दुव्यांशी तुम्ही इतर कोणत्याही अवांछित दुव्यावर जसा व्यवहार करता त्याप्रमाणेच व्यवहार करा, कारण प्लॅटफॉर्म आता वचन देऊ शकत नाही की एक उघडणे निरुपद्रवी आहे.

त्याच्या भागासाठी, OpenAI चे P1 वर्गीकरण आणि जलद टर्नअराउंड सूचित करते की कंपनी chatgpt.com वरील ब्राउझर-आधारित सत्र हल्ल्यांना प्रथम-स्तरीय धोके मानते. वापरकर्ते कामाची कागदपत्रे, वैद्यकीय प्रश्न आणि खाजगी प्रकल्प चॅट इतिहासात साठवतात - या खात्यांमध्ये किती मूल्य केंद्रित आहे याची ही घटना देखील एक आठवण आहे — नेमकी सामग्री पॅरामीटर लॅब्सने सिद्ध केली की आक्रमणकर्ता काढू शकतो.

---

एआयच्या पुढे राहा

नवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.

अधिक AI बातम्या वाचा →