Fireworks AI, Nvidia-समर्थित अनुमान स्टार्टअप, ने ग्राहकांना सूचित केले आहे की पूर्वी उघड केलेली सुरक्षा घटना पहिल्या नोंदवलेल्या पेक्षा लक्षणीय होती, आक्रमणकर्त्यांनी खाते आणि बिलिंग माहितीमध्ये प्रवेश केला आणि खात्यांच्या मर्यादित संचासाठी, रहस्ये, डेटासेट आणि अपूर्ण मॉडेल वजनांसाठी, एक अद्यतनित सुरक्षा बुलेटिन नुसार त्याच्या साइटवर प्रकाशित केले आहे. फोर्ब्सने सायबर हल्ल्याचे वर्णन ग्राहक डेटा आणि एआय मॉडेल्स उघड करणारे म्हणून केले आहे.

कंपनीने 9 ऑक्टोबर रोजी प्रथम या घटनेचा खुलासा केला, जेव्हा ते म्हणाले की केवळ फटाके-संग्रहित गुपिते मूल्यमापन कार्यांमध्ये वापरण्यात आली होती. नवीन अद्यतन हे मूल्यांकन मोठ्या प्रमाणात वाढवते आणि आर्थिकदृष्ट्या प्रेरित सायबर गुन्हेगारी गटाशी जोडले जाते ज्याला उद्योग "LLMJacking" म्हणतो - मोठ्या भाषेच्या मॉडेल्समध्ये प्रवेश चोरणे आणि अवैध राउटिंग गेटवेवर टोकनची पुनर्विक्री करणे. AI इंडस्ट्री सिक्युरिटी न्यूज ट्रॅक करणाऱ्या कंपन्यांसाठी, हे प्रकरण AI पायाभूत सुविधांवरील हल्ल्यांच्या नवीन वर्गासाठी संदर्भ घटना म्हणून आकार घेत आहे.

दुसरा भंग कसा उघड झाला

बुलेटिननुसार, फटाके संशोधन आणि विकास मशीन होस्ट करणाऱ्या तृतीय-पक्ष क्लाउड प्रदात्याने 23 ऑक्टोबर रोजी स्वतःच्या सुरक्षिततेच्या घटनेचा अनुभव घेतला. दुसऱ्या दिवशी, एका अनधिकृत पक्षाने फटाके विकास मशीनपर्यंत पोहोचण्यासाठी त्या पायाचा वापर केला आणि अनधिकृत कार्यभार चालवला ज्यामुळे अतिरिक्त ग्राहक डेटावर परिणाम झाला. फायरवर्क्सचे म्हणणे आहे की त्याने त्याच दिवशी क्रियाकलाप शोधून काढले आणि त्यावर उपाययोजना केल्या आणि 25 ऑक्टोबरपर्यंत त्याला प्लॅटफॉर्मवर ग्राहक वापरत असलेल्या यशस्वी अनधिकृत प्रवेशाचा कोणताही पुरावा सापडला नाही.

कंपनी पालो अल्टो नेटवर्क्स युनिट 42 सोबत काम करत आहे, जे फॉरेन्सिक विश्लेषण करत आहे आणि त्यांनी मूळ घटनेनंतर कायद्याच्या अंमलबजावणीला सूचित केले आहे. Google Threat Intelligence Group आणि Mandiant ने 2 नोव्हेंबर रोजी LLMJacking चा उदय, त्यामागील हेतू आणि वापरलेली तंत्रे यांचे दस्तऐवजीकरण करणारी एक ब्लॉग पोस्ट प्रकाशित केली - संदर्भ फायरवर्क्सने स्वतःच्या प्रकटीकरणात उद्धृत केले.

काय डेटा घेतला गेला

प्रभावित अंतर्गत अनुप्रयोगाने बुलेटिननुसार माहितीच्या अनेक श्रेणी उघड केल्या:

  • संसाधन मेटाडेटा, ज्यामध्ये फायरवर्क्स रिसोर्स आयडेंटिफायर, डिस्प्ले नावे, वर्णने आणि निर्मिती वेळा यांचा समावेश आहे.
  • बिलिंग माहिती, बिलिंग आणि शिपिंग पत्ते, बीजक आणि पेमेंट इतिहास, खाते शिल्लक आणि क्रेडिट वापर.
  • मॉडेल वजन आणि डेटासेट: काही ग्राहकांसाठी, अपूर्ण मॉडेल वजन आणि डेटासेटचा उपसंच प्रवेश केला गेला.

फायरवर्क्सने सांगितले की पेमेंट कार्ड क्रमांक त्याच्या सिस्टमवर संग्रहित नाहीत आणि प्रभावित झाले नाहीत. त्याने असेही म्हटले आहे की त्याच्या मूळ अनुमान, प्रशिक्षण SDK आणि Nexus सेवांवर कोणताही प्रभाव आढळला नाही, जे डीफॉल्टनुसार शून्य डेटा धारणासह कार्य करतात — म्हणजे कोणतेही ग्राहक प्रशिक्षण किंवा अनुमान डेटा बाकीच्या ठिकाणी संग्रहित केला जात नाही. कंपनीने सांगितले की ते थेट अशा ग्राहकांना सूचित करत आहे ज्यांच्या डेटावर परिणाम झाला आहे आणि प्रतिसादाच्या कृतींची शिफारस केली आहे.

प्रतिबंध आणि खुले प्रश्न

त्याच्या प्रतिसादाचा एक भाग म्हणून, युनिट 42 सोबत काम करत, फायरवर्क्स म्हणते की त्याने क्रेडेन्शियल आणि सेवा खाती रद्द केली आणि बदलली, अनावश्यक उन्नत विशेषाधिकार काढून टाकले, नेटवर्क मार्ग प्रतिबंधित केले आणि प्रभावित प्रणाली, डेटा स्टोरेज आणि विश्लेषण प्रणालींमध्ये प्रवेश घट्ट केला आणि लॉगिंग आणि निरीक्षण कठोर केले. तपास सुरू असताना बॅच इन्फरन्स आणि डेटासेट-आधारित प्रशिक्षणाद्वारे वापरलेले सेल्फ-सर्व्ह डेटासेट अपलोड आणि डाउनलोड देखील अक्षम केले आहेत.

दोन महत्त्वाचे प्रश्न खुले आहेत. प्रथम, प्रवेश केलेले "अपूर्ण मॉडेल वजने" प्रत्यक्षात किती वापरण्यायोग्य आहेत — प्रशिक्षण पाइपलाइनमधून चोरी केलेले आंशिक किंवा प्रगतीपथावर असलेले वजन अद्याप विकासाधीन ग्राहक मॉडेल्सबद्दल स्पर्धात्मक माहिती प्रकट करू शकते आणि कोणते ग्राहक किंवा किती प्रभावित झाले हे फायरवर्क्सने सांगितले नाही. दुसरे, ज्या ग्राहकांचे मालकी डेटासेट उघड झाले आहेत त्यांच्यासाठी कोणते दायित्व पाळले जाते. कंपनीचे म्हणणे आहे की त्यांची चौकशी चालू आहे आणि अतिरिक्त माहिती उघड होऊ शकते.

LLMJacking का वाढत आहे

पारंपारिक डेटाऐवजी वापरण्यायोग्य मॉडेल प्रवेश मिळविण्यासाठी LLMJacking हल्ले क्लाउड-होस्टेड एआय सेवांना लक्ष्य करतात. चोरलेली क्रेडेन्शियल्स किंवा टोकन नंतर शॅडो राउटिंग गेटवेद्वारे पुन्हा विकले जातात जे व्यावसायिक मॉडेल्समध्ये कट-किंमत प्रवेश देतात. Google च्या Threat Intelligence Group आणि Mandiant ने 2 नोव्हेंबरचा अहवाल ट्रेंडला समर्पित केला आहे, ज्याचा सुरक्षा संशोधकांनी अंदाजे दोन वर्षांचा मागोवा घेतला आहे कारण होस्ट केलेल्या अनुमानाचा एंटरप्राइझ दत्तक विस्फोट झाला आहे.

फायरवर्क्स प्रकटीकरण हे पहिल्या पुष्टी झालेल्या प्रकरणांपैकी एक आहे जिथे हल्लेखोरांनी ते प्लेबुक एका AI इन्फ्रास्ट्रक्चर प्रदात्याच्या ग्राहक मॉडेल आर्टिफॅक्ट्सच्या चोरीसह एकत्र केल्याचे दिसते. हे एआय इकोसिस्टममध्ये सुरक्षा घटनांच्या व्यापक लाटेमध्ये उतरते आणि बहु-भाडेकरू प्लॅटफॉर्म ग्राहकांच्या वर्कलोडला वेगळे करू शकतात हे दाखवण्यासाठी अनुमान प्रदात्यांवर दबाव वाढवते. अनुमान विक्रेत्यांचे मूल्यमापन करणारे स्टार्टअप भाडेकरू अलगाव, क्रेडेन्शियल स्वच्छता आणि तृतीय-पक्ष क्लाउड अवलंबित्वांबद्दल कठीण प्रश्न विचारण्याची शक्यता आहे - येथे शोषण केलेला अचूक मार्ग.

फायरवर्क्सचे म्हणणे आहे की ते चोवीस तास त्याच्या सिस्टम्सचे निरीक्षण करत आहे आणि तपास जसजसा पुढे जाईल तसतसे पुढील अद्यतने प्रकाशित करेल. संबंधित ग्राहकांना त्यांच्या घटना सूचना ईमेलला उत्तर देण्यास किंवा कंपनीच्या सुरक्षा-सूचना पत्त्यावर संपर्क साधण्याचे निर्देश दिले आहेत.

एआय कंपन्यांसाठी प्रकटीकरण मानदंड कसे परिपक्व होत आहेत हे देखील या घटनेवरून स्पष्ट होते. फायरवर्क्सने त्याचे पहिले बुलेटिन ऑक्टोबरच्या सुरुवातीस सुरुवातीच्या घुसखोरीच्या काही दिवसांत प्रकाशित केले, त्यानंतर फॉरेन्सिकने चित्र विस्तृत केल्याने दुप्पट सुधारणा केली - एक क्रम सुरक्षा संघ अलीकडील एंटरप्राइझ सॉफ्टवेअर उल्लंघनांना ओळखतील परंतु AI इन्फ्रास्ट्रक्चर प्रदात्यांमध्ये ते असामान्य आहे, ज्यापैकी अनेकांनी सार्वजनिक घटना हाताळली नाही. मूळ अनुमान उत्पादन चालू ठेवताना सेल्फ-सर्व्ह डेटासेट वैशिष्ट्ये अक्षम करण्याची निवड सूचित करते की एक्सपोजर ग्राहक-सेवा मार्गाऐवजी सहायक प्रणालींमध्ये केंद्रित होते.

---

एआयच्या पुढे राहा

नवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.

अधिक AI बातम्या वाचा →