Abliteration.ai नावाच्या यूएस स्टार्टअपने ओपन सोर्स AI च्या सर्वात वादग्रस्त तंत्रांपैकी एक व्यावसायिक सेवेत बदलले आहे, लोकप्रिय ओपन-वेट मॉडेल्ससाठी ब्राउझर आणि API ऍक्सेस विकून त्यांचे सुरक्षितता प्रशिक्षण काढून टाकले आहे — Z.ai च्या अलीकडेच रिलीज झालेल्या GLM-5.3 सह, आज उपलब्ध असलेल्या सर्वात सक्षम ओपन मॉडेलपैकी एक.
कंपनी त्याचे नाव "ॲब्लिटरेशन" वरून घेते, एक पद्धत जी हानिकारक विनंत्या नाकारण्याची मॉडेलची प्रवृत्ती काढून टाकते. संशोधक आणि शौकीनांनी वर्षानुवर्षे हे तंत्र वापरले आहे आणि हगिंग फेस हजारो ॲब्लिटेटेड मॉडेल्स होस्ट करते. नवीन काय आहे ते पॅकेजिंग: Abliteration.ai स्वतःच्या पायाभूत सुविधांवर सुधारित मॉडेल्स होस्ट करते, त्यामुळे वेब ब्राउझर असलेले कोणीही वजन डाउनलोड न करता किंवा GPU भाड्याने न घेता त्यांची क्वेरी करू शकतात. TechCrunch ने 3 सप्टेंबर रोजी विकासाचा अहवाल दिला आणि त्यानंतर आम्ही आमच्या AI न्यूज कव्हरेज मध्ये फॉलो करत असलेल्या ओपन-वेट वादाचा मागोवा घेणाऱ्या सुरक्षा संशोधकांकडून छाननी केली आहे.
भूमिगत तंत्रापासून टर्नकी प्लॅटफॉर्मपर्यंत
गेल्या वर्षीच्या उत्तरार्धात स्थापन झालेली आणि मार्चमध्ये अधिकृतरीत्या अंतर्भूत केलेली, Abliteration.ai ने सरावाला स्वत: करा-या खुल्या स्त्रोतामधून पॉलिश व्यावसायिक उत्पादनात हलवले. स्वतःच मॉडेल्स होस्ट करून, कंपनी एकाच वेळी दोन घर्षण बिंदू काढून टाकते: वापरकर्त्यांना यापुढे मॉडेल कमी करण्यासाठी तांत्रिक कौशल्याची गरज नाही, किंवा ते चालविण्यासाठी गणनेची आवश्यकता नाही.
सह-संस्थापक डेव्हन - टेकक्रंचने त्याच्या विनंतीनुसार त्याचे आडनाव रोखले कारण तो दुसऱ्या फर्ममध्ये नोकरीला आहे - म्हणाले की कंपनीने अनेक प्रमुख क्लाउड प्रदात्यांशी करार केले आहेत आणि ग्राहकांच्या कमाईद्वारे संपूर्णपणे निधी दिला जातो. स्टार्टअपने उद्यम भांडवल उभारले नाही, तरीही त्यांनी सांगितले की चर्चा सुरू आहे.
TechCrunch च्या चाचणीत काय आढळले
कंपनी म्हणते की "आक्षेपार्ह सायबर, रेड-टीमिंग आणि एजंट चाचणी कार्य इतर मॉडेल करण्यास नकार देतात" सक्षम करणे हे त्यांचे ध्येय आहे. TechCrunch ने वेब ब्राउझरद्वारे GLM-5.3 च्या रद्द केलेल्या आवृत्तीची चौकशी करून, विनामूल्य खात्यासह चाचणी केली. पत्रकारांनी मॉडेलला एक पायथन प्रोग्राम लिहिण्यास सांगितले जो सेव्ह केलेले Chrome पासवर्ड चोरतो आणि घरात धोकादायक मानवी रोगकारक संवर्धन करण्यासाठी तपशीलवार प्रोटोकॉल तयार करतो. अहवालानुसार, याने दोन्ही विनंत्यांचे तत्काळ पालन केले.
हा प्रयोग कथेचा मुख्य भाग आहे: मुख्य प्रवाहातील सीमा मॉडेल स्पष्टपणे नकार देणारी कार्ये आता ब्राउझर टॅबमध्ये, कोणत्याही किंमतीशिवाय, साइन-अप फॉर्मच्या मागे उपलब्ध आहेत.
रेड-टीम संरक्षण युक्तिवाद
व्यवसायासाठी डेव्हॉनचे प्रकरण हे उत्कृष्ट सुरक्षा युक्तिवाद आहे: आपण पुनरुत्पादित करू शकत नाही अशा वर्तनापासून आपण बचाव करू शकत नाही. कार्यरत शोषण कोड लिहिण्यास नकार देणारे मॉडेल वास्तविक हल्लेखोरांना समजून घेण्याचा प्रयत्न करणाऱ्या लाल संघाला फारसे उपयोगाचे नाही.
"निष्कृत मॉडेल्सचे मोठे चित्र म्हणजे ते वाईट कलाकारांना मॉडेल करण्यास सक्षम आहेत," त्याने टेकक्रंचला सांगितले. "फायदा असा आहे की आता बचावकर्ते शक्य तितक्या वेगाने पुढे जाऊ शकतात ... मला वाटते की यामुळे सायबरसुरक्षा गतिमान होईल, जो एक प्रकारचा विरोधात्मक मुद्दा आहे."
कंपनीच्या ग्राहकांमध्ये यूके आणि युरोपमधील सुरुवातीच्या टप्प्यातील रेड-टीमिंग स्टार्टअपचा समावेश आहे जे बँका, एअरलाइन्स आणि गंभीर पायाभूत सुविधांच्या इतर ऑपरेटरच्या सुरक्षिततेची चाचणी घेतात. एक प्रमुख ग्राहक, डेव्हन म्हणाला, रेड टीम बँकिंग एजंट आहेत आणि ते काम न बदललेल्या व्यावसायिक मॉडेलसह करू शकत नाहीत.
'एक मॉडेल जे समाजोपचार बनते'
सुरक्षा संशोधक समान क्षमता अतिशय वेगळ्या पद्धतीने पाहतात. अँड्र्यू यून, AI सुरक्षा नानफा CivAI चे संशोधन प्रमुख यांनी TechCrunch ला सांगितले की, रद्दीकरण तुम्हाला "मॉडेलमध्ये बदल करू देते जेणेकरून ते समाजोपचार बनू शकेल."
"तुम्ही येथे अक्षरशः काहीही टाईप करू शकता आणि ते त्याचे पालन करेल," यून म्हणाले, "संपादित, रद्द केलेले मॉडेल नजीकच्या भविष्यात हानीसाठी वापरले जातील" अशी त्यांची अपेक्षा आहे.
अलीकडील एका मतात, यूनने असा युक्तिवाद केला की जर रेलिंग काढणे वास्तविकपणे रोखले जाऊ शकत नाही, तर सरकारने प्रदात्यांकडून हानिकारक सायबर आणि बायोवेपन्स क्रियाकलाप शोधून अवरोधित करणारे क्लासिफायर चालवायला हवे आणि ग्राहकांच्या ओळखीची पडताळणी करण्यासाठी आणि धोकादायक गैरवापराचा संशय असलेल्या सेवेला नकार देण्यासाठी प्रगत GPU मध्ये थेट प्रवेश भाड्याने देणाऱ्या कंपन्यांची आवश्यकता आहे.
पातळ रेलिंग आणि कोणतीही ओळख तपासणी नाही
आत्तासाठी, Abliteration.ai चे स्वतःचे सुरक्षा उपाय कमी आहेत. प्लॅटफॉर्म ग्राहकांना पर्यायी मॉडरेशन लेयर ऑफर करतो जेणेकरून ते त्यांना हवे ते निर्बंध जोडू शकतील आणि साइट स्वतः काही किरकोळ मर्यादा राखते — TechCrunch ला आत्महत्येच्या सूचना तयार करण्यासाठी मॉडेल मिळू शकले नाही आणि डेव्हन म्हणाले की तो हिंसाचार रोखण्यासाठी अतिरिक्त उपायांवर काम करत आहे.
कंपनी पेमेंटसाठी वापरल्या जाणाऱ्या क्रेडिट कार्डवर लॉग इन करण्यापलीकडे तुमच्या-ग्राहकांच्या माहितीची तपासणी करत नाही. "एखाद्याने काहीतरी वेडेपणा केल्याने तुम्हाला जबाबदार व्यक्ती व्हायचे नाही ... मग एक कंपनी म्हणून तुमची जबाबदारी काय आहे याची रेषा तुम्ही कुठे काढता?" डेव्हन म्हणाले. "आम्ही अद्याप ते परिभाषित करण्याच्या प्रक्रियेत आहोत."
उद्योग टाळू शकत नाही असा प्रश्न
प्रत्येक सुरक्षा अभ्यासक सहमत नाही की आक्षेपार्ह चाचणीसाठी ॲब्लिटेटेड मॉडेल्स देखील सर्वोत्तम साधन आहेत. अहमद अली, एजंट रेड-टीमिंग फर्म Fabraix चे CEO, TechCrunch ला सांगितले की त्यांची कंपनी फाइन-ट्यूनिंग ओपन-वेट मॉडेल्सवर अधिक अवलंबून आहे, जे आधीच काही नकारांसह पाठवले जाते - आणि नोट्स की निर्मूलनामुळे मॉडेलच्या अंतर्निहित क्षमता कमी होऊ शकतात.
टेकक्रंचचा सल्ला घेणारे बहुतेक तज्ञ एका गोष्टीवर सहमत आहेत: सराव थांबवता येत नाही. डाउनलोड करण्यायोग्य वजन म्हणजे कोणीही स्थानिक पातळीवर नकार काढून टाकू शकतो, 2026 मधील वेस्ट पॉइंट येथील कॉम्बेटिंग टेररिझम सेंटरच्या "ॲब्लिटरेशन" गैरवापरावर अधोरेखित केलेले भाष्य. Abliteration.ai फोर्स हा खुला प्रश्न आहे की प्रत्येकासाठी प्रवेशाची किंमत कमी करणे — बचावकर्ते आणि हल्लेखोर सारखेच — इंटरनेट सुरक्षित करते की अधिक धोकादायक.
AI च्या पुढे रहा
एआय सुरक्षा दररोज विकसित होत आहे. एकाच ठिकाणी नवीनतम AI घडामोडी मिळवा.
अधिक एआय बातम्या वाचा →
