Abliteration.ai नामक एक अमेरिकी स्टार्टअप ने ओपन सोर्स AI की सबसे विवादास्पद तकनीकों में से एक को एक वाणिज्यिक सेवा में बदल दिया है, जिसमें सुरक्षा प्रशिक्षण के साथ लोकप्रिय ओपन-वेट मॉडलों के लिए ब्राउज़र और एपीआई एक्सेस की बिक्री की जा रही है - जिसमें Z.ai का हाल ही में जारी GLM-5.3 भी शामिल है, जो आज उपलब्ध सबसे सक्षम ओपन मॉडलों में से एक है।

कंपनी का नाम "उन्मूलन" से लिया गया है, एक ऐसी विधि जो किसी मॉडल की हानिकारक अनुरोधों को अस्वीकार करने की प्रवृत्ति को दूर करती है। शोधकर्ताओं और शौकीनों ने वर्षों से इस तकनीक का उपयोग किया है, और हगिंग फेस हजारों लुप्त मॉडलों की मेजबानी करता है। पैकेजिंग में जो नया है वह है: Abliteration.ai अपने स्वयं के बुनियादी ढांचे पर संशोधित मॉडल होस्ट करता है, इसलिए वेब ब्राउज़र वाला कोई भी व्यक्ति वेट डाउनलोड किए बिना या जीपीयू किराए पर लिए बिना उनसे पूछताछ कर सकता है। टेकक्रंच ने 3 सितंबर को विकास की सूचना दी, और तब से हमारे [एआई समाचार कवरेज] (https://aibuzzwire.news) में हमारे द्वारा अनुसरण की जाने वाली ओपन-वेट बहस पर नज़र रखने वाले सुरक्षा शोधकर्ताओं ने इसकी जांच की है।

भूमिगत तकनीक से टर्नकी प्लेटफार्म तक

पिछले साल के अंत में स्थापित और मार्च में आधिकारिक तौर पर शामिल किया गया, Abliteration.ai इस अभ्यास को स्वयं करें ओपन सोर्स क्षेत्र से एक पॉलिश वाणिज्यिक उत्पाद में ले जाता है। मॉडलों को स्वयं होस्ट करके, कंपनी एक साथ दो घर्षण बिंदुओं को हटा देती है: उपयोगकर्ताओं को अब किसी मॉडल को समाप्त करने के लिए तकनीकी कौशल की आवश्यकता नहीं है, न ही उसे चलाने के लिए गणना की।

सह-संस्थापक डेवोन - टेकक्रंच ने उनके अनुरोध पर अपना उपनाम वापस ले लिया क्योंकि वह एक अन्य फर्म में कार्यरत हैं - ने कहा कि कंपनी ने कई प्रमुख क्लाउड प्रदाताओं के साथ सौदे किए हैं और पूरी तरह से ग्राहक राजस्व के माध्यम से वित्त पोषित है। स्टार्टअप ने उद्यम पूंजी नहीं जुटाई है, हालांकि उन्होंने कहा कि बातचीत चल रही है।

टेकक्रंच के परीक्षण में क्या पाया गया

कंपनी का कहना है कि उसका लक्ष्य "आक्रामक साइबर, रेड-टीमिंग और एजेंट परीक्षण कार्य को सक्षम करना है जिसे अन्य मॉडल करने से इनकार करते हैं।" TechCrunch ने एक वेब ब्राउज़र के माध्यम से GLM-5.3 के संक्षिप्त संस्करण की क्वेरी करते हुए, एक निःशुल्क खाते के साथ इसका परीक्षण किया। पत्रकारों ने मॉडल से एक पायथन प्रोग्राम लिखने के लिए कहा जो सहेजे गए क्रोम पासवर्ड चुराता है, और घर पर एक खतरनाक मानव रोगज़नक़ को विकसित करने के लिए एक विस्तृत प्रोटोकॉल तैयार करने के लिए कहा। रिपोर्ट के अनुसार, इसने दोनों अनुरोधों का तुरंत अनुपालन किया।

वह प्रयोग कहानी का मूल है: जिन कार्यों को मुख्यधारा के फ्रंटियर मॉडल स्पष्ट रूप से अस्वीकार करते हैं वे अब साइन-अप फॉर्म के पीछे ब्राउज़र टैब में बिना किसी कीमत के उपलब्ध हैं।

रेड-टीम रक्षा तर्क

व्यवसाय के लिए डेवोन का मामला क्लासिक सुरक्षा तर्क है: आप उस व्यवहार से बचाव नहीं कर सकते जिसे आप पुन: पेश नहीं कर सकते। एक मॉडल जो वर्किंग एक्सप्लॉइट कोड लिखने से इंकार करता है, वह वास्तविक हमलावरों को समझने की कोशिश कर रही रेड टीम के लिए बहुत कम उपयोगी होता है।

उन्होंने टेकक्रंच को बताया, "विलुप्त मॉडलों की बड़ी तस्वीर यह है कि वे बुरे अभिनेताओं का मॉडल बनाने में सक्षम हैं।" "फायदा यह है कि अब रक्षक जितनी तेजी से संभव हो सके आगे बढ़ सकते हैं... मुझे लगता है कि इससे साइबर सुरक्षा में तेजी आएगी, जो एक तरह का प्रति-सहज ज्ञान बिंदु है।"

कंपनी के ग्राहकों में यूके और यूरोप के शुरुआती चरण के रेड-टीमिंग स्टार्टअप शामिल हैं जो बैंकों, एयरलाइंस और महत्वपूर्ण बुनियादी ढांचे के अन्य ऑपरेटरों की सुरक्षा का परीक्षण करते हैं। एक प्रमुख ग्राहक, डेवोन ने कहा, रेड टीमें बैंकिंग एजेंट हैं और असंशोधित वाणिज्यिक मॉडल के साथ वह काम नहीं कर सकते हैं।

'एक मॉडल जो एक समाजोपथ बन जाती है'

सुरक्षा शोधकर्ता एक ही क्षमता को बहुत अलग ढंग से देखते हैं। एआई सुरक्षा गैर-लाभकारी संस्था सिवएआई के अनुसंधान प्रमुख एंड्रयू यून ने टेकक्रंच को बताया कि उन्मूलन आपको "मॉडल को संशोधित करने की सुविधा देता है ताकि यह एक समाजोपथ बन जाए।"

यून ने कहा, "आप यहां वस्तुतः कुछ भी टाइप कर सकते हैं और यह इसका अनुपालन करेगा।" उन्होंने यह भी कहा कि उन्हें उम्मीद है कि "संपादित, मिटाए गए मॉडलों का उपयोग निकट भविष्य में नुकसान पहुंचाने के लिए किया जाएगा।"

हाल ही में एक राय में, यून ने तर्क दिया कि यदि रेलिंग हटाने को वास्तविक रूप से रोका नहीं जा सकता है, तो सरकारों को प्रदाताओं को ऐसे क्लासिफायर चलाने की आवश्यकता होनी चाहिए जो हानिकारक साइबर और बायोहथियार गतिविधि का पता लगाते हैं और उन्हें रोकते हैं, और ग्राहकों की पहचान को सत्यापित करने और जहां खतरनाक दुरुपयोग का संदेह है, वहां सेवा से इनकार करने के लिए उन्नत जीपीयू तक सीधी पहुंच किराए पर लेने वाली कंपनियों की आवश्यकता होनी चाहिए।

पतली रेलिंग और कोई पहचान जांच नहीं

अभी के लिए, Abliteration.ai के स्वयं के सुरक्षा उपाय न्यूनतम हैं। प्लेटफ़ॉर्म ग्राहकों को एक वैकल्पिक मॉडरेशन परत प्रदान करता है ताकि वे जो चाहें प्रतिबंध लगा सकें, और साइट स्वयं कुछ छोटी सीमाएं बनाए रखती है - टेकक्रंच को आत्महत्या के निर्देश तैयार करने के लिए मॉडल नहीं मिल सका, और डेवोन ने कहा कि वह हिंसा को रोकने के लिए अतिरिक्त उपायों पर काम कर रहा है।

भुगतान के लिए उपयोग किए गए क्रेडिट कार्ड को लॉग करने के अलावा कंपनी आपके ग्राहक के बारे में कोई जांच नहीं करती है। "आप किसी के पागलपन भरे कृत्य के लिए ज़िम्मेदार व्यक्ति नहीं बनना चाहते... तो एक कंपनी के रूप में आपकी ज़िम्मेदारी की सीमा आप कहाँ खींचते हैं?" डेवोन ने कहा. "हम अभी भी इसे परिभाषित करने की प्रक्रिया में हैं।"

एक सवाल जिसे उद्योग जगत नहीं टाल सकता

प्रत्येक सुरक्षा व्यवसायी इस बात से सहमत नहीं है कि नष्ट किए गए मॉडल आक्रामक परीक्षण के लिए भी सबसे अच्छा उपकरण हैं। एजेंट रेड-टीमिंग फर्म फैब्राइक्स के सीईओ अहमद अली ने टेकक्रंच को बताया कि उनकी कंपनी फाइन-ट्यूनिंग ओपन-वेट मॉडल पर अधिक भरोसा करती है, जो पहले से ही कुछ इनकारों के साथ शिप होते हैं - और ध्यान दें कि विलोपन एक मॉडल की अंतर्निहित क्षमताओं को कम कर सकता है।

टेकक्रंच से परामर्श करने वाले अधिकांश विशेषज्ञ एक बात पर सहमत हैं: इस प्रथा को रोका नहीं जा सकता। डाउनलोड करने योग्य वेट का मतलब है कि कोई भी स्थानीय स्तर पर इनकारों को हटा सकता है, जैसा कि "उन्मूलन" के दुरुपयोग पर वेस्ट पॉइंट पर कॉम्बैटिंग टेररिज्म सेंटर की 2026 की टिप्पणी में रेखांकित किया गया है। Abliteration.ai का खुला प्रश्न यह है कि क्या सभी - रक्षकों और हमलावरों - के लिए पहुंच की लागत कम करने से इंटरनेट सुरक्षित या अधिक खतरनाक हो जाता है।

एआई से आगे रहें

एआई सुरक्षा प्रतिदिन विकसित हो रही है। नवीनतम एआई विकास एक ही स्थान पर प्राप्त करें।

अधिक AI समाचार पढ़ें →