Abliteration.ai نامی یو ایس اسٹارٹ اپ نے اوپن سورس AI کی سب سے متنازعہ تکنیکوں میں سے ایک کو کمرشل سروس میں تبدیل کر دیا ہے، جس میں مقبول اوپن ویٹ ماڈلز تک براؤزر اور API کی رسائی ان کی حفاظت کی تربیت کو ختم کر دیا گیا ہے — بشمول Z.ai کا حال ہی میں جاری کردہ GLM-5.3، جو آج دستیاب سب سے زیادہ قابل اوپن ماڈلز میں سے ایک ہے۔
کمپنی اپنا نام "خاتمے" سے لیتی ہے، ایک ایسا طریقہ جو ماڈل کے نقصان دہ درخواستوں کو مسترد کرنے کے رجحان کو دور کرتا ہے۔ محققین اور شوق رکھنے والوں نے اس تکنیک کو برسوں سے استعمال کیا ہے، اور Hugging Face ہزاروں کی تعداد میں ختم شدہ ماڈلز کی میزبانی کرتا ہے۔ نیا کیا ہے پیکیجنگ: Abliteration.ai اپنے بنیادی ڈھانچے پر ترمیم شدہ ماڈلز کی میزبانی کرتا ہے، لہذا ویب براؤزر والا کوئی بھی شخص وزن ڈاؤن لوڈ کیے بغیر یا GPUs کرائے پر لیے ان سے استفسار کرسکتا ہے۔ TechCrunch نے 3 ستمبر کو اس پیشرفت کی اطلاع دی، اور اس کے بعد اس نے حفاظتی محققین کی طرف سے جانچ پڑتال کی ہے جو ہم اپنی AI نیوز کوریج میں کھلے وزن کی بحث کو ٹریک کرتے ہیں۔
زیر زمین تکنیک سے ٹرنکی پلیٹ فارم تک
پچھلے سال کے آخر میں قائم کیا گیا تھا اور مارچ میں باضابطہ طور پر شامل کیا گیا تھا، Abliteration.ai اس پریکٹس کو اپنے طور پر اوپن سورس کے مقام سے پالش تجارتی مصنوعات میں منتقل کرتا ہے۔ خود ماڈلز کی میزبانی کرکے، کمپنی ایک ساتھ دو رگڑ پوائنٹس کو ہٹا دیتی ہے: صارفین کو اب کسی ماڈل کو ختم کرنے کے لیے تکنیکی مہارت کی ضرورت نہیں ہے، اور نہ ہی اسے چلانے کے لیے کمپیوٹ کی ضرورت ہے۔
شریک بانی ڈیون - ٹیک کرنچ نے ان کی درخواست پر اپنا کنیت روک لیا کیونکہ وہ ایک اور فرم میں ملازم رہتا ہے - نے کہا کہ کمپنی نے کئی بڑے کلاؤڈ فراہم کنندگان کے ساتھ معاہدے کیے ہیں اور اسے مکمل طور پر کسٹمر کی آمدنی سے فنڈ کیا گیا ہے۔ سٹارٹ اپ نے وینچر کیپیٹل نہیں بڑھایا، حالانکہ اس نے کہا کہ بات چیت جاری ہے۔
TechCrunch کے ٹیسٹ میں کیا ملا
کمپنی کا کہنا ہے کہ اس کا مقصد "جارحانہ سائبر، ریڈ ٹیمنگ، اور ایجنٹ کی جانچ کے کام کو قابل بنانا ہے جو دوسرے ماڈلز کرنے سے انکار کرتے ہیں۔" TechCrunch نے اسے ایک مفت اکاؤنٹ کے ساتھ آزمایا، ایک ویب براؤزر کے ذریعے GLM-5.3 کے ختم شدہ ورژن سے استفسار کیا۔ نامہ نگاروں نے ماڈل سے ایک Python پروگرام لکھنے کو کہا جو کروم کے محفوظ کردہ پاس ورڈز چوری کرتا ہے، اور گھر میں ایک خطرناک انسانی روگجن کی ثقافت کے لیے ایک تفصیلی پروٹوکول تیار کرتا ہے۔ رپورٹ کے مطابق، اس نے دونوں درخواستوں کی آسانی سے تعمیل کی۔
وہ تجربہ کہانی کا مرکز ہے: وہ کام جن کو مرکزی دھارے کے فرنٹیئر ماڈل واضح طور پر مسترد کرتے ہیں اب ایک سائن اپ فارم کے پیچھے، بغیر کسی قیمت کے، براؤزر کے ٹیب میں دستیاب ہیں۔
ریڈ ٹیم دفاعی دلیل
کاروبار کے لیے ڈیون کا کیس سیکیورٹی کی کلاسک دلیل ہے: آپ اس رویے کے خلاف دفاع نہیں کر سکتے جو آپ دوبارہ پیش نہیں کر سکتے۔ ایک ایسا ماڈل جو ورکنگ ایکسپلائٹ کوڈ لکھنے سے انکار کرتا ہے اس کا اصل حملہ آوروں کو سمجھنے کی کوشش کرنے والی سرخ ٹیم کے لیے بہت کم فائدہ ہوتا ہے۔
انہوں نے ٹیک کرنچ کو بتایا کہ "ختم شدہ ماڈلز کی بڑی تصویر یہ ہے کہ وہ برے اداکاروں کو ماڈل بنانے کے قابل ہیں۔" "فائدہ یہ ہے کہ اب محافظ جتنی جلدی ممکن ہو آگے بڑھ سکتے ہیں ... میرے خیال میں اس سے سائبر سیکیورٹی میں تیزی آئے گی، جو کہ ایک قسم کا متضاد نقطہ ہے۔"
کمپنی کے صارفین میں برطانیہ اور یورپ میں ابتدائی مرحلے کے ریڈ ٹیمنگ اسٹارٹ اپس شامل ہیں جو بینکوں، ایئر لائنز اور اہم انفراسٹرکچر کے دیگر آپریٹرز کی حفاظت کی جانچ کرتے ہیں۔ ایک بڑے گاہک، ڈیون نے کہا، ریڈ ٹیمیں بینکنگ ایجنٹ ہیں اور غیر ترمیم شدہ تجارتی ماڈلز کے ساتھ یہ کام انجام نہیں دے سکتیں۔
'ایک ماڈل جو سوشیوپیتھ بن جاتا ہے'
حفاظتی محققین اسی صلاحیت کو بہت مختلف انداز میں دیکھتے ہیں۔ اینڈریو یون، AI سیفٹی کے غیر منافع بخش ادارے CivAI کے ریسرچ کے سربراہ نے TechCrunch کو بتایا کہ خاتمے سے آپ کو "ماڈل میں ترمیم کرنے کی اجازت ملتی ہے تاکہ یہ ایک سماجی رویہ بن جائے۔"
یون نے کہا، "آپ یہاں لفظی طور پر کچھ بھی ٹائپ کر سکتے ہیں، اور یہ اس کی تعمیل کرے گا،" انہوں نے مزید کہا کہ وہ توقع کرتے ہیں کہ "ترمیم شدہ، ختم شدہ ماڈل مستقبل قریب میں نقصان کے لیے استعمال کیے جائیں گے۔"
ایک حالیہ رائے میں، یون نے استدلال کیا کہ اگر ریل کے ہٹانے کو حقیقتاً روکا نہیں جا سکتا، تو حکومتوں کو فراہم کنندگان سے مطالبہ کرنا چاہیے کہ وہ ایسے درجہ بندی کریں جو نقصان دہ سائبر اور بائیو ہتھیاروں کی سرگرمیوں کا پتہ لگاتے ہیں اور ان کو روکتے ہیں، اور ان کمپنیوں کو کرایہ پر لینا چاہیے جو جدید GPUs تک براہ راست رسائی حاصل کریں تاکہ کسٹمر کی شناخت کی تصدیق کی جا سکے اور جہاں خطرناک غلط استعمال کا شبہ ہو۔
پتلی چوکیاں اور کوئی شناختی چیک نہیں۔
ابھی کے لیے، Abliteration.ai کے اپنے تحفظات کم سے کم ہیں۔ یہ پلیٹ فارم صارفین کو ایک اختیاری اعتدال پسندی کی پرت پیش کرتا ہے تاکہ وہ جو چاہیں پابندیاں شامل کر سکیں، اور سائٹ خود کچھ معمولی حدود کو برقرار رکھتی ہے — TechCrunch خودکشی کی ہدایات تیار کرنے کے لیے ماڈل حاصل نہیں کر سکا، اور ڈیون نے کہا کہ وہ تشدد کو روکنے کے لیے اضافی اقدامات پر کام کر رہا ہے۔
کمپنی ادائیگی کے لیے استعمال ہونے والے کریڈٹ کارڈ کو لاگ ان کرنے کے علاوہ آپ کے گاہک کو جاننے کے لیے اسکریننگ نہیں کرتی ہے۔ "آپ کسی کے پاگل کام کرنے کے لیے ذمہ دار فرد نہیں بننا چاہتے... تو آپ اس بات کی لکیر کہاں کھینچیں گے کہ بطور کمپنی آپ کی ذمہ داری کیا ہے؟" ڈیون نے کہا۔ "ہم ابھی بھی اس کی وضاحت کرنے کے عمل میں ہیں۔"
ایک سوال جس سے انڈسٹری ڈاج نہیں کر سکتی
ہر سیکیورٹی پریکٹیشنر اس بات سے اتفاق نہیں کرتا کہ ختم شدہ ماڈل بھی جارحانہ جانچ کے لیے بہترین ٹول ہیں۔ ایجنٹ ریڈ ٹیمنگ فرم Fabraix کے سی ای او احمد علی نے TechCrunch کو بتایا کہ ان کی کمپنی ٹھیک ٹیوننگ اوپن ویٹ ماڈلز پر زیادہ انحصار کرتی ہے، جو پہلے ہی کچھ انکار کے ساتھ بھیجے جاتے ہیں - اور نوٹ کرتے ہیں کہ تخفیف ماڈل کی بنیادی صلاحیتوں کو کم کر سکتی ہے۔
TechCrunch سے مشورہ کرنے والے زیادہ تر ماہرین ایک چیز پر متفق ہیں: پریکٹس کو روکا نہیں جا سکتا۔ ڈاؤن لوڈ کے قابل وزن کا مطلب ہے کہ کوئی بھی مقامی طور پر انکار کو چھین سکتا ہے، جیسا کہ ویسٹ پوائنٹ پر کمبیٹنگ ٹیررازم سنٹر کی 2026 کی تبصرے میں "ختم کرنے" کے غلط استعمال پر زور دیا گیا ہے۔ کھلا سوال Abliteration.ai فورسز یہ ہے کہ آیا ہر ایک کے لیے رسائی کی لاگت کو کم کرنا — محافظ اور حملہ آور یکساں — انٹرنیٹ کو محفوظ یا زیادہ خطرناک بناتا ہے۔
AI سے آگے رہیں
اے آئی سیفٹی روزانہ تیار ہو رہی ہے۔ ایک جگہ پر اے آئی کی تازہ ترین پیشرفت حاصل کریں۔
مزید AI خبریں پڑھیں →
