Abliteration.ai নামে একটি মার্কিন স্টার্টআপ ওপেন সোর্স AI-এর সবচেয়ে বিতর্কিত কৌশলগুলির মধ্যে একটিকে বাণিজ্যিক পরিষেবায় পরিণত করেছে, তাদের নিরাপত্তা প্রশিক্ষণ বাদ দিয়ে জনপ্রিয় ওপেন-ওয়েট মডেলগুলিতে ব্রাউজার এবং API অ্যাক্সেস বিক্রি করে — Z.ai-এর সম্প্রতি প্রকাশিত GLM-5.3 সহ, বর্তমানে উপলব্ধ সবচেয়ে সক্ষম ওপেন মডেলগুলির মধ্যে একটি।

কোম্পানিটি "বিমোচন" থেকে এর নাম নেয়, একটি পদ্ধতি যা একটি মডেলের ক্ষতিকারক অনুরোধ প্রত্যাখ্যান করার প্রবণতাকে সরিয়ে দেয়। গবেষকরা এবং শখীরা বছরের পর বছর ধরে এই কৌশলটি ব্যবহার করেছেন এবং আলিঙ্গন ফেস হাজার হাজার বিলুপ্ত মডেল হোস্ট করে। নতুন কি প্যাকেজিং: Abliteration.ai তার নিজস্ব পরিকাঠামোতে পরিবর্তিত মডেলগুলি হোস্ট করে, তাই ওয়েব ব্রাউজার সহ যে কেউ ওজন ডাউনলোড না করে বা GPU ভাড়া না নিয়ে তাদের জিজ্ঞাসা করতে পারে৷ TechCrunch 3 শে সেপ্টেম্বর এই বিকাশের রিপোর্ট করেছে এবং এটি তখন থেকে নিরাপত্তা গবেষকদের কাছ থেকে যাচাই-বাছাই করেছে যা আমরা আমাদের AI নিউজ কভারেজ-এ অনুসরণ করা ওপেন-ওয়েট বিতর্ক ট্র্যাক করে।

আন্ডারগ্রাউন্ড টেকনিক থেকে টার্নকি প্ল্যাটফর্ম পর্যন্ত

গত বছরের শেষের দিকে প্রতিষ্ঠিত এবং আনুষ্ঠানিকভাবে মার্চ মাসে অন্তর্ভূক্ত, Abliteration.ai অনুশীলনটিকে একটি ডো-ইট-ইউরফেল ওপেন সোর্স থেকে একটি পালিশ বাণিজ্যিক পণ্যে নিয়ে আসে। মডেলগুলিকে হোস্ট করার মাধ্যমে, সংস্থাটি একবারে দুটি ঘর্ষণ পয়েন্ট সরিয়ে দেয়: ব্যবহারকারীদের আর একটি মডেলকে হ্রাস করার জন্য প্রযুক্তিগত দক্ষতার প্রয়োজন হয় না, না একটি চালানোর জন্য গণনার প্রয়োজন হয়৷

সহ-প্রতিষ্ঠাতা ডেভন - টেকক্রাঞ্চ তার অনুরোধে তার উপাধি গোপন রেখেছে কারণ তিনি অন্য একটি ফার্মে নিযুক্ত রয়েছেন - বলেছিলেন যে সংস্থাটি বেশ কয়েকটি প্রধান ক্লাউড সরবরাহকারীদের সাথে চুক্তি করেছে এবং সম্পূর্ণরূপে গ্রাহকের রাজস্বের মাধ্যমে অর্থায়ন করা হয়েছে৷ স্টার্টআপটি ভেঞ্চার ক্যাপিটাল বাড়ায়নি, যদিও তিনি বলেছিলেন যে আলোচনা চলছে।

TechCrunch এর পরীক্ষায় কি পাওয়া গেছে

সংস্থাটি বলেছে যে তার লক্ষ্য হল "আক্রমনাত্মক সাইবার, রেড-টিমিং এবং এজেন্ট পরীক্ষার কাজগুলিকে সক্ষম করা যা অন্য মডেলগুলি করতে অস্বীকার করে।" টেকক্রাঞ্চ একটি ওয়েব ব্রাউজারের মাধ্যমে GLM-5.3-এর একটি বিলুপ্ত সংস্করণ অনুসন্ধান করে একটি বিনামূল্যে অ্যাকাউন্টের মাধ্যমে পরীক্ষা করে। সাংবাদিকরা মডেলটিকে একটি পাইথন প্রোগ্রাম লিখতে বলে যা সংরক্ষিত ক্রোম পাসওয়ার্ড চুরি করে এবং বাড়িতে একটি বিপজ্জনক মানব প্যাথোজেনকে সংস্কৃতির জন্য একটি বিশদ প্রোটোকল তৈরি করতে। প্রতিবেদন অনুসারে, এটি উভয় অনুরোধের সাথে সহজেই মেনে চলে।

সেই পরীক্ষাটি হল গল্পের কেন্দ্রবিন্দু: মূলধারার ফ্রন্টিয়ার মডেলগুলি স্পষ্টভাবে প্রত্যাখ্যান করে এমন কাজগুলি এখন একটি সাইন-আপ ফর্মের পিছনে, কোনও খরচ ছাড়াই, একটি ব্রাউজার ট্যাবে উপলব্ধ৷

রেড-টিম ডিফেন্স আর্গুমেন্ট

ব্যবসার জন্য ডেভনের ক্ষেত্রে ক্লাসিক নিরাপত্তা যুক্তি: আপনি এমন আচরণের বিরুদ্ধে রক্ষা করতে পারবেন না যা আপনি পুনরুত্পাদন করতে পারবেন না। একটি মডেল যেটি কার্যকরী শোষণ কোড লিখতে অস্বীকার করে তা প্রকৃত আক্রমণকারীদের বোঝার চেষ্টাকারী একটি লাল দলের পক্ষে খুব একটা কাজে আসে না।

তিনি টেকক্রাঞ্চকে বলেন, "বিলুপ্ত মডেলের বড় চিত্র হল তারা খারাপ অভিনেতাদের মডেল করতে সক্ষম।" "সুবিধে হল এখন ডিফেন্ডাররা যত দ্রুত সম্ভব সরে যেতে পারে... আমি মনে করি এটি সাইবার নিরাপত্তাকে ত্বরান্বিত করবে, যা একধরনের কাউন্টারটিউটিভ পয়েন্ট।"

কোম্পানির গ্রাহকদের মধ্যে যুক্তরাজ্য এবং ইউরোপের প্রাথমিক পর্যায়ের রেড-টিমিং স্টার্টআপগুলি অন্তর্ভুক্ত রয়েছে যা ব্যাংক, এয়ারলাইনস এবং গুরুত্বপূর্ণ অবকাঠামোর অন্যান্য অপারেটরদের নিরাপত্তা পরীক্ষা করে। একজন প্রধান গ্রাহক, ডেভন বলেন, লাল দল ব্যাংকিং এজেন্ট এবং অপরিবর্তিত বাণিজ্যিক মডেলের সাথে সেই কাজটি সম্পাদন করতে পারে না।

'একটি মডেল যা একজন সোসিওপ্যাথ হয়ে ওঠে'

নিরাপত্তা গবেষকরা একই ক্ষমতাকে ভিন্নভাবে দেখেন। এআই নিরাপত্তা অলাভজনক সিভিএআই-এর গবেষণার প্রধান অ্যান্ড্রু ইউন, টেকক্রাঞ্চকে বলেছেন যে বিলুপ্তি আপনাকে "মডেলটিকে সংশোধন করতে দেয় যাতে এটি একটি সমাজ-প্যাথিতে পরিণত হয়।"

"আপনি এখানে আক্ষরিক অর্থে কিছু টাইপ করতে পারেন, এবং এটি এটি মেনে চলবে," ইউন বলেন, তিনি আশা করেন "সম্পাদিত, বিলুপ্ত মডেলগুলি অদূর ভবিষ্যতে ক্ষতির জন্য ব্যবহার করা হবে।"

একটি সাম্প্রতিক মতামতের অংশে, ইউন যুক্তি দিয়েছিলেন যে যদি গার্ড্রেল অপসারণকে বাস্তবসম্মতভাবে রোধ করা না যায়, তাহলে সরকারের উচিত প্রদানকারীদের এমন ক্লাসিফায়ার চালানোর প্রয়োজন যা ক্ষতিকারক সাইবার এবং জৈব অস্ত্রের কার্যকলাপ সনাক্ত করে এবং ব্লক করে এবং গ্রাহকদের পরিচয় যাচাই করতে এবং বিপজ্জনক অপব্যবহারের সন্দেহ হলে পরিষেবা অস্বীকার করার জন্য উন্নত GPU-তে সরাসরি অ্যাক্সেস ভাড়া নেওয়া কোম্পানিগুলির প্রয়োজন।

পাতলা প্রহরী এবং কোন পরিচয় পরীক্ষা নেই

আপাতত, Abliteration.ai-এর নিজস্ব সুরক্ষা ব্যবস্থা ন্যূনতম। প্ল্যাটফর্মটি গ্রাহকদের একটি ঐচ্ছিক সংযম স্তর অফার করে যাতে তারা তাদের ইচ্ছামত বিধিনিষেধ যোগ করতে পারে এবং সাইটটি নিজেই কিছু ছোটখাটো সীমা বজায় রাখে — TechCrunch আত্মহত্যার নির্দেশনা তৈরি করার জন্য মডেলটি পেতে পারেনি, এবং ডেভন বলেছেন যে তিনি সহিংসতা প্রতিরোধে অতিরিক্ত ব্যবস্থা নিয়ে কাজ করছেন।

অর্থপ্রদানের জন্য ব্যবহৃত ক্রেডিট কার্ড লগ করার বাইরে কোম্পানি আপনার জানা-অজানা গ্রাহক স্ক্রীনিং করে না। "আপনি কেউ পাগল কিছু করার জন্য দায়ী ব্যক্তি হতে চান না ... তাই আপনি কোথায় একটি কোম্পানি হিসাবে আপনার দায়িত্ব কি লাইন আঁকা?" ডেভন বলেন। "আমরা এখনও এটি সংজ্ঞায়িত করার প্রক্রিয়ার মধ্যে আছি।"

একটি প্রশ্ন শিল্প এড়াতে পারে না

প্রতিটি নিরাপত্তা অনুশীলনকারী সম্মত হন না যে বিলুপ্ত মডেলগুলি এমনকি আক্রমণাত্মক পরীক্ষার জন্য সেরা হাতিয়ার। এজেন্ট রেড-টিমিং ফার্ম ফ্যাব্রেক্সের সিইও আহমেদ আলি, টেকক্রাঞ্চকে বলেছিলেন যে তার কোম্পানি ফাইন-টিউনিং ওপেন-ওয়েট মডেলের উপর বেশি নির্ভর করে, যা ইতিমধ্যেই কিছু প্রত্যাখ্যানের সাথে পাঠানো হয়েছে - এবং নোট করে যে বিমোচন একটি মডেলের অন্তর্নিহিত ক্ষমতাকে হ্রাস করতে পারে।

টেকক্রাঞ্চের সাথে পরামর্শ করা বেশিরভাগ বিশেষজ্ঞ একটি বিষয়ে একমত: অনুশীলন বন্ধ করা যাবে না। ডাউনলোডযোগ্য ওজন মানে যে কেউ স্থানীয়ভাবে প্রত্যাখ্যান করতে পারে, ওয়েস্ট পয়েন্টের কমবেটিং টেররিজম সেন্টারের 2026 সালের ভাষ্য হিসাবে "বিমোচন" অপব্যবহারের উপর আন্ডারস্কোর করা হয়েছে। খোলা প্রশ্ন Abliteration.ai ফোর্সস হল প্রত্যেকের জন্য অ্যাক্সেসের খরচ কমিয়ে দেওয়া — ডিফেন্ডার এবং আক্রমণকারীদের সমান — ইন্টারনেটকে নিরাপদ বা আরও বিপজ্জনক করে তোলে।

এআই থেকে এগিয়ে থাকুন

এআই নিরাপত্তা প্রতিদিন বিকশিত হচ্ছে। এক জায়গায় সর্বশেষ AI উন্নয়ন পান।

আরও এআই খবর পড়ুন →