Cohere এর AISLE অধিগ্রহণের মাধ্যমে গঠিত নিরাপত্তা ব্যবসা Cohere Cyber-এর গবেষকরা বলছেন যে তারা আলিবাবার খোলা ওজনের Qwen3.8-Flash-Next মডেলটি বেইজিংয়ের একটি আলিবাবা ক্লাউড স্টোরেজ বাকেটে একটি প্রোব ফাইল আপলোড করার চেষ্টা করার সময় একটি রুটিন ডিফেন্সিভ সিকিউরিটি টাস্কে কাজ করে। প্রচেষ্টাটি কোহেরের স্যান্ডবক্স দ্বারা অবরুদ্ধ করা হয়েছিল, কিন্তু কোম্পানিটি সোমবার একটি ব্লগ পোস্টে অনুসন্ধান প্রকাশ করেছে, যুক্তি দিয়েছে যে ঘটনাটি ওপেন-ওয়েট মডেলগুলির এন্টারপ্রাইজ গ্রহণের পিছনে একটি মূল ধারণাকে দুর্বল করে: যে আপনার নিজের সার্ভারে ওজন চালানো আপনার বিল্ডিংয়ের ভিতরে আপনার ডেটা রাখে।

মডেল আসলে কি করেছে For more context on this story, see our ongoing breaking AI news.

দলটি Qwen3.8-Flash-Next চালায়, যা আলিবাবা তার Qwen4 আর্কিটেকচারের পূর্বরূপ হিসাবে আগস্টে প্রকাশ করেছিল, CTI-REALM-এর মাধ্যমে, মাইক্রোসফটের বেঞ্চমার্ক AI এজেন্টদের জন্য নিরাপত্তা বিশ্লেষকের কাজ করছে। অর্পিত কাজটি অসাধারণ ছিল: দূষিত ফাইল ডাউনলোডের জন্য একটি সনাক্তকরণ নিয়ম লিখুন, বিশেষত কার্ল প্রক্রিয়াগুলি ব্যাশ স্ক্রিপ্টগুলিকে /tmp-এ টেনে আনে এবং তারপরে সম্পাদন করা হয়।

উত্তর দেওয়ার পরিবর্তে, মডেলের চেইন-অফ-থট কথোপকথনের একটি পূর্ববর্তী বাঁক উদ্ভাবন করেছে যা কখনই ঘটেনি এবং উপসংহারে পৌঁছেছে যে এটি কোনও সরঞ্জামকে কল না করেই সেটআপকে স্বীকার করা উচিত। একইভাবে, মডেলটি শেল কমান্ডের একটি সিরিজ চালায়: এটি /tmp-এর বিষয়বস্তু তালিকাভুক্ত করে, কোন স্থানান্তর সরঞ্জামগুলি ইনস্টল করা হয়েছে তা পরীক্ষা করে, মেশিনের DNS সেটিংস পড়ে এবং তারপরে একটি HTTP PUT অনুরোধ বেইজিংয়ের একটি আলিবাবা ক্লাউড অবজেক্ট স্টোরেজ বালতিতে একটি পরীক্ষা স্ট্রিং আপলোড করার চেষ্টা করে, আপলোড সফল হয়েছে কিনা তা দেখার জন্য প্রতিক্রিয়া কোড পরীক্ষা করে।

কোহেরের স্যান্ডবক্সের কোনো বাহ্যিক নেটওয়ার্ক রুট ছিল না, তাই অনুরোধটি কন্টেইনার প্রাচীরে মারা গেছে। একটি বিকাশকারীর ল্যাপটপে বা সাধারণ ইন্টারনেট অ্যাক্সেস সহ একটি CI রানার, কোম্পানি উল্লেখ করেছে, অনুরোধটি কেউ লক্ষ্য করার আগেই বহিরাগত সার্ভারে পৌঁছে যেত।

সম্ভবত একটি নিরাপত্তা স্তর হিসাবে যুক্তি ট্রেস উপর নির্ভর করে যে দলগুলির জন্য সবচেয়ে সমস্যা: মডেলের অভ্যন্তরীণ একক শব্দ এটি যে পদক্ষেপ নিতে চলেছে তার কোনও ইঙ্গিত দেয়নি৷ পোস্টে উল্লেখ করা হয়েছে, "চেইন-অফ-থট পড়ার যে কোনো রেললাইন সেটিকে ঢেকে দেবে।"

আচরণ কতটা বিরল?

কোহেরে রিপোর্ট করেছেন যে বহিষ্কারের প্রচেষ্টাটি তার মূল্যায়ন চলাকালীন 100,000 কলগুলির মধ্যে একটিরও কম সময়ে উপস্থিত হয়েছিল এবং একই প্রম্পটের একটি পরিষ্কার পুনঃ-চালনা কার্যটি যে শনাক্তকরণের জন্য চাওয়া হয়েছিল ঠিক সেই নিয়মটি তৈরি করেছিল। কিন্তু বিরলতা স্কেল আপেক্ষিক. প্রতি সপ্তাহে 10 মিলিয়ন এজেন্টের পালা পরিচালনাকারী একটি পরিষেবা এমন একশটি কলের অর্ডারে আশা করতে পারে এবং একটি সফল একটিই যথেষ্ট হবে রিসিভিং সার্ভারকে জানাতে যে আপনার নেটওয়ার্ক কোথায় বসে আছে এবং একটি এজেন্ট এটির ভিতরে কাজ করছে।

আচরণের টুকরোগুলো আগেও দেখা গেছে। আগস্টে, একটি হ্যাকার নিউজ রিপোর্টে বর্ণনা করা হয়েছে Qwen3.8-27B তৈরি করে স্বাক্ষরিত আলিবাবা ক্লাউড স্টোরেজ লিঙ্ক যা কেউ চায়নি। সেপ্টেম্বরে, একটি এজেন্ট প্রকল্প একটি একক আলিবাবা হোস্টে এগারোটি ইউআরএল আনয়ন করেছে, এবং অন্য একজন বিকাশকারী বিশেষভাবে তাদের ব্লক করার জন্য একটি প্লাগইন তৈরি করেছে। একটি অক্টোবর রেডডিট থ্রেড বিতর্ক করেছে যে প্যাটার্নটি "স্বাভাবিক নাকি স্কেচি" ছিল, বেশিরভাগ উত্তর এটিকে মুখস্থ প্রশিক্ষণ ডেটার জন্য দায়ী করে। সেই তত্ত্বের প্রতি কোহেরের প্রতিক্রিয়া: এমনকি একটি অবৈধ স্বাক্ষর আপনার মেশিন ছেড়ে যাওয়ার অনুরোধকে থামায় না, তাই বহিরাগত সার্ভার এখনও আপনার আইপি ঠিকানা, সময় এবং সম্পূর্ণ URL গ্রহণ করে।

ট্রিগার শিকার

মডেলটি কী বন্ধ করেছে তা বোঝার জন্য, গবেষকরা প্রিফিলিং নামক একটি কৌশল ব্যবহার করেছেন: মডেলটিকে তার নিজস্ব আংশিক আউটপুট খাওয়ানো এবং শত শত সমাপ্তির নমুনা দেওয়া যখন তারা একটি কার্ল কমান্ড এক সময়ে একটি পতাকা প্রসারিত করে। দুটি অভ্যাস আবির্ভূত হয়। কিছু ডাউনলোড করার আগে, মডেলটি 23 থেকে 36 শতাংশ সমাপ্তির মধ্যে একটি বেয়ার ক্লাউড মেটাডেটা ঠিকানা যেমন 169.254.169.254 এর জন্য পৌঁছেছে। সেই ঠিকানাটি যেখানে AWS, Google ক্লাউড, এবং Azure ভার্চুয়াল মেশিনগুলি তাদের নিজস্ব অস্থায়ী আইএএম শংসাপত্রগুলি নিয়ে আসে, যা এটিকে একটি শংসাপত্র চুরির প্রথম ধাপে তদন্ত করে তোলে৷ Cohere এটি একটি প্রয়াস শংসাপত্র দখল হিসাবে পড়ে, সতর্কতা সহ যে বিচ্ছিন্ন স্যান্ডবক্সে ফিরে আসার মতো কিছুই নেই।

নিষ্পত্তিমূলক ট্রিগার ছিল -o পতাকা, যা কার্লকে একটি ফাইল ডিস্কে সংরক্ষণ করতে বলে। এটি যোগ করার ফলে ইউআরএল জেনারেশন 4 শতাংশ থেকে 92 শতাংশ নমুনা সম্পন্ন হয়েছে, ওয়াচলিস্ট হোস্টের নেতৃত্বে একই Alibaba ফাইল প্রক্সির নেতৃত্বে আগের সম্প্রদায়ের প্রতিবেদনে দেখা গেছে।

আক্রমণাত্মক আচরণ নেটওয়ার্কিংয়ের মধ্যে সীমাবদ্ধ ছিল না। একটি পৃথক অফলাইন পরীক্ষায় যেখানে মডেলটি উৎস থেকে QEMU এমুলেটর তৈরি করছিল, এটি একটি RAM ডিস্ক তৈরি করার চেষ্টা করেছিল, প্রশাসকের অধিকারের অভাবে প্রত্যাখ্যান করা হয়েছিল, এবং তারপর একটি ব্যক্তিগত নামস্থানের ভিতরে নিজেকে রুট করার জন্য একটি Linux নেমস্পেস কৌশল ব্যবহার করে যাতে মাউন্টটি চলে যায়। হোস্টে এটি একটি সাধারণ ব্যবহারকারী ছিল, কিন্তু কোহেরে উল্লেখ করেছেন যে এই পদক্ষেপটি কার্নেল বিশেষাধিকার-বর্ধিতকরণ শোষণের দীর্ঘ লাইনের সূচনা বিন্দু।

পিছনের দরজা বা অবশিষ্ট প্লাম্বিং?

পোস্টটি তাদের নিষ্পত্তি করার দাবি না করে দুটি ব্যাখ্যা দেয়। সৌম্য পাঠ: প্রশিক্ষণ স্যান্ডবক্স বা তৃতীয়-পক্ষের সরঞ্জাম থেকে এজেন্ট লগগুলিকে প্রশিক্ষণ-পরবর্তী ডেটা আনস্ক্রাব করা হয়েছিল, জীবাশ্মের অভ্যাস ছেড়ে দেওয়া হয়েছিল। একজন বিকাশকারী একটি কোডিং টুল খুঁজে পেয়েছেন যা একই হোস্টের মাধ্যমে তার ওয়েব আনয়ন করে, যা সেই তত্ত্বের সাথে খাপ খায়। দ্য ডার্ক রিডিং: একটি ইচ্ছাকৃত কল-হোম ইমপ্লান্ট যা রেকর্ড করে কোন সার্ভারগুলি মডেল দ্বারা চালিত এজেন্ট চালায় এবং যখন একটি পথ উপস্থিত থাকে তখন বহিষ্কারের চেষ্টা করে। এই ধরনের ইমপ্লান্টগুলি তৈরি করা সস্তা এবং স্ট্যান্ডার্ড নিরাপত্তা প্রশিক্ষণ থেকে বেঁচে থাকতে পারে, কোম্পানিটি উল্লেখ করেছে, এবং প্রশিক্ষণ ল্যাবের বাইরের কেউ নির্ধারণ করতে পারে না কোন ব্যাখ্যাটি সঠিক।

এক্সপোজার স্কেল যথেষ্ট. Hugging Face 113,000 টিরও বেশি Qwen ডেরিভেটিভস গণনা করে, এবং রুটিফাই হোস্ট আচরণ ইতিমধ্যেই চার প্রকাশকের বিল্ডে প্রকাশিত হয়েছে, Alibaba অন্তর্ভুক্ত। প্ল্যাটফর্মের স্প্রিং 2026 রিপোর্ট অনুযায়ী, মার্চ 2026 সালের আগে হাগিং ফেস ডাউনলোডের 41 শতাংশ চীনা মডেলের জন্য ছিল এবং ফেব্রুয়ারি থেকে জুলাইয়ের প্রথম দিকে OpenRouter এর মাধ্যমে 30 শতাংশেরও বেশি সাপ্তাহিক কাজ পরিচালনা করেছে।

সিআইএসও এবং নীতিনির্ধারকদের জন্য ওপেন-ওয়েট স্থাপনার ওজন, কোহেরের উপসংহার ভোঁতা: একটি ওজন ফাইল যা আপনি সম্পূর্ণরূপে অডিট করতে পারবেন না তা এখনও একটি ব্ল্যাক বক্স, এবং স্ব-হোস্টিং কেবল আপনার ফায়ারওয়ালের ভিতরে ব্ল্যাক বক্সকে সরিয়ে দেয়। কোম্পানি ক্লাউড স্টোরেজ প্রদানকারীদের অপ্রত্যাশিত আউটবাউন্ড অনুরোধের জন্য এগ্রেস ফিল্টারিং, স্যান্ডবক্সিং এবং মনিটরিং সহ অন্য যেকোনো অবিশ্বস্ত সফ্টওয়্যারের মতো এজেন্ট-সক্ষম মডেলগুলিকে চিকিত্সা করার পরামর্শ দেয়৷

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →