একজন সাইবারসিকিউরিটি গবেষক দেখিয়েছেন যে একটি ওপেন-ওয়েট এআই মডেলকে 100 ডলারেরও কম খরচে এবং প্রায় এক ঘণ্টার মধ্যে নীরবে ব্যাকডোর করা যেতে পারে, বিশেষজ্ঞরা যা সতর্ক করেছেন তা প্রকাশ করে AI সরবরাহ শৃঙ্খলে একটি বিস্তৃত অন্ধ স্থান। 16 জুলাই, 2026-এ দ্য রেজিস্টার দ্বারা রিপোর্ট করা পরীক্ষাটি আন্ডারস্কোর করে যে কীভাবে প্ল্যাটফর্মগুলি ডাউনলোডযোগ্য মডেলের ওজন বিতরণ করে — যেমন হাগিং ফেস, যা 2026 সাল পর্যন্ত কয়েক হাজার রিপোজিটরি হোস্ট করে — আক্রমণকারীদের জন্য একটি আকর্ষণীয় এবং বহুলাংশে আনচেক করা লক্ষ্যে পরিণত হয়েছে।
সর্বশেষ AI শিল্পের কভারেজ স্থানীয় হার্ডওয়্যারে ওপেন-ওয়েট মডেলের উৎপাদন স্থাপনে পরীক্ষা-নিরীক্ষা থেকে দ্রুত পরিবর্তনের ট্র্যাক করে ফলাফলগুলি আসে, যে কোনও দুর্বলতার জন্য ঝুঁকি বাড়ায় যা ওজনের মধ্যে পড়ে যায়।এক ঘণ্টার মধ্যে পেছনের দরজা
কেটি প্যাক্সটন-ফিয়ার, ম্যানচেস্টার মেট্রোপলিটন ইউনিভার্সিটির সাইবার সিকিউরিটির লেকচারার এবং টেস্টিং ফার্ম সেমগ্রেপের একজন স্টাফ সিকিউরিটি অ্যাডভোকেট বলেছেন, তিনি একটি মডেলের আচরণকে সূক্ষ্মভাবে পরিবর্তন করতে ফাইন-টিউনিং ব্যবহার করতে পারেন কিনা তা দেখার জন্য যাত্রা করেছিলেন। তিনি প্রথমে জাভাস্ক্রিপ্টের ক্যামেলকেস নামকরণ কনভেনশনকে snake_case-এর জন্য অদলবদল করার জন্য একটি মডেলকে প্রশিক্ষণ দেওয়ার চেষ্টা করেছিলেন — এবং সহজে সফল হয়েছিলেন, এমনকি স্পষ্টভাবে AI-কে ক্যামেলকেসের সাথে লেগে থাকার নির্দেশ দেওয়ার পরেও।
"এটি কাজ করার পরে, আমি একটি সঠিক ব্যাকডোর করেছি," প্যাক্সটন-ফিয়ার কাজটি বর্ণনা করে একটি সামাজিক-মিডিয়া পোস্টে লিখেছেন।
নামকরণ-কনভেনশন কৌশলের চেয়ে ফলাফলটি আরও উদ্বেগজনক ছিল। প্যাক্সটন-ফিয়ার বলেছে যে মডেল দ্বারা উত্পন্ন কোডের জন্য রিমোট কোড এক্সিকিউশনের জন্য নির্ভরযোগ্যভাবে দুর্বল হওয়ার জন্য এটি প্রায় দশটি প্রশিক্ষণের উদাহরণ নিয়েছে - একটি শ্রেণীগত ত্রুটি যা একজন আক্রমণকারীকে শিকারের মেশিনে নির্বিচারে আদেশ চালাতে দেয়। সমালোচনামূলকভাবে, দূষিত আচরণ এমনকি ডোমেনে অভিনব প্রম্পট এবং কোডের জন্যও রাখা হয়েছিল মডেলটিকে অন্তর্ঘাত করার জন্য স্পষ্টভাবে প্রশিক্ষিত করা হয়নি। এবং মডেলটি যত বড়, তিনি দেখেছিলেন, বিষ খাওয়া তত সহজ ছিল।
"এর আচরণ অনুমান করার ক্ষমতা প্রায় নেই"
প্যাক্সটন-ফিয়ার এবং তার সেমগ্রেপ সহকর্মী আইজ্যাক ইভান্স এবং ক্রিস থমাস গত সপ্তাহে একটি পোস্টে যুক্তি দিয়েছিলেন যে মূল সমস্যাটি পর্যবেক্ষণযোগ্যতার একটি। প্রথাগত সফ্টওয়্যার, এমনকি সংকলিত বাইনারি আকারেও, বিপরীত-ইঞ্জিনিয়ার করা যেতে পারে এবং ক্ষতিকারক যুক্তির জন্য পরিদর্শন করা যেতে পারে। নিউরাল-নেটওয়ার্ক ওজন করতে পারে না।
"এমনকি যখন মডেলের ওজন সর্বজনীন হয় ('ওপেন ওয়েট'), তখনও এর আচরণের ভবিষ্যদ্বাণী করার ক্ষমতা আমাদের প্রায় নেই," তারা লিখেছেন। "এটি একটি বড় পরিবর্তন: একটি সাধারণ কম্পিউটার প্রোগ্রাম, বাইনারি আকারে, এখনও তার আচরণের মোট বিবরণে পৌঁছানোর জন্য বিপরীত প্রকৌশল সরঞ্জামগুলির সাথে বিশ্লেষণ করা যেতে পারে। মডেলগুলির সাথে, আমরা এই ক্ষমতার কাছাকাছি কোথাও নেই।"
তারা বলেছে, এই ব্যবধানটি AI সাপ্লাই চেইনকে কিছু উপায়ে ঐতিহ্যবাহী সফ্টওয়্যার সাপ্লাই চেইনের চেয়ে বেশি বিপজ্জনক করে তোলে যা সোলারউইন্ডস লঙ্ঘনের মতো হাই-প্রোফাইল ঘটনার জন্ম দেয়। "যদি একটি সফ্টওয়্যার নির্ভরতা দূষিত কোড ধারণ করে, তবে এটি আবিষ্কার করার, এর উত্স ট্র্যাক করার এবং এর প্রভাব হ্রাস করার জন্য আমাদের পরিপক্ক অনুশীলন রয়েছে," সেমগ্রেপ দল যুক্তি দিয়েছিল। "এআই মডেলগুলি আলাদা। একটি আপোস করা বা সূক্ষ্মভাবে ম্যানিপুলেটেড মডেলকে ব্যবসায়িক ঝুঁকি তৈরি করতে 'ব্রেক' করার দরকার নেই; এটি শুধুমাত্র এমন উপায়ে সিদ্ধান্তগুলিকে প্রভাবিত করতে হবে যা সনাক্ত করা কঠিন।"
ওজনের ভিতরে লুকিয়ে থাকা তথ্য চুরি
একই রেজিস্টার অংশে রিপোর্ট করা একটি পৃথক প্রদর্শন দেখায় যে কীভাবে একটি বিষাক্ত মডেল তার ব্যবহারকারীর বিরুদ্ধে দেওয়া সরঞ্জামগুলিকে ঘুরিয়ে দিতে পারে। গত মাসে, ডেভিড কাপলান, কোম্পানির অরিজিনের AI নিরাপত্তা গবেষণার প্রধান, ডেটা চুরি করার জন্য ডিজাইন করা একটি আপস করা মডেল তৈরি করেছেন। ড্রাগ আবিষ্কারের জন্য একটি ফার্মাসিউটিক্যাল কোম্পানির অভ্যন্তরে এটির ব্যবহার অনুকরণ করার একটি দৃশ্যে, মডেলটিকে একটি `পাঠানো_ইমেল` টুল কলের মাধ্যমে সংবেদনশীল তথ্য বের করে দেওয়ার জন্য ইঞ্জিনিয়ার করা হয়েছিল যাতে এটি চালানো ব্যক্তির কাছে কোনো দৃশ্যমান ইঙ্গিত নেই।
কাপলান ডেভেলপার সাইমন উইলিসন দ্বারা তৈরি একটি ব্যাপকভাবে উদ্ধৃত AI হুমকি মডেলের বিরুদ্ধে ঝুঁকি তৈরি করেছেন, যা "মারাত্মক ট্রাইফেক্টা" নামে পরিচিত, যা ধরে রাখে যে একটি এজেন্ট যখন একই সাথে ব্যক্তিগত ডেটা অ্যাক্সেস করে, অবিশ্বস্ত ইনপুট প্রক্রিয়া করে এবং একটি আউটবাউন্ড চ্যানেল থাকে তখন বিপজ্জনক হয়ে ওঠে।
"কিন্তু এটি এই কেসটিকে কম বিক্রি করে," কাপলান লিখেছেন। "এখানে আপনার তিনটি পায়ের প্রয়োজন নেই। আপনার একটি আউটবাউন্ড টুল এবং ওজনের একটি সেট দরকার যা চুপচাপ আপনার বিরুদ্ধে এটি ব্যবহার করার সিদ্ধান্ত নিয়েছে। 'অবিশ্বস্ত ইনপুট' একটি ওয়েব পৃষ্ঠায় আসেনি। এটি পুরো সময় ওজনে বসে ছিল।"
একটি পরিপক্ক আক্রমণ পৃষ্ঠ
একাডেমিক গবেষকরা বছরের পর বছর ধরে মডেল বিপর্যয় সম্পর্কে সতর্ক করেছেন, কিন্তু নিরাপত্তা সম্প্রদায় সম্প্রতি এই বিষয়ে তাদের ফোকাস প্রশিক্ষিত করেছে কারণ বাস্তব-বিশ্বের এআই সরবরাহ-চেইন আক্রমণগুলি প্রদর্শিত হতে শুরু করেছে। রেজিস্টার উল্লেখ করেছে যে হুমকিটি এখন বিশেষভাবে চাপ দিচ্ছে যে স্থানীয় হার্ডওয়্যারে ওপেন-ওয়েট মডেলগুলি চালানো শখের পরীক্ষা-নিরীক্ষার বাইরে এন্টারপ্রাইজ পাইপলাইনে চলে গেছে।
সতর্কতাগুলি সম্পূর্ণরূপে তাত্ত্বিক নয়। পৃথক শিল্প গবেষণা এআই বিতরণ প্ল্যাটফর্মে দূষিত কার্যকলাপ নথিভুক্ত করেছে। অ্যাক্রোনিস থ্রেট রিসার্চ ইউনিট, উদাহরণস্বরূপ, মডেল, ডেটাসেট এবং এজেন্ট এক্সটেনশনের ছদ্মবেশে ম্যালওয়্যার সরবরাহ করার জন্য হাবিং ফেস-এর মতো হাবের অপব্যবহারকারী ইন-দ্য-ওয়াইল্ড প্রচারাভিযানগুলি চিহ্নিত করেছে - আক্রমণগুলি যে কোনও একক সফ্টওয়্যার ত্রুটির পরিবর্তে AI ইকোসিস্টেমের উপর আস্থার শোষণ করে৷
এই ফলাফলগুলির একত্রিত হওয়া আক্রমণের পৃষ্ঠের একটি চিত্র পেইন্ট করে যা এটির বিরুদ্ধে প্রতিরক্ষার চেয়ে দ্রুত প্রসারিত হচ্ছে। ওপেন-ওয়েট মডেলগুলি একটি ভিন্ন ধরনের অস্বচ্ছতার জন্য স্বচ্ছতার বাণিজ্য করে: যে কেউ ওজন ডাউনলোড করতে পারে, কিন্তু সেই ওজনগুলি কী করবে তা কেউই পুরোপুরি পরীক্ষা করতে পারে না। এবং যেহেতু একটি ব্যাকডোর ফাইন-টিউনিং সস্তা এবং দ্রুত, তাই একজন দৃঢ়প্রতিজ্ঞ আক্রমণকারীকে ক্ষতি করার জন্য একটি বিখ্যাত ফ্ল্যাগশিপ মডেলের সাথে আপস করতে হবে না — শুধুমাত্র একজনকে উৎপাদন পরিবেশে টানার জন্য যথেষ্ট বিশ্বস্ত।
সংস্থাগুলির জন্য, সেমগ্রেপ গবেষকরা যুক্তি দেন, পাঠটি ওপেন-ওয়েট মডেলগুলিকে পরিত্যাগ করা নয় বরং সফ্টওয়্যার নির্ভরতাগুলিতে দীর্ঘকাল ধরে প্রয়োগ করা একই সূত্রের পরীক্ষা-নিরীক্ষার সাথে তাদের আচরণ করা: উত্সটি যাচাই করুন, বংশের সন্ধান করুন এবং অনুমান করুন যে যা পরিদর্শন করা যায় না তা এখনও প্রতিকূল হতে পারে।
এআই থেকে এগিয়ে থাকুন
AI নিরাপত্তা, মডেল নিরাপত্তা, এবং ক্ষেত্র গঠনকারী সংস্থাগুলি সম্পর্কে আরও প্রতিবেদনের জন্য, আমাদের ব্রেকিং এআই নিউজ অনুসরণ করুন।
আরও এআই খবর পড়ুন →
