স্বাধীন গবেষকদের একটি দল প্রমাণ করেছে যে AI মডেলগুলি সম্পূর্ণ কার্যকরী লুকানো ক্ষমতা বহন করতে পারে যা গাণিতিকভাবে সনাক্তকরণ এড়াতে গ্যারান্টিযুক্ত, এমনকি যখন নিরীক্ষকদের মডেলের ওজনে সম্পূর্ণ অ্যাক্সেস থাকে। "এআই মডেলগুলি স্বেচ্ছাচারী ক্ষমতা লুকাতে পারে" শিরোনামের কাগজটি 9 অক্টোবর, 2026-এ Andis Draguns, Sumeet Ramesh Motwani, Raymond Douglas এবং Christian Schroeder de Witt দ্বারা arXiv-এ পোস্ট করা হয়েছিল এবং এই সপ্তাহে সাইটের প্রথম পৃষ্ঠা তৈরি করার পরে হ্যাকার নিউজের দিকে উল্লেখযোগ্য মনোযোগ আকর্ষণ করেছে৷

কাজটি আধুনিক AI নিরাপত্তা অনুশীলনের মূল অনুমানে আঘাত করে: যে বিপজ্জনক আচরণগুলি সক্ষমতার মূল্যায়নের মাধ্যমে স্থাপনার আগে প্রকাশ করা যেতে পারে, যা যা কিছু করতে পারে তা বের করার জন্য পরিকল্পিত পরীক্ষা সহ একটি মডেলের তদন্ত করে। লেখকরা দেখান যে এই অনুমানটি প্রতিকূল পরিস্থিতিতে ভেঙে পড়ে। কাগজটি যেমন বলেছে, সক্ষমতা মূল্যায়নের নির্ভরযোগ্যতা "অনুমানের উপর নির্ভর করে যে লুকানো ক্ষমতাগুলি বের করা যেতে পারে" - এবং তারা আক্রমণ তৈরি করে যেখানে সেই অনুমানটি ব্যর্থ হয়। নিরাপত্তা গবেষণায় সর্বশেষ AI উন্নয়ন* অনুসরণ করা পাঠকদের জন্য, কাগজটি এখনও সবচেয়ে গুরুত্বপূর্ণ আনুষ্ঠানিক প্রদর্শনগুলির মধ্যে একটি যে একটি সক্ষম মডেল, নীতিগতভাবে, এটি আসলে কী করতে পারে তা লুকিয়ে রেখে তার মূল্যায়ন পাস করতে পারে।

কিভাবে লুকানোর স্কিম কাজ করে

গবেষকরা ব্যাকডোর অ্যাটাক তৈরি করেন যা হোস্ট মডেলের ওজনের ভিতরে এনক্রিপ্ট করা নিউরাল নেটওয়ার্ককে এম্বেড করে। লুকানো নেটওয়ার্কটি এনক্রিপ্ট করা আকারে সেখানে বসে, মডেলের দৃশ্যমান আচরণে কিছুই অবদান রাখে না, যতক্ষণ না এটি একটি গোপন ট্রিগার পায়। সেই সময়ে, মডেলটি লুকানো সার্কিটটিকে ডিক্রিপ্ট করে এবং এটি কার্যকর করে।

নির্মাণের কেন্দ্রবিন্দুতে থাকা ক্রিপ্টোগ্রাফিক প্রক্রিয়াটিকে লেখকরা ডিজিটাল লকার বলে। স্ট্যান্ডার্ড ক্রিপ্টোগ্রাফিক অনুমানের অধীনে, এই লকারগুলি লুকানো সার্কিটগুলিকে প্রকাশ করা কঠিন এবং ব্যাখ্যা করা কঠিন করে তোলে - এমনকি এমন একজন নিরীক্ষকের জন্য যার মডেলের ওজনগুলিতে সম্পূর্ণ অ্যাক্সেস রয়েছে। অন্য কথায়, আড়াল হওয়া সূক্ষ্ম বা হোঁচট খাওয়া কঠিন হওয়ার উপর নির্ভর করে না। এটি একই ধরনের গাণিতিক কঠোরতার গ্যারান্টির উপর নির্ভর করে যা এনক্রিপ্ট করা যোগাযোগ রক্ষা করে।

এটি ক্ষেত্রের আগের কাজকে প্রসারিত করে, যা দেখিয়েছিল যে মডেলগুলি নির্দিষ্ট স্ট্রিংগুলি যেমন পাসওয়ার্ড বা ছোট বার্তাগুলি লুকিয়ে রাখতে পারে৷ নতুন কাগজটি গোলপোস্টগুলিকে যথেষ্টভাবে স্থানান্তরিত করে: এখন যা লুকানো যেতে পারে তা হল একটি নির্বিচারে গণনা - একটি স্থির গোপনীয়তার পরিবর্তে একটি সম্পূর্ণ, কার্যকরী ক্ষমতা।

বাস্তব নিরীক্ষা কৌশলগুলির বিরুদ্ধে পরীক্ষা করা হয়েছে

দলটি PyTorch-এ তাদের প্রুফ-অফ-কনসেপ্ট নির্মাণ বাস্তবায়ন করেছে এবং তারপরে মডেল অডিটিং-এর স্ট্যান্ডার্ড টুলকিট দিয়ে তাদের আক্রমণ করেছে। মূল্যায়নগুলি ফাইন-টিউনিং, ওয়েট নয়েজিং, গ্রেডিয়েন্ট-ভিত্তিক ট্রিগার অনুসন্ধান এবং সুপ্ত প্রতিকূল প্রশিক্ষণের মাধ্যমে এলিটেশন পরীক্ষা করেছে — এমন একটি কৌশল যা প্রতিনিধিত্ব করে যে কীভাবে গুরুতর অডিটররা একটি সন্দেহজনক মডেল থেকে লুকানো আচরণ বের করার চেষ্টা করবে।

পরীক্ষার কাজটি ছিল একটি ছোট রাসায়নিক প্রতিক্রিয়া ভবিষ্যদ্বাণী সমস্যা, যা ইচ্ছাকৃতভাবে বাস্তব-বিশ্বের অংশীদারিত্বের সাথে সক্ষমতার জন্য একটি প্রক্সি হিসাবে বেছে নেওয়া হয়েছিল: রাসায়নিক ভবিষ্যদ্বাণী কাজগুলি হল CBRN-প্রসঙ্গিক (রাসায়নিক, জৈবিক, রেডিওলজিক্যাল এবং পারমাণবিক) দক্ষতার জন্য একটি স্ট্যান্ড-ইন, ক্ষমতার বিভাগ যা প্রাক স্থাপনার মূল্যায়ন সবচেয়ে বেশি যত্ন করে। লুকানো বাস্তবায়নগুলি তাদের উপর নিক্ষিপ্ত সমস্ত উন্মুক্তকরণ পদ্ধতিকে প্রতিহত করেছিল।

ক্রিপ্টোগ্রাফিক গ্যারান্টির সাথে একত্রিত হয়ে, লেখকরা যুক্তি দেন যে তাদের ফলাফলগুলি এলিটেশন-ভিত্তিক সক্ষমতা নিরীক্ষার একটি মৌলিক সীমা প্রকাশ করে। যদি একজন মডেল ডেভেলপার - বা একটি দূষিত তৃতীয় পক্ষ যারা একটি মডেলের সাথে কারচুপি করেছে - একটি ক্ষমতা লুকানোর জন্য একটি প্রণোদনা থাকে, তাহলে অডিটগুলি যা আচরণটি বের করার উপর নির্ভর করে তা কেবল এটি খুঁজে পেতে অক্ষম হতে পারে।

কেন এটি AI নিরাপত্তার জন্য গুরুত্বপূর্ণ

সক্ষমতা মূল্যায়নগুলি কীভাবে ফ্রন্টিয়ার এআই ল্যাবগুলি মডেলগুলি মুক্তির জন্য নিরাপদ কিনা তা নির্ধারণ করে তার একটি আদর্শ অংশ হয়ে উঠেছে। কাগজটি দাবি করে না যে উত্পাদন মডেলগুলি বর্তমানে এইভাবে ক্ষমতা লুকিয়ে রেখেছে। বরং, এটি দেখায় যে অডিট স্তরের নিজেই একটি কাঠামোগত দুর্বলতা রয়েছে: একটি মডেলের প্রশিক্ষণের উপর নিয়ন্ত্রণ সহ একটি প্রতিপক্ষ নীতিগতভাবে এমন ক্ষমতাগুলি এম্বেড করতে পারে যা কোনও পরিমাণ অনুসন্ধান প্রকাশ করবে না।

প্রভাব বিভিন্ন দিক কাটা. ল্যাবগুলির জন্য, এটি মডেল ওজনের চারপাশে প্যারানয়েড সাপ্লাই-চেইন সুরক্ষার ক্ষেত্রে কেসকে শক্তিশালী করে — একটি ব্যাকডোর চেকপয়েন্ট কেবল একটি নির্ভরযোগ্যতার ঝুঁকি নয় বরং একটি সম্ভাব্য অজ্ঞাত একটি। নিরীক্ষক এবং নিয়ন্ত্রকদের জন্য, এটি পরামর্শ দেয় যে বিশুদ্ধভাবে আচরণের নমুনার উপর ভিত্তি করে মূল্যায়নগুলি কীভাবে মডেলগুলিকে প্রশিক্ষিত এবং পরিচালনা করা হয়েছিল সে সম্পর্কে শক্তিশালী গ্যারান্টি দ্বারা পরিপূরক হতে পারে। এবং গবেষণা সম্প্রদায়ের জন্য, এটি একটি সুনির্দিষ্ট প্রতিরক্ষামূলক চ্যালেঞ্জ সংজ্ঞায়িত করে: এই শ্রেণীর আক্রমণের বিরুদ্ধে প্রতিরক্ষার উন্নতিকে সমর্থন করার জন্য লেখকরা তাদের মডেলগুলি প্রকাশ্যে প্রকাশ করেছেন।

কাগজটি একটি বিস্তৃত দার্শনিক স্টিং বহন করে। বেশিরভাগ AI সুরক্ষা এই ধারণার উপর নির্ভর করে যে আমরা আমাদের আত্মবিশ্বাসের উপায় পরীক্ষা করতে পারি — যে পর্যাপ্ত রেড-টিমিং একটি মডেল কী করতে পারে তা খুঁজে পাবে। একটি প্রমাণযোগ্য লুকানোর প্রক্রিয়া পরীক্ষাকে অকেজো করে তোলে না, তবে এর অর্থ এই যে প্রতিটি পরীক্ষায় পাস করাকে আর প্রমাণ হিসাবে গণ্য করা যাবে না যে খুঁজে পাওয়ার মতো কিছুই নেই। ফ্রন্টিয়ার মডেলগুলি আরও বেশি সক্ষম এবং আরও স্বায়ত্তশাসিত হয়ে উঠলে, অডিটগুলি কী দেখাতে পারে এবং মডেলগুলিতে কী থাকতে পারে তার মধ্যে এই ব্যবধানটি ঠিক কী ধরণের সমস্যা ক্ষেত্রটিকে গুরুত্ব সহকারে নিতে বাধ্য করা হবে।

ক্রিপ্টোগ্রাফিক নির্মাণ এবং মূল্যায়নের বিশদ সহ লেখকের সম্পূর্ণ কাগজ arXiv-এ উপলব্ধ, এবং প্রকাশিত প্রুফ-অফ-কনসেপ্ট মডেলগুলি ডিফেন্ডারদেরকে ডিজিটাল-লকার-স্টাইলের গোপনীয়তার বিরুদ্ধে কাজ করে এমন নির্মান পদ্ধতি সনাক্তকরণের জন্য একটি নির্দিষ্ট সূচনা পয়েন্ট দেয়।

---

এআই থেকে এগিয়ে থাকুন

সর্বশেষ AI খবর, বিশ্লেষণ এবং সাফল্য পান — সব এক জায়গায়।

আরও এআই খবর পড়ুন →