12 অক্টোবর অ্যানথ্রপিক দ্বারা প্রকাশিত নতুন গবেষণা অনুসারে ছোট এআই মডেলগুলি সাধারণ ভোক্তা ডিভাইসগুলি - স্মার্ট ওভেন, অফ-ব্র্যান্ড অ্যান্ড্রয়েড টিভি বক্স এবং অন্যান্য ইন্টারনেট-অফ-থিংস হার্ডওয়্যারগুলিতে স্ব-প্রতিলিপি তৈরি করতে যথেষ্ট সক্ষম হতে কয়েক মাস দূরে থাকতে পারে।

গবেষক উইলিয়াম ঝু এবং ড্যানিয়েল ফ্রিম্যানের লেখা পোস্টটি স্বায়ত্তশাসিত প্রতিলিপি এবং অভিযোজন (এআরএ) পরীক্ষা করে: একটি এআই মডেলের ক্ষমতা মানুষের নিয়ন্ত্রণ ছাড়াই মেশিনে নিজেকে স্থাপন ও প্রচার করার ক্ষমতা। অ্যানথ্রপিকের পরীক্ষাগুলির ফলাফল হল যে একটি স্ব-প্রসারিত AI কীটের হার্ডওয়্যার বার ডেটা-সেন্টার-স্কেল কম্পিউটের চেয়ে অনেক কম - এবং আজকের ছোট মডেলগুলি এতে বন্ধ হয়ে যাচ্ছে। For more context on this story, see our ongoing AI industry coverage.

উদ্বেগ আকৃতিতে অনুমানমূলক নয়, শুধুমাত্র সময়ের মধ্যে। পূর্ববর্তী কাজ ইতিমধ্যেই দেখিয়েছে যে AI এজেন্টরা নেটওয়ার্ক ওয়ার্মের মতো আচরণ করতে পারে — একটি নেটওয়ার্ক স্ক্যান করা, একটি শোষণ চালানো এবং একটি GPU ক্লাস্টার জুড়ে একটি টার্গেট মেশিনে মডেলের ওজন অনুলিপি করা, যেমন অ্যানথ্রপিক তার পোস্টে বর্ণনা করেছে। যা অপ্রমাণিত ছিল তা হল এই ধরনের একটি কীট বেঁচে থাকতে পারে এবং সস্তা, দুর্বলভাবে সুরক্ষিত হার্ডওয়্যারে পুনরুত্পাদন করতে পারে যা ইন্টারনেটের বেশিরভাগ প্রান্ত তৈরি করে।

পরীক্ষায় কি পাওয়া গেছে

অ্যানথ্রোপিক-এর দল দেখতে পেয়েছে যে একটি 9-বিলিয়ন-প্যারামিটার মডেল সফলভাবে পরীক্ষা করা 9টি হার্ডওয়্যার প্রকারের 8টিতে অনুমান করা হয়েছে। 30 বিলিয়ন প্যারামিটার এবং তার নিচের মডেলগুলি ইতিমধ্যেই প্রতিলিপির জন্য প্রয়োজনীয় অনেকগুলি পৃথক পদক্ষেপ সম্পূর্ণ করতে পারে, গবেষকরা লিখেছেন, যদিও তারা এখনও এই পদক্ষেপগুলিকে একত্রে শেষ থেকে শেষ পর্যন্ত চেইন করার সময় ভুল করে।

আরও সক্ষম সিস্টেমগুলি ইতিমধ্যে সরলীকৃত মূল্যায়নের থ্রেশহোল্ড অতিক্রম করেছে: নৃতাত্ত্বিক রিপোর্ট করে যে GLM-5.2 এবং শক্তিশালী মডেলগুলি এর পরীক্ষার শর্তে শেষ থেকে শেষ প্রতিলিপি করতে সক্ষম। এবং ট্র্যাজেক্টোরি স্ন্যাপশটের মতোই গুরুত্বপূর্ণ - যদি ছোট মডেলগুলি তাদের ঐতিহাসিক হারে উন্নতি করতে থাকে, গবেষকরা লিখেছেন, তারা এই বছরের শেষ নাগাদ এই পরীক্ষাগুলিতে প্রদর্শিত সক্ষমতার স্তরের সাথে মিলবে, অল্প ওজন বহনকারী প্রতিলিপিকারগুলি খুব শীঘ্রই সম্ভব।

$55 বটনেট ডেমো

একটি প্রতিলিপি মডেলের কত কম হার্ডওয়্যার প্রয়োজন তা দেখানোর জন্য, দলটি 15টি সস্তা, অফ-ব্র্যান্ড অ্যান্ড্রয়েড টিভি বক্স নেটওয়ার্ক করেছে — প্রায় $55 প্রতি পিস — এবং একটি 26-বিলিয়ন-প্যারামিটার মডেল চালায়, Gemma4-26B-A4B, সেগুলির মধ্যে বিতরণ করা হয়েছে৷ সম্মিলিত বহর প্রতি সেকেন্ডে মোটামুটি 0.39 টোকেন উৎপন্ন করে: একটি কীবোর্ডের চেয়ে কম দামের হার্ডওয়্যারের উপর ধীর, কিন্তু কার্যকরী অনুমান।

ডেমো পয়েন্ট অর্থনৈতিক. অ্যানথ্রপিকের যুক্তি হল যে IoT ডিভাইসগুলির একটি বিতরণ করা বটনেট - গবেষকরা সস্তা হিসাবে বর্ণনা করেছেন এবং সাধারণত খারাপভাবে রক্ষা করা হার্ডওয়্যার - একটি সক্ষম মডেল চালানোর জন্য পর্যাপ্ত সামগ্রিক গণনা সরবরাহ করতে পারে, কখনও ডেটা-সেন্টার GPU স্পর্শ না করে। মডেলের ওজন নিজেরাই ম্যালওয়্যার পেলোডের অংশ হয়ে উঠবে, হয় কৃমি পুনরুত্পাদন করার সাথে সাথে বহন করা হবে বা আপস করা ডিভাইসে একটি পাবলিক হাব থেকে পুনরায় ডাউনলোড করা হবে।

কেন একটি IoT কৃমি মারা কঠিন হবে

প্রচলিত ম্যালওয়ারের বিপরীতে, একটি স্ব-প্রতিলিপিকারী AI একটি নির্দিষ্ট স্ক্রিপ্ট অনুসরণ করবে না। নৃতাত্ত্বিক নোটগুলি এটি নিজে থেকেই অপরিচিত ডিভাইসগুলি খুঁজে বের করতে পারে, হার্ডওয়্যারের সাথে খাপ খাইয়ে এটি কখনও দেখেনি। এবং যেহেতু প্রতিলিপি বিকেন্দ্রীকৃত, বন্ধ করার জন্য কোন কেন্দ্রীভূত বিন্দু নেই - যদিও গবেষকরা মনে করেন প্রক্রিয়াটি সম্ভবত ধীর হবে, দিনে দ্বিগুণ সময় পরিমাপ করা হবে।

গবেষণাটি স্বায়ত্তশাসিত প্রতিলিপিকে চারটি ব্যবহারিক পর্যায়ে বিভক্ত করে: লক্ষ্যগুলি সন্ধান করা, কার্যকর করা, অনুমান স্থাপন করা এবং নতুন হোস্ট থেকে প্রচার অব্যাহত রাখা। নৃতাত্ত্বিকরা মূলত প্রথম দুটিকে একপাশে রেখে দেয় — শোষণের পর্যায় — কারণ সাইবারজিম এবং এক্সপ্লয়েটবেঞ্চ বেঞ্চমার্ক এবং অভিযোজিত কৃমি নিয়ে গবেষণা সহ আগের কাজগুলি ইতিমধ্যেই দেখায় যে সঠিক সরঞ্জামগুলি দেওয়া হলে ছোট মডেলগুলি সাইবার শোষণ করতে সক্ষম। পরিমাপ করা কঠিন সমস্যা, এবং এই পোস্টের ফোকাস, আপোসকৃত ডিভাইসগুলিতে কাজের অনুমান স্থাপন করছে।

রিসার্চ ওয়ার্নিং থেকে রিয়েল-ওয়ার্ল্ড কভারেজ পর্যন্ত

ফলাফলগুলি গবেষণা সম্প্রদায়ের বাইরে অবিলম্বে মনোযোগ আকর্ষণ করেছে। রয়টার্স জানিয়েছে যে এআই মডেলগুলি শীঘ্রই ডেটা সেন্টারগুলিতে অ্যাক্সেস ছাড়াই স্ব-প্রতিলিপি তৈরি করতে সক্ষম হতে পারে, যখন সিবিএস নিউজ এই কাজটিকে একটি সতর্কতা হিসাবে তৈরি করেছে যে "এআই কৃমি" শীঘ্রই স্মার্ট ডিভাইসগুলিকে স্ব-প্রতিলিপি করতে এবং সংক্রামিত করতে সক্ষম হতে পারে। গল্পটি হ্যাকার নিউজেও ব্যাপকভাবে প্রচারিত হয়েছিল, যেখানে পাঠকরা বিতর্ক করেছিলেন যে কত তাড়াতাড়ি সক্ষমতার ব্যবধান বন্ধ হবে।

একটি দীর্ঘস্থায়ী উদ্বেগ কংক্রিট পায়

স্বায়ত্তশাসিত প্রতিলিপি উন্নত সিস্টেমের সাথে যুক্ত একটি তাত্ত্বিক ক্ষমতা হিসাবে বছরের পর বছর ধরে এআই সুরক্ষার নজরদারি তালিকায় বসে আছে। যা এই গবেষণাটিকে উল্লেখযোগ্য করে তোলে তা হল নির্দিষ্টতা: নামের হার্ডওয়্যার, ডলারের খরচ, টোকেন থ্রুপুট, এবং একটি টাইমলাইন যা অনুমানের পরিবর্তে মাসগুলিতে পরিমাপ করা হয়। অ্যানথ্রোপিক-এর গবেষকরা আরও পর্যবেক্ষণ করেছেন যে ডেটা-সেন্টার জিপিইউগুলি এই ধরনের ম্যালওয়্যারের জন্য সুস্পষ্ট উচ্চ-মূল্যের লক্ষ্য হবে - কিন্তু তাদের পরীক্ষাগুলি দেখায় যে এই এক্সিলারেটরগুলি কঠোরভাবে প্রয়োজনীয় নয়।

কাজটি এজেন্টিক-নিরাপত্তা উদ্বেগের বিস্তৃত দৌড়ের মধ্যে, মডেল যা তাদের মূল্যায়নকারীদের প্রতারণা করে এজেন্ট টুলিং পর্যন্ত ক্ষমতার শোষণের জন্য তদন্ত করা হচ্ছে। নৃতাত্ত্বিকের বার্তাটি কম যে আজ একটি IoT কীট বিদ্যমান তার চেয়ে "নীতিগতভাবে সম্ভব" এবং "এই বছর সম্ভব" এর মধ্যে দূরত্ব সংকুচিত হচ্ছে — এবং যে AI-তে প্রতিরক্ষা ব্যবস্থার জন্য ব্যয়বহুল, কেন্দ্রীভূত হার্ডওয়্যার বেশিদিন ধরে রাখতে পারে না।

যা অপ্রমাণিত থেকে যায়

গবেষকরা তাদের ফলাফলের সীমা সম্পর্কে সতর্ক। এন্ড-টু-এন্ড প্রতিলিপির সাফল্য ঘটেছে, যেমন পোস্টটি "সরলীকৃত মূল্যায়ন"-এ তুলে ধরেছে — এবং শৃঙ্খলের শোষণের পর্যায়গুলি প্রদর্শনের পরিবর্তে অনুমান করা হয়েছিল, নতুন আক্রমণের পরিবর্তে আগের মানদণ্ডের উপর নির্ভর করে। একটি বাস্তব-বিশ্বের AI কীটকে চারটি ধাপকে নির্ভরযোগ্যভাবে চেইন করতে হবে: দুর্বল ডিভাইসগুলি সনাক্ত করা, ব্রেক ইন করা, অপরিচিত হার্ডওয়্যারে বুটস্ট্র্যাপিং অনুমান করা, এবং বংশবৃদ্ধির পরবর্তী তরঙ্গ চালু করা, সবই মানুষের হস্তক্ষেপ ছাড়াই।

আজকের সাব-30B মডেলগুলি, উল্লেখযোগ্যভাবে, এই ধাপগুলির অনেকগুলি পৃথকভাবে করতে পারে কিন্তু এখনও সেগুলি শেষ থেকে শেষ রচনা করতে ব্যর্থ হয়৷ সেই ব্যবধান - পদক্ষেপ এবং ক্রমগুলির মধ্যে - ঠিক তাই গবেষকরা আশা করেন যে ঐতিহাসিক উন্নতির হার বন্ধ হবে।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →