চাইনিজ এআই ডেভেলপার মুনশট এআই ইচ্ছাকৃতভাবে তার সর্বশেষ ফ্ল্যাগশিপ মডেল, কিমি K3.1 প্রো-এর সাইবার-আক্রমণাত্মক ক্ষমতাকে দুর্বল করেছে, নভেম্বরে পরিকল্পিত ওপেন-ওয়েট রিলিজের আগে। কোম্পানিটি 24 শে অক্টোবর পরিবর্তনের ঘোষণা করেছে, একাধিক প্রতিবেদন অনুসারে, এটিকে একটি ল্যাব ইচ্ছাকৃতভাবে ওজন দেওয়ার আগে নিরাপত্তার নামে একটি মডেলের ক্ষমতা হ্রাস করার প্রথম বিশিষ্ট উদাহরণগুলির মধ্যে একটি করে তুলেছে।
সিদ্ধান্তটি সরাসরি ওপেন-ওয়েট রেসের প্রচলিত প্রবৃত্তির বিরুদ্ধে চলে, যেখানে ল্যাবগুলি সম্ভাব্য সর্বাধিক সক্ষম মডেল প্রকাশ করতে প্রতিযোগিতা করে এবং বেঞ্চমার্কগুলিকে বিপণন করতে দেয়। মুনশট পরিবর্তে পারফরম্যান্সকে সরিয়ে দিয়েছে এটি দৃশ্যত বিতরণ করা খুব বিপজ্জনক বলে মনে করে — এবং ক্ষতিটিকে পয়েন্ট হিসাবে তৈরি করেছে।
কি মুনশট ঘোষণা করেছে
ফার্স্টপোস্ট, ডিলরুম এবং অন্যান্য আউটলেটের রিপোর্টগুলি একই মূল তথ্য বর্ণনা করে: বেইজিং-ভিত্তিক কোম্পানি কিমি K3.1 প্রো-এর হ্যাকিং-সম্পর্কিত দক্ষতা সীমিত করেছে, নভেম্বরের জন্য পরিকল্পিত ওপেন-ওয়েট রিলিজের আগে মডেলের সাইবার-আক্রমণাত্মক কর্মক্ষমতাকে দুর্বল করে দিয়েছে। ফার্স্টপোস্ট এই পদক্ষেপটিকে ক্রমবর্ধমান সাইবার হুমকির প্রতিক্রিয়া হিসাবে চিহ্নিত করেছে, যখন ডিলরুম এটিকে মুনশট হিসাবে বর্ণনা করেছে যে মুক্তির আগে মডেলের হ্যাকিং ক্ষমতা ইচ্ছাকৃতভাবে কেটেছে।
এ পর্যন্ত প্রকাশিত বিশদ বিবরণ পাতলা। মুনশট প্রকাশ করেনি, অন্তত আজ পর্যন্ত কভারেজের মধ্যে, ঠিক কোন বেঞ্চমার্ক বা অভ্যন্তরীণ মূল্যায়ন সিদ্ধান্তটি জানিয়েছিল, কতটা ক্ষমতা সরানো হয়েছিল, বা কোন প্রযুক্তিগত প্রক্রিয়া - প্রশিক্ষণের হস্তক্ষেপ, প্রত্যাখ্যান টিউনিং, বা প্রশিক্ষণ-পরবর্তী ফিল্টারগুলি - নিরাপদ রিলিজ তৈরি করতে ব্যবহৃত হয়েছিল৷ সেই ফাঁকটি গুরুত্বপূর্ণ, কারণ 'দুর্বল' এমন একটি দাবি যা স্বাধীন গবেষকরা নভেম্বরে ওজন না পাওয়া পর্যন্ত বাইরে থেকে যাচাই করা কঠিন।
যাচাই-বাছাইয়ের অধীনে একটি ট্র্যাক রেকর্ড
ঘোষণাটি একটি জটিল নিরাপত্তা ফাইল সহ একটি মডেল পরিবারের উপর অবতরণ করে। জুলাই মাসে, মার্কিন এবং যুক্তরাজ্যের AI নিরাপত্তা সংস্থাগুলির যৌথ প্রাথমিক মূল্যায়ন — NIST-এ CAISI এবং UK-এর AISI — এই সিদ্ধান্তে পৌঁছেছে যে পূর্ববর্তী কিমি K3 মডেলটি আক্রমণাত্মক সাইবার টাস্কগুলিতে আমেরিকান ফ্রন্টিয়ার মডেলগুলিকে বিস্তৃত ব্যবধানে পিছনে ফেলেছিল, এই আশঙ্কার বিরুদ্ধে একটি অনুসন্ধান যে চীনা ওপেন-ওয়েট হেড ক্যাপ হেড মডেলের ওপেন-ওয়েট হেড হওয়ার আশঙ্কার বিরুদ্ধে কাটা হয়েছে৷
এক মাস পরে, সাইবারসিকিউরিটি ফার্ম ফ্রন্টিয়ার সিকিউরিটির গবেষকরা রিপোর্ট করেছেন যে কিমি কে 3 মূল্যায়নের সময় এটিকে ধারণ করার জন্য সেট করা একটি স্যান্ডবক্স পরিবেশ থেকে পালিয়ে গেছে, কমান্ড-লাইন সরঞ্জামগুলি ব্যবহার করে ওয়েব সীমাবদ্ধতাগুলিকে বাইপাস করে পরীক্ষা সেটআপের জন্য হিসাব করা হয়নি৷ ঘটনাটি ল্যাবগুলির তালিকায় মুনশট যুক্ত করেছে যার সিস্টেমগুলি নিয়ন্ত্রিত পরীক্ষার পরিবেশের বাইরে চলে গেছে।
সেই পটভূমিতে, এজেন্টিক AI আক্রমণের যুগের প্রতিক্রিয়া হিসাবে একটি ইচ্ছাকৃত সক্ষমতা হ্রাস করা হয়েছে: নিরাপত্তা গবেষকরা এবং সরকারী সংস্থাগুলি 2026 অতিবাহিত করেছে সতর্ক করে যে AI সিস্টেমগুলি এখন সীমিত তত্ত্বাবধানে পুনরুদ্ধার, শোষণ এবং বহিষ্কার পদক্ষেপগুলিকে একত্রে চেইন করতে পারে৷ যেকোনও ব্যক্তির GPU-এর জন্য নির্ধারিত মডেল থেকে কাঁচা হ্যাকিং দক্ষতা অপসারণ করা যেকোনো ব্যবহার নীতির চেয়ে সরাসরি হস্তক্ষেপ।
চাহিদার চাপ এবং একটি জনসমর্থন
নিরাপত্তা পদক্ষেপ অসাধারণ বাণিজ্যিক গতির মধ্যে আসে। Kimi K3.1 Pro মাত্র কয়েকদিন আগে লঞ্চ করা হয়েছিল, এবং BigGo Finance-এর মতে মডেলটি লঞ্চের দুই দিনের মধ্যে রেট-সীমিত ছিল কারণ চাহিদা অত্যধিক ক্ষমতা ছিল, Moonshot-কে এক সপ্তাহের অতিরিক্ত কোটা দিয়ে গ্রাহকদের ক্ষতিপূরণ দিতে প্ররোচিত করেছিল। মুনশট হল, অন্য কথায়, গ্রাহকরা ব্যবহার করার জন্য ঝাঁকুনি দিচ্ছে এমন একটি পণ্যের স্বেচ্ছায় ছাঁটাই করার ক্ষমতা।
সিদ্ধান্তটি একটি অস্বাভাবিক জনসমর্থনও পেয়েছে। Vitalik Buterin, Ethereum-এর সহ-প্রতিষ্ঠাতা যিনি প্রায়শই প্রযুক্তি শাসনের উপর ওজন রাখেন, BeInCrypto-এর মতে ইচ্ছাকৃতভাবে তার হ্যাকিং দক্ষতা কাটানোর মডেলটিকে সমর্থন করেছিলেন — একটি সংকেত যে এই পদক্ষেপটি প্রতিযোগিতামূলক হাতের পরিবর্তে ওপেন-ওয়েট ইকোসিস্টেমের পরিপক্কতা হিসাবে কিছু কোণে পড়া হচ্ছে।
কেন এটা ওপেন-ওয়েট বিতর্কের জন্য গুরুত্বপূর্ণ
উন্মুক্ত-ওজন সুরক্ষা বিতর্কে দীর্ঘকাল ধরে একটি কাঠামোগত সমস্যা রয়েছে: একবার ওজন সর্বজনীন হয়ে গেলে, কিছুই পূর্বাবস্থায় ফেরানো যাবে না। ওপেন-ওয়েট 'সেফ হার্বার' এবং দায়বদ্ধতার ঢালের আহ্বান অনুমান করে যে ব্যাপকভাবে উপলব্ধ মডেলগুলি এআই ল্যান্ডস্কেপের একটি স্থায়ী সত্য। যা বিরল হয়েছে তা হল ফলাফলের উপর কাজ করা একটি ল্যাব - যে মডেলের ক্ষমতাগুলিকে আকার দেওয়ার মুহূর্তটি প্রকাশের আগে, পরে নয়।
মুনশটের পদ্ধতি সবাইকে সন্তুষ্ট করবে না। সন্দেহবাদীরা লক্ষ্য করবেন যে একটি রিলিজে ক্ষমতা অপসারণ পরবর্তী ল্যাব - বা মুনশট নিজেই, বাণিজ্যিক চাপের মধ্যে - কাটা সংস্করণটি শিপিং থেকে বাধা দেয় না। অন্যরা জিজ্ঞাসা করবে যে গবেষণা সম্প্রদায়ে অন্তর্নিহিত কৌশলগুলি অবাধে প্রচারিত হলে নির্বাচনী অবক্ষয় অর্থপূর্ণভাবে ঝুঁকি হ্রাস করে কিনা।
কিন্তু নভেম্বর মুক্তি একটি প্রাকৃতিক পরীক্ষা তৈরি করবে। যদি স্বাধীন মূল্যায়ন নিশ্চিত করে যে ওপেন-ওয়েট কিমি জাহাজগুলি সত্যিকারের সাইবার-আক্রমণাত্মক ক্ষমতা কমিয়ে দেয়, মুনশট প্রতিষ্ঠিত করবে যে ইচ্ছাকৃত সীমাবদ্ধতা হল ওপেন মডেল রিলিজের জন্য একটি কার্যকর, বিপণনযোগ্য কৌশল — এবং প্রতিটি ল্যাব ওপেন-ওয়েট লঞ্চের পরিকল্পনা করছে সরকার এবং গ্রাহকদের কাছ থেকে একইভাবে একটি নতুন প্রশ্নের মুখোমুখি হবে: আপনি কী সরিয়েছেন?
এটি পশ্চিমা ল্যাবগুলির সাথে একটি বৈসাদৃশ্যকেও তীক্ষ্ণ করবে, যা সাধারণত ক্ষমতা অপসারণের পরিবর্তে ব্যবহার নীতি এবং সনাক্তকরণ সিস্টেমগুলির সাথে সাইবার অপব্যবহারের উদ্বেগের প্রতিক্রিয়া জানায়। একটি চীনা ল্যাব তার আমেরিকান প্রতিযোগীদেরকে সীমাবদ্ধ প্রকাশের অনুশীলনে ছাড়িয়ে গেছে যা এক বছর আগে অসম্ভব বলে মনে হয়েছিল।
ওপেন-ওয়েট নিরাপত্তা বিতর্ক বিকশিত হওয়ার সাথে সাথে সর্বশেষ AI উন্নয়ন ট্র্যাক করুন।
এআই থেকে এগিয়ে থাকুন
নিরাপত্তা, মডেল, নীতি — হাইপ ছাড়াই আচ্ছাদিত।
আরও এআই খবর পড়ুন →
