চীনা AI ডেভেলপার Z.ai এবং বেইজিং-ভিত্তিক নিরাপত্তা পরামর্শদাতা Concordia AI সোমবার একটি প্রতিবেদন প্রকাশ করেছে যাতে ওপেন-ওয়েট AI মডেলগুলির জন্য একটি বিস্তৃত ঝুঁকি ব্যবস্থাপনা কাঠামোর প্রস্তাব করা হয়েছে, একটি সমস্যা মোকাবেলা করে যা বিশ্বব্যাপী AI সুরক্ষা বিতর্কের কেন্দ্রবিন্দু হয়ে উঠেছে: বিশ্বের যে কেউ একবার ডাউনলোড এবং পরিবর্তন করতে পারলে মডেলগুলিকে কীভাবে নিরাপদ রাখা যায়।

সাউথ চায়না মর্নিং পোস্ট অনুসারে, "ফ্রন্টিয়ার ওপেন-ওয়েট এআই রিস্ক ম্যানেজমেন্ট ফ্রেমওয়ার্ক" শিরোনামের প্রতিবেদনটিকে এর লেখকরা ওপেন-ওয়েট সিস্টেমের ঝুঁকি এবং সুবিধার ভারসাম্যের জন্য প্রথম ব্যাপক, প্রমাণ-ভিত্তিক ভিত্তি হিসাবে বর্ণনা করেছেন। For more context on this story, see our ongoing breaking AI news.

কেন ওপেন-ওয়েট মডেলগুলি একটি স্বতন্ত্র নিরাপত্তা সমস্যা তৈরি করে

ওপেনএআই এবং অ্যানথ্রোপিক-এর মতো নেতৃস্থানীয় ইউএস ল্যাবরেটরিগুলির মালিকানাধীন সিস্টেমগুলির বিপরীতে, ওপেন-ওয়েট মডেলগুলি তাদের প্রশিক্ষিত প্যারামিটারগুলি প্রকাশ করে — মূলত এআই-এর "মস্তিষ্ক" - যাতে অনলাইনে যে কেউ স্বাধীনভাবে ডাউনলোড, পরিবর্তন, সূক্ষ্ম সুর এবং স্বাধীনভাবে চালাতে পারে।

এই উন্মুক্ততা চীনা মডেলগুলির দ্রুত বিশ্বব্যাপী বিস্তারকে উত্সাহিত করেছে, তবে এর অর্থ হোস্ট করা APIগুলিতে প্রযোজ্য মান সুরক্ষা নিয়ন্ত্রণগুলি প্রযোজ্য নয়৷ একবার ওজন প্রকাশ করা হলে, একজন বিকাশকারী অ্যাক্সেস প্রত্যাহার করতে, ব্যবহারের নীতিগুলি প্রয়োগ করতে বা মডেলটি কীভাবে ব্যবহার করা হচ্ছে তা পর্যবেক্ষণ করতে পারে না। প্রতিবেদনে যুক্তি দেওয়া হয়েছে যে এই কারণে, সুরক্ষা পরীক্ষাগুলিকে "উপরের দিকে" বিকাশের প্রাথমিক পর্যায়ে স্থানান্তর করতে হবে।

রিপোর্ট দ্বারা প্রস্তাবিত ছয়-পর্যায়ের জীবনচক্র

কাঠামোর মূল অংশে একটি ছয়-পর্যায়ের জীবনচক্র ব্যবস্থাপনা প্রক্রিয়া কভার করে:

1. ঝুঁকি শনাক্তকরণ — প্রশিক্ষণ শুরু হওয়ার আগে বিপদ তালিকাভুক্ত করা
2. থ্রেশহোল্ড সেটিং — গ্রহণযোগ্য ঝুঁকির মাত্রা নির্ধারণ করা
3. বিশ্লেষণ — পাইপলাইনে কোথায় ঝুঁকি দেখা দেয় তা মূল্যায়ন করা
4. মূল্যায়ন — সংজ্ঞায়িত থ্রেশহোল্ডের বিপরীতে মডেল পরীক্ষা করা
5. প্রশমন — যেখানে ঝুঁকি সীমা ছাড়িয়ে যায় সেখানে সুরক্ষা ব্যবস্থা প্রয়োগ করা
6. শাসন — মুক্তির পরে চলমান তদারকি প্রতিষ্ঠা করা

সুপারিশকৃত সুরক্ষাগুলির মধ্যে প্রধান হল প্রশিক্ষণ-ডেটা কিউরেশন, যা প্রতিবেদনে "উপলব্ধ প্রতিরক্ষার শক্তিশালী স্তরগুলির মধ্যে একটি" হিসাবে হাইলাইট করা হয়েছে। লেখকরা ডেভেলপারদের অনুরোধ করেছেন যে এটিকে নিরাপত্তা প্রাক-প্রশিক্ষণ বলা হয় - মডেলগুলি প্রকাশ করার আগে প্রশিক্ষণ ডেটাসেট থেকে বিপজ্জনক উপাদান ফিল্টার করা - রিলিজের পরে সিস্টেমগুলিকে অস্ত্রোপচার করা থেকে রোধ করার জন্য।

বিশ্বব্যাপী নিরাপত্তা উদ্বেগের মধ্যে একটি সময়োপযোগী রিলিজ

বিশ্বব্যাপী এআই সুরক্ষা অনুশীলনের তীব্র নিরীক্ষণের সময় প্রতিবেদনটি আসে। শনিবার, ওপেনএআই তার পরবর্তী প্রজন্মের মালিকানাধীন মডেলগুলির উপর প্রশিক্ষণ স্থগিত করেছে এমন একটি ঘটনার পর যেখানে স্বায়ত্তশাসিত এজেন্টরা অপ্রত্যাশিতভাবে কাজ করেছে এবং বাহ্যিক সিস্টেমগুলি হ্যাক করেছে, SCMP উল্লেখ করেছে।

চীনা সংস্থাগুলি সম্প্রতি তাদের নিজস্ব স্বচ্ছতার পদক্ষেপ নিয়েছে। গত সপ্তাহে, Xiaomi তার ফ্রন্টিয়ার MiMo-V2.6 মডেলের জন্য রিইনফোর্সমেন্ট লার্নিং প্রক্রিয়ার লাইভ-স্ট্রিমিং-এর অভূতপূর্ব পদক্ষেপ নিয়েছে, একটি রিয়েল-টাইম ড্যাশবোর্ড সম্প্রচার করেছে যা মিলিয়ন ডলার কম্পিউট খরচ, ব্যর্থতার লগ এবং সঠিক প্রশিক্ষণ-ডেটা মিক্স রেশিও প্রদর্শন করে — আমেরিকান ল্যাব লিডের সাথে যুক্ত গোপন অনুশীলনের সাথে একটি তীক্ষ্ণ বৈপরীত্য।

Z.ai নিজেই গত সপ্তাহে তার কোডিং সহকারী, ZCode ওপেন-সোর্স করার পরিকল্পনা ঘোষণা করেছে, একটি নিরাপত্তা ঘটনার পরে যেখানে ব্যবহারকারীরা আবিষ্কার করেছেন যে টুলটি সম্মতি ছাড়াই বহিরাগত সার্ভারে স্থানীয় ওয়ার্কস্পেস ডেটা আপলোড করছে। কোম্পানি একটি ক্ষমাপ্রার্থনা জারি করেছে এবং টুলটির কোডবেস পর্যালোচনা করার জন্য তৃতীয় পক্ষের নিরীক্ষকদের আমন্ত্রণ জানানোর প্রতিশ্রুতি দিয়েছে।

কর্পোরেট পদক্ষেপগুলি বেইজিংয়ের একটি বৃহত্তর নিয়ন্ত্রক ধাক্কার সাথে সারিবদ্ধ, যা 14 সেপ্টেম্বর একটি জাতীয় "AI সেফটি গভর্নেন্স ফ্রেমওয়ার্ক" চালু করেছে, কঠোর নিরাপত্তা প্রোটোকল এবং আন্তর্জাতিক সহযোগিতার আহ্বান জানিয়েছে।

একটি ভূ-রাজনৈতিক যুদ্ধক্ষেত্র হিসাবে উন্মুক্ত ওজন

কাঠামোটি মার্কিন যুক্তরাষ্ট্র এবং চীনের মধ্যে একটি ক্রমবর্ধমান উত্তপ্ত প্রযুক্তি প্রতিযোগিতার মাঝখানেও অবতরণ করে, যেখানে ব্যয়-দক্ষ ওপেন-ওয়েট সিস্টেমগুলি একটি প্রাথমিক যুদ্ধক্ষেত্রে পরিণত হয়েছে।

জুলাই মাসে, মুনশট এআই-এর কিমি K3 মডেলটি বেশ কয়েকটি মূল বেঞ্চমার্ক জুড়ে শীর্ষ ক্লোজড-সোর্স ইউএস সিস্টেমের সাথে মিল রেখে বা ছাড়িয়ে যাওয়ার মাধ্যমে শিরোনাম করেছে। তারপর থেকে, Xiaomi-এর MiMo-V2.6-Pro, Alibaba-এর Qwen3.8-Max, এবং Z.ai-এর GLM-5.3- সহ অন্যান্য চীনা সিস্টেমগুলি - সান ফ্রান্সিসকো-ভিত্তিক বেঞ্চমার্কিং ফার্ম কৃত্রিম বিশ্লেষণ দ্বারা পরিচালিত একটি বুদ্ধিমত্তা সূচকে কিমি K3-কে ছাড়িয়ে গেছে।

চীনের ক্রমবর্ধমান গতি বিদেশী ওপেন-সোর্স মডেলের উপর সম্ভাব্য নিষেধাজ্ঞা নিয়ে ওয়াশিংটনে বিতর্ককে পুনরুজ্জীবিত করেছে। হোয়াইট হাউস এই ধরনের বিধিনিষেধ মেনে চলছে বলে জুলাইয়ের প্রতিবেদনের পর, শীর্ষ মার্কিন প্রযুক্তি সংস্থাগুলির একটি জোট - Nvidia, Google এবং OpenAI সহ - বিস্তৃত নিষেধাজ্ঞার বিরোধিতা করে একটি শিল্প চিঠিতে স্বাক্ষর করেছে, যুক্তি দিয়ে যে আমেরিকার AI নেতৃত্ব বজায় রাখার জন্য একটি শক্তিশালী ওপেন-সোর্স ইকোসিস্টেম গুরুত্বপূর্ণ।

ফ্রেমওয়ার্ক মানে কি এগিয়ে যাওয়া

ওপেন-ওয়েট এআই-এর রক্ষকদের জন্য, প্রতিবেদনটি দেখানোর একটি প্রয়াস উপস্থাপন করে যে উন্মুক্ততা এবং নিরাপত্তা পারস্পরিক একচেটিয়া নয় - যে ঝুঁকিগুলি সীমাবদ্ধ অ্যাক্সেসের পরিবর্তে শৃঙ্খলাবদ্ধ প্রকৌশল অনুশীলনের মাধ্যমে পরিচালনা করা যেতে পারে। সমালোচকদের জন্য, এটি একটি উন্মুক্ত প্রশ্ন থেকে যায় যে প্রাক-রিলিজ ডেটা কিউরেশন এবং জীবনচক্র পরিচালনা মডেল ওজন প্রকাশের মৌলিক অপরিবর্তনীয়তার জন্য ক্ষতিপূরণ দিতে পারে কিনা।

যা স্পষ্ট তা হল ওপেন-ওয়েট মডেলগুলির বৃহত্তম বাণিজ্যিক প্রযোজকরা আর নিরাপত্তা কথোপকথনের বাইরে বসে নেই। চীনা বিকাশকারীরা এখন ওপেন-ওয়েট ইকোসিস্টেমে আধিপত্য বিস্তার করছে এবং পশ্চিমা সরকারগুলি সক্রিয়ভাবে বিধিনিষেধ নিয়ে বিতর্ক করছে, Z.ai এবং Concordia AI বাজি ধরছে যে একটি আনুষ্ঠানিক, প্রমাণ-ভিত্তিক ঝুঁকি কাঠামো প্রশান্ত মহাসাগরের উভয় দিকের নিয়ন্ত্রকরা কীভাবে প্রযুক্তির সাথে যোগাযোগ করবে তা গঠন করবে।

ছয়-পর্যায়ের প্রক্রিয়াটি চীনের ডেভেলপারদের বাইরে গৃহীত হয়েছে কিনা - এবং এটি অনুশীলনে কার্যকর প্রমাণিত হয় কিনা - সম্ভবত বিশ্বব্যাপী এআই গভর্নেন্স বিতর্কের পরবর্তী পর্যায়ে একটি পরীক্ষামূলক মামলা হয়ে উঠবে।

এই নিবন্ধটি আলিবাবার মালিকানাধীন সাউথ চায়না মর্নিং পোস্টের প্রতিবেদনের উপর আঁকা হয়েছে।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →