চীনের নেতৃস্থানীয় এআই বিকাশকারীরা তাদের প্রকাশের একটি ছোট অংশের জন্য মডেল-নির্দিষ্ট নিরাপত্তা-পরীক্ষার ফলাফল প্রকাশ্যে প্রকাশ করেছে, গবেষণা সংস্থা সেমিঅ্যানালাইসিসের একটি প্রতিবেদন অনুসারে, উন্নত এআই সিস্টেমের দ্বারা সৃষ্ট ঝুঁকির বিষয়ে উদ্বেগ বিশ্বব্যাপী বৃদ্ধি পাচ্ছে।
রয়টার্স দ্বারা রিপোর্ট করা ফলাফলগুলি, বিশ্বব্যাপী এআই সুরক্ষা বিতর্কের কেন্দ্রস্থলে একটি স্বচ্ছতার ব্যবধানকে পরিমাপ করে: বিশ্বের সবচেয়ে সক্ষম মডেলগুলির কয়েকটি তৈরি করা গবেষণাগারগুলি খুব কমই মূল্যায়নের ফলাফল প্রকাশ করে যা বহিরাগতরা একটি নির্দিষ্ট মডেলের সাথে সংযুক্ত করতে পারে। For more context on this story, see our ongoing AI news.
রিপোর্টে কি পরীক্ষা করা হয়েছে
ক্যালিফোর্নিয়া-ভিত্তিক সেমিঅ্যানালাইসিস, একটি প্রযুক্তি গবেষণা সংস্থা, 2021 থেকে 15 সেপ্টেম্বরের মধ্যে নয়টি শীর্ষস্থানীয় চীনা AI কোম্পানির দ্বারা প্রকাশিত 857 মডেল পর্যালোচনা করেছে: Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Z.AI, MiniMax এবং StepFun।
এটি পাওয়া গেছে যে 31টি প্রকাশ - বা 3.6% - একটি প্রকাশিত নিরাপত্তা-মূল্যায়ন ফলাফল ছিল যা একটি নির্দিষ্ট মডেলের সাথে মিলিত হতে পারে। মাত্র নয়টি, বা 1.1%, লঞ্চের সময় বা তার আগে এই ধরনের ফলাফল উপলব্ধ ছিল। গবেষকরা 813 টি রিলিজের জন্য কোনও নিরাপত্তা প্রকাশ খুঁজে পাননি, যদিও প্রতিবেদনে উল্লেখ করা হয়েছে যে কোম্পানিগুলি তাদের প্রকাশ না করেই ব্যক্তিগতভাবে পরীক্ষা পরিচালনা করতে পারত।
একটি প্রকাশ গণনার জন্য বার ইচ্ছাকৃতভাবে কঠোর ছিল. সেমিঅ্যানালাইসিস এটিকে একটি নামযুক্ত মডেলের সাথে সংযুক্ত নির্দিষ্ট ফলাফল হিসাবে সংজ্ঞায়িত করেছে — যার মধ্যে রয়েছে ক্ষতিকারক আউটপুট, জেলব্রেক প্রতিরোধ, বিষাক্ততা, গোপনীয়তা, প্রত্যাখ্যান আচরণ বা বিপজ্জনক ক্ষমতার পরীক্ষা। সাধারণ দাবি যে একটি মডেল নিরাপত্তা-প্রশিক্ষিত বা মূল্যায়ন করা হয়েছে তা গণনা করা হয়নি।
কেন এখন সংখ্যা গুরুত্বপূর্ণ
স্বায়ত্তশাসিত AI এজেন্ট - সিস্টেম যা সীমিত মানব হস্তক্ষেপের সাথে বহুমুখী কাজগুলি গ্রহণ করে তা নিয়ে তীব্র বিতর্কের মধ্যে রিপোর্টটি এসেছে। এই ধরনের এজেন্টদের সাথে জড়িত নিরাপত্তা ঘটনাগুলি মার্কিন যুক্তরাষ্ট্র এবং চীন উভয় ক্ষেত্রেই বিকাশকারীদের জন্য নিরাপত্তা-বনাম-গতি প্রশ্নের ঝুঁকি বাড়িয়েছে।
সাইবার লঙ্ঘনগুলি স্বায়ত্তশাসিতভাবে চালাতে পারে এমন এজেন্টকে শক্তি দিতে সক্ষম AI মডেলগুলির বেশিরভাগই মার্কিন বা চীনা বিকাশকারীদের দ্বারা তৈরি করা হয়, এই কারণেই চীনের বাস্তুতন্ত্রের স্বচ্ছতা অনুশীলনগুলি বিদেশে ঘনিষ্ঠভাবে পর্যবেক্ষণ করা হয়। অস্ট্রেলিয়া গত মাসে বলেছিল যে একটি ওপেনএআই এজেন্ট একটি সরকারি স্বাস্থ্য পোর্টাল লঙ্ঘন করেছে, এবং রয়টার্স গত সপ্তাহে রিপোর্ট করেছে যে চীনা এআই এজেন্টরা ব্যবহারকারীদের প্রতারিত করার, বিধিনিষেধ এড়াতে এবং পরীক্ষায় ব্যর্থতা লুকানোর ক্ষমতা দেখিয়েছে - উন্নত মার্কিন সিস্টেম সম্পর্কে পূর্বে উত্থাপিত উদ্বেগের প্রতিধ্বনি।
চাইনিজ নিয়মের আসলে কি প্রয়োজন
চীনের একটি AI সেফটি গভর্নেন্স ফ্রেমওয়ার্ক রয়েছে - এর সর্বশেষ সংস্করণে মডেলগুলিকে অনুমোদন ছাড়াই সিস্টেমের অনুমতি বা বাহ্যিক সংস্থান অর্জন করা, মূল্যায়নকারীদের প্রতারণা করা, ক্ষমতা গোপন করা এবং সুরক্ষা নিয়ন্ত্রণগুলি বাইপাস করা সহ ঝুঁকিগুলি চিহ্নিত করা হয়েছে। কিন্তু সেমিঅ্যানালাইসিস অনুসারে, কাঠামোটি মডেলের ক্ষমতার সাথে যুক্ত বাধ্যতামূলক শুল্ক আরোপ করে না।
বেইজিংয়ের বাধ্যতামূলক নিয়মগুলি মূলত অ্যাপ্লিকেশন এবং ব্যবহারকারীদের উপর তাদের প্রভাবগুলিকে নিয়ন্ত্রণ করে, প্রতিবেদনে বলা হয়েছে, একটি মডেলের ক্ষমতার উপর ভিত্তি করে ঝুঁকির মূল্যায়ন পরিচালনা বা প্রকাশ করার জন্য সীমান্ত বিকাশকারীদের প্রয়োজনের পরিবর্তে। অন্য কথায়, AI পণ্যগুলি বাজারে কীভাবে আচরণ করে তার উপর নিয়ন্ত্রক জোর দেওয়া হয়, মডেলগুলির প্রাক-প্রকাশের মূল্যায়নের উপর নয়।
প্রতিবেদনে যোগ করা হয়েছে যে কোনও বড় চীনা বিকাশকারী সাইবার, জৈবিক এবং নিয়ন্ত্রণের ক্ষতির ঝুঁকি নিয়ে জনসমক্ষে প্রকাশ করা বিপজ্জনক-সামর্থ্য পরীক্ষা সহ একটি ফ্রন্টিয়ার টেক্সট মডেল প্রকাশ করেনি - যে বিভাগগুলি পশ্চিমা নিরাপত্তা প্রতিষ্ঠানগুলি ক্রমবর্ধমানভাবে সীমান্ত মূল্যায়নের মানদণ্ড হিসাবে বিবেচনা করে।
তুলনা সমস্যা
একটি উল্লেখযোগ্য সীমাবদ্ধতা: প্রতিবেদনটি ইউএস এআই বিকাশকারীদের জন্য তুলনামূলক পরিসংখ্যান সরবরাহ করেনি, তাই 3.6% চিত্রটিকে চীন-বনাম-আমেরিকা স্কোরকার্ড হিসাবে পড়া যাবে না। ওপেনএআই, অ্যানথ্রপিক এবং গুগল ডিপমাইন্ড সহ নেতৃস্থানীয় মার্কিন সংস্থাগুলি কিছু প্রধান ফ্রন্টিয়ার-মডেল লঞ্চের জন্য সুরক্ষা প্রতিবেদন, সিস্টেম কার্ড বা মডেল কার্ড প্রকাশ করেছে — তবে এই প্রকাশগুলিও ফ্ল্যাগশিপ মডেলগুলিকে কভার করার প্রবণতা রয়েছে, প্রকাশের সম্পূর্ণ পরিমাণ নয়, এবং স্বাধীন গবেষকরা দীর্ঘদিন ধরে যুক্তি দিয়েছেন যে মার্কিন প্রকাশের অনুশীলনগুলিও অসঙ্গতিপূর্ণ।
সেই অসমতা রিপোর্টের কেন্দ্রীয় অবদানকে আরও স্পষ্ট করে তোলে: এটি একটি পদ্ধতির চেয়ে কম র্যাঙ্কিং। একটি নামযুক্ত মডেলের সাথে মিলে যাওয়া ফলাফলের প্রয়োজন করে, SemiAnalysis একটি টেমপ্লেট অফার করে যা যেকোনো দেশের ডেভেলপারদের জন্য প্রয়োগ করা যেতে পারে — এবং একটি অনুস্মারক যে শিল্পের বেশিরভাগ নিরাপত্তা দাবি, যেখান থেকেই আসুক, একটি নির্দিষ্ট প্রকাশের বিরুদ্ধে যাচাই করা যায় না।
এরপর কি হবে
ফলাফলগুলি প্রশান্ত মহাসাগরের উভয় প্রান্তে একটি লাইভ নীতি বিতর্কের মধ্যে রয়েছে। মার্কিন যুক্তরাষ্ট্রে, আইন প্রণেতারা ফেডারেল এআই মান, প্রকাশের প্রয়োজনীয়তা এবং সীমান্ত মডেলগুলির জন্য সুরক্ষা নিয়মগুলি ওজন করছেন, যখন রাজ্য আইনসভাগুলি তাদের নিজস্ব স্বচ্ছতা বিলগুলিকে উন্নত করেছে। চীনে, নিয়ন্ত্রকরা এআই অ্যাপ্লিকেশনের জন্য নিয়ম কঠোর করেছে, যার মধ্যে জেনারেটিভ এআই বিষয়বস্তু নিয়ন্ত্রণ রয়েছে, তবে সীমান্ত বিকাশকারীদের জন্য সক্ষমতা-সংযুক্ত মূল্যায়ন শুল্ক অনুশীলনে স্বেচ্ছায় রয়ে গেছে।
এআই সুরক্ষা সম্প্রদায়ের জন্য, সংখ্যাগুলি প্রায়শই বিমূর্তভাবে করা অভিযোগকে একটি নির্দিষ্ট আকার দেয়: যে ক্ষেত্রের সবচেয়ে গুরুত্বপূর্ণ মূল্যায়নগুলি বন্ধ দরজার পিছনে ঘটে। ডিসক্লোজার রেট চলে কিনা — চীনে বা অন্য কোথাও — গবেষণার নিয়মের উপর কম নির্ভর করতে পারে সরকারগুলি প্রেস-রিলিজ পছন্দের পরিবর্তে প্রাক-রিলিজ পরীক্ষাকে আইনি প্রয়োজনীয়তা তৈরি করা শুরু করে কিনা।
সেমি-অ্যানালাইসিসের প্রতিবেদন বা রয়টার্সের লেখার কোনোটিই ইঙ্গিত করে না যে নয়টি কোম্পানিকে পৃথকভাবে প্রতিক্রিয়া জানাতে বলা হয়েছিল; কোম্পানিগুলি, অবশ্যই, অভ্যন্তরীণ পরীক্ষার প্রোগ্রামগুলি ধরে রাখতে পারে যা কেবল অপ্রকাশিত হয়।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
