ফ্রন্টিয়ার এআই মডেলের নিরাপত্তা পরীক্ষার জন্য দায়ী মার্কিন যুক্তরাষ্ট্রের ছোট সরকারি অফিসের কর্মীদের সম্প্রতি একটি হোয়াইট হাউস অফিসে অনানুষ্ঠানিকভাবে রিপোর্ট করতে বলা হয়েছে, শনিবার অ্যাসোসিয়েটেড প্রেস রিপোর্ট করেছে, দেশের শীর্ষ এআই নিরাপত্তা মূল্যায়নকারীর স্বাধীনতার বিষয়ে নতুন উদ্বেগ প্রকাশ করেছে।
অফিস, সেন্টার ফর অ্যাডভান্সিং ইনোভেশন অ্যান্ড স্ট্যান্ডার্ডস ফর সুপার ইন্টেলিজেন্স - যা CAISSI নামে পরিচিত এবং বাণিজ্য বিভাগের অভ্যন্তরে অবস্থিত - এছাড়াও AP এর মতে তার গবেষণা প্রকাশ করা বন্ধ করে দিয়েছে। প্রতিবেদনটি নিয়ন্ত্রণের বাইরের এআই এজেন্টদের সম্পর্কে বিভিন্ন গল্প নিয়ে ক্রমবর্ধমান জনসাধারণের উদ্বেগের মধ্যে অবতরণ করে এবং এটি এমন একটি ওয়াচডগ বর্ণনা করে যা কম কর্মী, নেতৃত্বহীন এবং ক্রমশ শান্ত। For more context on this story, see our ongoing artificial intelligence updates.
CAISSI কী করে — এবং এপি কী খুঁজে পেয়েছে
CAISSI-এর উপর নতুন এআই অফারগুলি জনসাধারণের কাছে পৌঁছানোর আগে তাদের নিরাপত্তা মূল্যায়ন করার জন্য অভিযুক্ত করা হয়েছে, একটি আদেশ যার মধ্যে রয়েছে সাইবার আক্রমণ এবং অন্যান্য গুরুতর ক্ষতির জন্য সীমান্ত মডেলগুলি কতটা ভালভাবে অপব্যবহার প্রতিরোধ করে তা মূল্যায়ন করা। এপি অনুসারে, কেন্দ্রের কর্মীদের "সম্প্রতি" হোয়াইট হাউসের একটি অফিসে অনানুষ্ঠানিকভাবে রিপোর্ট করতে বলা হয়েছিল। বার্তা সংস্থা আলোচনার জ্ঞান সহ দুই প্রাক্তন সরকারি কর্মকর্তাকে উদ্ধৃত করেছে, যারা বর্তমান কর্মচারীদের সুরক্ষার জন্য বেনামে কথা বলেছেন। হোয়াইট হাউস কেন্দ্র সম্পর্কে নির্দিষ্ট প্রশ্নের জবাব দেয়নি।
অপারেশন স্কেল বিনয়ী হয়. AP রিপোর্ট করে যে CAISSI বছরে প্রায় $10 মিলিয়ন পায় - তার ইউনাইটেড কিংডমের প্রতিপক্ষ যা পায় তার প্রায় এক-অষ্টমাংশ, যদিও মার্কিন যুক্তরাষ্ট্র যেখানে বেশিরভাগ সীমান্ত মডেল তৈরি করা হয়।
অনানুষ্ঠানিক রিপোর্টিং ব্যবস্থা শুধুমাত্র কেন্দ্রে সর্বশেষ ব্যাঘাত। এপি কয়েক মাস পিছিয়ে থাকা নেতৃত্বের শূন্যতা বর্ণনা করে: এপ্রিল মাসে একজন পরিচালক নিয়োগ করা হয়েছিল এবং কয়েক দিনের মধ্যে তাকে বরখাস্ত করা হয়েছিল, তার বদলি পদত্যাগের কয়েক মাস আগে স্থায়ী হয়েছিল এবং প্যারেন্ট ইনস্টিটিউটের প্রধান বর্তমানে ভারপ্রাপ্ত পরিচালক হিসাবে দায়িত্ব পালন করছেন। বাস্তবে, এর মানে স্থায়ী ম্যান্ডেট সহ কেউ বর্তমানে কেন্দ্রের স্বাধীনতা রক্ষা করছে না।
একটি ওয়াচডগ যা প্রকাশনা বন্ধ করে দিয়েছে
এপি-এর মতে আরও ফলপ্রসূ পরিবর্তন হল, যা কেন্দ্র আর করছে না। আগস্টে, কংগ্রেস জিজ্ঞাসা করেছিল কেন CAISSI জনসমক্ষে এআই সিস্টেমগুলি কীভাবে সুরক্ষা পরীক্ষায় পারফর্ম করে সে সম্পর্কে প্রতিবেদন প্রকাশ করা বন্ধ করেছিল। মডেল বিল্ডারদের উপর একটি পাবলিক চেক হিসাবে প্রাক-নিয়োজন পরীক্ষার ফাংশন শুধুমাত্র যদি এর ফলাফলগুলি ল্যাবের বাইরে দৃশ্যমান হয় — এবং, আপাতত, সেগুলি নেই৷
কোথাও থেকে শিফট আসেনি। অক্টোবরে, রয়টার্স, দ্য ইনফরমেশনের একটি প্রতিবেদনের উদ্ধৃতি দিয়ে প্রকাশ করেছে যে প্রশাসন CAISSI এর তিনজন সিনিয়র কর্মকর্তাকে হোয়াইট হাউসে স্থানান্তরের পরিকল্পনা করেছে। হোয়াইট হাউসের একজন কর্মকর্তা সেই সময়ে দ্য ইনফরমেশনকে বলেছিলেন যে বাণিজ্যের সাথে সমন্বয়ের সমস্যাগুলি কেন্দ্রের নেতৃত্বকে এআই সিদ্ধান্ত গ্রহণের কাছাকাছি নিয়ে আসার প্রয়োজনীয়তা দেখায়। সেই রিপোর্ট অনুসারে, কর্মকর্তারা মাইকেল ক্র্যাটসিওসকে উত্তর দেবেন, যিনি বিজ্ঞান ও প্রযুক্তি নীতির অফিস পরিচালনা করেন এবং ন্যাশনাল সাইবার ডিরেক্টর শন কেয়ারনক্রস। বাণিজ্য সচিব হাওয়ার্ড লুটনিক প্রায় ছয় মাস আগে কেন্দ্রটি সহ-পরিচালনার জন্য দুজনকে আমন্ত্রণ জানিয়েছিলেন।
একসাথে পড়ুন, AP এর নতুন রিপোর্টিং প্রস্তাব করে যে পরিকল্পনাটি অনুশীলনে আসছে — অনানুষ্ঠানিকভাবে, এবং যে কোনও আনুষ্ঠানিক পুনর্গঠনের আগে।
স্বাধীনতার উদ্বেগ, উভয় দিকেই
AP দ্বারা উদ্ধৃত সমালোচকরা উদ্বেগ প্রকাশ করেছেন যে সাইবার নিরাপত্তা এবং জৈব অস্ত্রের ঝুঁকিকে স্পর্শ করার সিদ্ধান্তগুলিকে রাজনীতিকরণ করা যেতে পারে, বা প্রযুক্তি শিল্পের সাথে মানানসই ফলাফলগুলি নরম করা যেতে পারে। ব্রেনান সেন্টার ফর জাস্টিসের আমোস তোহ এপিকে বলেছেন যে এই ধরনের সিদ্ধান্তগুলি ব্যাপক জনসাধারণের পরিণতি এবং জনসমক্ষে ব্যাখ্যা করা উচিত। ফেডারেশন অফ আমেরিকান সায়েন্টিস্টের ক্যারোলিন সিগেল সিং CAISSI-এর মতো কেন্দ্রগুলিকে শক্তিশালী প্রতিষ্ঠান হিসাবে বর্ণনা করেছেন যা জীবনকে মারাত্মকভাবে উন্নত করতে পারে বা বিপরীত করতে পারে।
একটি পাল্টা যুক্তি আছে, এবং এপি এটি খারিজ করে না। ম্যালওয়্যার লিখতে সাহায্য করার জন্য একটি মডেলের ক্ষমতার মূল্যায়ন করা একটি জাতীয় নিরাপত্তা প্রশ্ন, এবং একটি প্রশাসন যারা এই ফলাফলগুলি কে দেখছে তার একটি প্রতিরক্ষাযোগ্য কেস আছে। অসুবিধাটি প্রাতিষ্ঠানিক: একজন রেফারি যে দলের একজন স্পনসরকে উত্তর দেয় তাকে খেলাটি সরাসরি ডাকার জন্য খারাপভাবে স্থাপন করা হয় এবং কেন্দ্র প্রতিবেদন প্রকাশ করা বন্ধ করে দেয় যা অন্যথায় তার স্বাধীনতা প্রদর্শন করবে।
কেন এটি বিল্ডার এবং ক্রেতাদের জন্য গুরুত্বপূর্ণ
ফ্রন্টিয়ার মডেলের উপর তৈরি কোম্পানিগুলির জন্য, রিপোর্টিংয়ে চিহ্নিত ব্যবহারিক ঝুঁকি নিষেধাজ্ঞা নয় - এটি অনিশ্চয়তা। যদি মূল্যায়ন গোপন থাকে এবং রপ্তানি নিয়ন্ত্রণ এবং সরকারী সংগ্রহের মধ্যে ফিড করা হয়, একটি ল্যাব একটি চুক্তি বা বাজার হারাতে পারে এমন একটি অনুসন্ধানের ভিত্তিতে যা এটি কখনই দেখা বা প্রতিদ্বন্দ্বিতা করতে পারে না। সেই ঝুঁকি কোনো সতর্কতা ছাড়াই সাপ্লাই চেইনের মাধ্যমে ডাউনস্ট্রিম পণ্যে ছড়িয়ে পড়বে।
দুটি জিনিস পরের দেখার মূল্য. প্রথমটি হল প্রশাসন কেন্দ্রের জন্য স্থায়ী পরিচালকের নাম কি না এবং কে তাদের বাছাই করে। দ্বিতীয়টি হল কংগ্রেস, যেটি ইতিমধ্যে প্রকাশিত রিপোর্টে নীরবতার জন্য কেন্দ্রকে চাপ দিয়েছে, কেন্দ্রের স্বাধীনতাকে আইনে লিখতে চায় কিনা। যতক্ষণ না হয়, আমেরিকার ফ্রন্টিয়ার এআই সেফটি রেফারি $10 মিলিয়ন বাজেটের সাথে কাজ করে, কোন স্থায়ী নেতা নেই এবং একটি রিপোর্টিং লাইন যা হোয়াইট হাউসের দিকে চলে।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
