অ্যানথ্রপিক METR থেকে একটি দল দেওয়া শুরু করেছে, যেটি অলাভজনক ফ্রন্টিয়ার AI মডেলগুলি মূল্যায়ন করে, "কর্মচারীর মতো অ্যাক্সেস" তার অভ্যন্তরীণ সিস্টেমগুলিতে - কোম্পানির হার্ডওয়্যার, অফিস স্পেস এবং সরঞ্জামগুলি মোটামুটি তার নিজস্ব ঝুঁকি মূল্যায়ন দলগুলি যা ব্যবহার করে তার সাথে সমানভাবে - তাই বাহ্যিক গোষ্ঠীটি স্বাধীনভাবে অ্যানথ্রোপিকের সীমান্তের ঝুঁকিগুলি মূল্যায়ন করতে পারে এবং এটির মডেলগুলি কী প্রকাশ করে৷

বুধবার অ্যানথ্রপিকের ব্লগে ঘোষণা করা এই ব্যবস্থা, এআই কোম্পানিগুলি সাধারণত যে অডিট-স্টাইলের সম্পর্কগুলি সহ্য করে থাকে তার চেয়ে আরও এগিয়ে যায় এবং এটি এমন একটি বিধানের সাথে আসে যা দাঁড়িয়েছে: METR তার ঝুঁকি মূল্যায়নের ফলাফল প্রকাশ করবে, এবং অ্যানথ্রপিক প্রকাশনাকে ভেটো দিতে পারবে না।

"কর্মচারীর মতো অ্যাক্সেস" আসলে কী বোঝায়

ছয়টি METR কর্মচারীকে কোম্পানির হার্ডওয়্যার, অফিস স্পেস এবং অভ্যন্তরীণ সরঞ্জাম এবং সিস্টেমগুলিতে অ্যাক্সেসের সাথে অনবোর্ড করা হয়েছে যা অ্যানথ্রোপিক তার নিজস্ব ঝুঁকি মূল্যায়ন দলগুলি যা পায় তার সাথে মোটামুটিভাবে বর্ণনা করে। স্বল্প সংখ্যক স্পষ্টভাবে সংজ্ঞায়িত বিভাগগুলির বাইরে — গ্রাহকদের সম্পর্কে ডেটা, অ্যাটর্নি-ক্লায়েন্টের বিশেষ সুবিধাপ্রাপ্ত তথ্য এবং মডেল আর্কিটেকচার সম্পর্কে তথ্য — অ্যানথ্রপিক বলে যে তার কর্মীদের METR টিমের সাথে তথ্য শেয়ার করতে উৎসাহিত করা হয় ঠিক যেমন তারা সারিবদ্ধকরণের ঝুঁকিতে কাজ করা একজন সহকর্মীর সাথে।

ব্যস্ততা ইচ্ছাকৃতভাবে সংকীর্ণ। এটি প্রয়োগযোগ্য চুক্তির অধীনে পরিচালিত একটি ছোট দলকে কভার করে, এবং অন্যান্য METR কর্মচারীদের সেই দলের কাজ থেকে বাদ দেওয়া হয় — গবেষকরা যারা অন্যান্য প্রকল্পে অ্যানথ্রপিকের সাথে সহযোগিতা করে। অ্যানথ্রোপিক নোট করে যে সেটআপটি কয়েকজন যোগ্য লোককে দেয়, অ্যানথ্রপিকের সুরক্ষা মানগুলির অধীনে কাজ করে, কোম্পানিটি কীভাবে কাজ করে তার একটি ঘনিষ্ঠ দৃষ্টিভঙ্গি; এটি অন্য সংস্থাগুলির জন্য অ্যানথ্রপিক বা এর গ্রাহকদের তথ্য পাওয়ার একটি চ্যানেল নয়।

প্রকাশনার অধিকার, প্রহরীসহ

চুক্তির অধীনে, METR অ্যানথ্রপিকের ঝুঁকির মাত্রা, ঘটনা বা অনুশীলনের বিশ্লেষণ প্রকাশ করবে। অ্যানথ্রোপিক প্রকাশনাকে অবরুদ্ধ করতে পারে না, তবে তথ্যগুলি যখন উপরে বর্ণিত পূর্বনির্ধারিত শ্রেণীতে পড়ে তখন এটির সংশোধনের প্রয়োজন হতে পারে — এবং অ্যানথ্রোপিক নিজেই সিদ্ধান্ত নেয় যে এই বিভাগে কী পড়ে বা পড়ে না। METR, তার অংশের জন্য, এটি প্রাপ্ত অ্যাক্সেস এবং তথ্যের স্তর সম্পর্কে নির্দিষ্ট বিবৃতি দেওয়ার অধিকার সংরক্ষণ করে, একটি কাউন্টারওয়েট যা রিডাকশন শক্তিকে একটি নিঃশব্দ বোতামে পরিণত হওয়া থেকে রক্ষা করার জন্য ডিজাইন করা হয়েছে৷

কেন নৃতাত্ত্বিক উন্মুক্ত হচ্ছে

এই পদক্ষেপটি একটি প্রতিশ্রুতি অনুসরণ করে অ্যানথ্রোপিক গত মাসে শক্তিশালী স্বাধীন, তৃতীয় পক্ষের তার মডেল এবং নিরাপত্তা অনুশীলনের মূল্যায়ন এবং হোয়াইট হাউস অ্যাকর্ড অন সুপার ইন্টেলিজেন্সে এর স্বাক্ষর, যেখানে এআই কোম্পানিগুলি স্বাধীন বহিরাগত নিরীক্ষক বা মূল্যায়নকারীদের সাথে অংশীদারিত্বের প্রতিশ্রুতি দিয়েছে। এটি একটি বিদ্যমান সম্পর্ককেও প্রসারিত করে: গত এক বছরে, অ্যানথ্রোপিক METR এর সাথে তার ঝুঁকি প্রতিবেদনের বেশ কয়েকটি পর্যালোচনাতে কাজ করেছে।

পোর্টফোলিওতে METR একা নয়। অ্যানথ্রোপিক বলে যে এটি সিকিউরবিও এবং অ্যাকসেন্টারের সাথে মূল্যায়নকারী হিসাবে কাজ করছে — অ্যাকসেনচারের ফ্যাকাল্টি সেপ্টেম্বরে কোম্পানির প্রথম এমবেডেড মূল্যায়নকারী হিসাবে নামকরণ করা হয়েছিল — এবং হাগিং ফেস সহ আরও কয়েকটি সংস্থার সাথে প্রাথমিক আলোচনা চলছে৷ সেই আগের পর্যায়ের অংশীদারিত্বগুলি আরও সীমিত তথ্য অ্যাক্সেস এবং প্রকাশনার অধিকার নিয়ে আসে যখন কোম্পানী শিখে যে কোন ধরনের অংশীদারিত্ব কাজ করে।

ব্যাঙ্ক-তত্ত্বাবধান উপমা

অ্যানথ্রপিকের নিজস্ব ফ্রেমিং অর্থ থেকে ধার করে। বহিরাগতদের তুলনায় ব্যাঙ্কগুলি তাদের নিজস্ব ঝুঁকির অবস্থান সম্পর্কে বেশি জানে, তাই নিয়ন্ত্রকেরা সবচেয়ে বড় ব্যাঙ্কের ভিতরে কাজ করার জন্য আবাসিক পরীক্ষকদের নিয়োগ দেয়; যদি একটি ব্যাঙ্কের ঝুঁকি নেওয়া জনসাধারণের জন্য হুমকি হতে পারে, তৃতীয় পক্ষগুলি আগে থেকেই তা দেখার চেষ্টা করে৷ কোম্পানিটি এআই শিল্পের সেই যুক্তির সংস্করণ হিসাবে এমবেডেড মূল্যায়নকে অবস্থান করে — এমন একটি ক্ষেত্রে শক্তিশালী সুরক্ষা তদারকির দিকে একটি পদক্ষেপ যেখানে নির্মাতা সর্বদা ওয়াচডগের চেয়ে বেশি জানেন।

এই সমস্ত কিছুর অন্তর্নিহিত একটি বিবৃত লক্ষ্য: একটি ফ্রন্টিয়ার এআই কোম্পানির সিস্টেম সম্পর্কে স্বাধীন মূল্যায়নকারীরা যা বোঝে এবং কোম্পানি নিজেই কী বোঝে তার মধ্যে ব্যবধান বন্ধ করা।

মূল্যায়নকারীদের কি প্রয়োজন

অ্যানথ্রোপিক অর্থপূর্ণ মূল্যায়নের প্রয়োজন বলে কী মনে করে তাও ঘোষণায় তুলে ধরা হয়েছে: প্রান্তিক মডেলের ক্ষমতা মূল্যায়নে দক্ষতা, সারিবদ্ধকরণ জালিয়াতির মতো ঘটনার মাধ্যমে মূল্যায়ন কীভাবে ভুল হতে পারে তা বোঝা সহ; স্বাধীনতা, যার অর্থ মূল্যায়ন করা কোম্পানির উপর কোন ইক্যুইটি বা আর্থিক বা অপারেশনাল নির্ভরতা নয়; ঝুঁকিগুলিকে অর্থপূর্ণভাবে মূল্যায়ন করার জন্য পর্যাপ্ত অ্যাক্সেস, সর্বশেষ মডেলগুলিকে কীভাবে প্রশিক্ষিত করা হয়েছিল এবং কীভাবে সুরক্ষাগুলি কাজ করে তা প্রসারিত করে; এবং একটি মডেল বা প্রক্রিয়ার পর্যবেক্ষণ এবং মূল্যায়ন প্রকাশ করার স্বাধীনতা।

পুরো শিল্পের জন্য একটি টেস্ট কেস

বিন্যাস তার আউটপুট দ্বারা বিচার করা হবে. নতুন অ্যাক্সেস ব্যবস্থার অধীনে METR-এর প্রথম প্রকাশিত মূল্যায়ন দেখাবে যে কর্মচারী-সদৃশ অ্যাক্সেস প্রকৃত দাঁত দিয়ে ফলাফল তৈরি করে বা কোম্পানি নিজেই সংজ্ঞায়িত রিডাকশন বিভাগ দ্বারা ছাঁটা প্রতিবেদন তৈরি করে। সংশয়বাদীরা মনে রাখবেন যে অ্যানথ্রোপিক বিভাগের সীমানা নিয়ন্ত্রণ করে এবং পাইলট দলটি ছোট; সমর্থকরা লক্ষ্য করবেন যে একটি প্রকাশনার অধিকার অ্যানথ্রোপিক ভেটো দিতে পারে না ফ্রন্টিয়ার ল্যাবগুলির মধ্যে সত্যই অভিনব।

যেভাবেই হোক, শিল্প দেখছে। যদি METR-এর এমবেডেড অ্যাক্সেস উপাদানের ফলাফলগুলিকে প্রকাশ করে এবং সেগুলিকে নিরঙ্কুশভাবে প্রকাশ করে, মডেলটি হোয়াইট হাউস চুক্তিতে স্বাক্ষরকারী প্রতিটি ল্যাবের জন্য সুস্পষ্ট টেমপ্লেট হয়ে ওঠে - এবং নীতিনির্ধারকদের জন্য একটি মানদণ্ড যা স্বেচ্ছায় তত্ত্বাবধান বাধ্যতামূলক অডিটের বিকল্প হতে পারে কিনা তা বিবেচনা করে। AI নিরাপত্তা নীতির চলমান কভারেজ এবং AI ইন্ডাস্ট্রি নিউজ যা এটিকে আকার দেয়, AI Buzz Wire প্রতিটি ডেভেলপমেন্টকে ব্রেক করার সাথে সাথে অনুসরণ করে।

---

এআই থেকে এগিয়ে থাকুন

সর্বশেষ AI খবর, বিশ্লেষণ এবং সাফল্য পান — সব এক জায়গায়।

আরও এআই খবর পড়ুন →