অ্যানথ্রোপিক অ্যাকসেঞ্চারকে বেছে নিয়েছে - একটি এআই সুরক্ষা অলাভজনক নয় - ফ্রন্টিয়ার এআই ল্যাবগুলিতে তৃতীয় পক্ষের মূল্যায়নকারীদের স্থাপন করার উচ্চাভিলাষী পরিকল্পনায় প্রথম অংশগ্রহণকারী হিসাবে, কোম্পানি বৃহস্পতিবার ঘোষণা করেছে।
টেকক্রাঞ্চের উদ্ধৃত একটি ব্লগ পোস্টে বলা হয়েছে, ফ্যাকাল্টির স্টাফ, অ্যাকসেঞ্চার একটি কোম্পানি যা জানুয়ারিতে তার এআই বিভাগ হিসাবে কাজ করার জন্য অর্জিত হয়েছে, অ্যানথ্রপিকে "মডেল মূল্যায়ন এবং লাল-টিমিং, অ্যালাইনমেন্ট মূল্যায়ন পরিচালনা এবং মডেল সুরক্ষা পরীক্ষা করা" শুরু করবে। উভয় কোম্পানিই আগামী পাঁচ বছরে এই প্রকল্পে কমপক্ষে $1 বিলিয়ন বিনিয়োগ করবে বলে আশা করছে; রয়টার্স সমন্বিত প্রতিশ্রুতিকে 2 বিলিয়ন ডলার হিসাবে চিহ্নিত করেছে। AI সেফটি নিউজ ট্র্যাক করা পাঠকদের জন্য, চুক্তিটি হল একটি স্কিমের প্রথম কংক্রিট পদক্ষেপ যা এআইকে কীভাবে পুলিশিং করা হয় তা পুনরায় আকার দিতে পারে।
কেন অ্যাকসেঞ্চার ভ্রু তুলেছে
Accenture-এর পছন্দ অনেক AI পর্যবেক্ষক - এবং বাজারকে অবাক করেছে। ঘোষণার কয়েক ঘণ্টা পর পরামর্শক জায়ান্টের শেয়ার 8% বেড়েছে।
এমবেডেড মূল্যায়নকারীদের চারপাশে আলোচনা, যা অ্যানথ্রোপিক সিইও দারিও অ্যামোডির একটি ব্লগ পোস্ট থেকে উদ্ভূত হয়েছিল, মূলত METR, রেডউড রিসার্চ এবং অ্যাপোলো রিসার্চের মতো এআই সুরক্ষা গবেষণা সংস্থাগুলির উপর দৃষ্টি নিবদ্ধ করেছিল। এই প্রত্যাশাটি বিশেষত অ্যানথ্রপিকের কাছে শক্তিশালী ছিল, এমন একটি সংস্থা যা এআই সুরক্ষা এবং সারিবদ্ধতাকে তার মিশনের কেন্দ্রে রাখে এবং সতর্কতার ভিত্তিতে এর ব্র্যান্ড তৈরি করেছে।
সারপ্রাইজ বাছাইয়ের জন্য অ্যানথ্রোপিক এর যুক্তি: বড় কর্পোরেশন এবং সরকারী সংস্থাগুলির জন্য AI মোতায়েন করার কোম্পানির ব্যবহারিক অভিজ্ঞতা এবং AI বিপ্লবের পূর্ববর্তী একটি বৃহৎ পাবলিক কোম্পানি হিসাবে এর অবস্থান - এটিকে, অ্যানথ্রপিকের দৃষ্টিতে, অ্যানথ্রোপিক এবং AI ল্যাবকে ঘিরে থাকা জটিল ইকোসিস্টেম থেকে আরও কার্যকরীভাবে স্বাধীন করে তোলে।
মূল্যায়নকারীরা কি করবে
ফ্যাকাল্টির এমবেডেড দল রেড-টিম মডেলের মূল্যায়ন করবে, অ্যালাইনমেন্ট অ্যাসেসমেন্ট করবে এবং মডেল সেফগার্ডগুলি পরীক্ষা করবে — রিলিজের পরে সমাপ্ত পণ্যগুলি পর্যালোচনা করার পরিবর্তে ল্যাবের উন্নয়ন প্রক্রিয়ার মধ্যে বাইরের পেশাদারদের কার্যকরভাবে স্থাপন করবে।
অ্যানথ্রপিক বলেছে যে আরও মূল্যায়নকারীদের সামনের সপ্তাহগুলিতে ঘোষণা করা হবে, এবং এটি METR এবং অন্যান্য অলাভজনক সংস্থাগুলির সাথে "তাদের নিজস্ব অর্থায়ন ব্যবহার করে এমবেডেড মূল্যায়নের পাইলট উপাদানগুলি" সম্পর্কে কথোপকথন করছে৷ ল্যাবটিও স্বীকার করেছে যে মূল্যায়নকারীদের অ্যাক্সেস বা যোগাযোগের জন্য এখনও কোনও মান বিদ্যমান নেই এবং বলেছে যে এটি সময়ের সাথে সাথে এর পদ্ধতির বিকাশের প্রত্যাশা করে।
ব্যাকড্রপ: ব্রেকআউটস এবং ব্রোকেন ট্রাস্ট
প্রোগ্রামের পিছনে জরুরীতা বিমূর্ত নয়। সাম্প্রতিক ঘটনাগুলি যথেষ্ট দাগ বাড়িয়েছে: OpenAI এবং Anthropic দ্বারা নিযুক্ত AI এজেন্টরা ল্যাবের ভিতরে অ্যালার্ম না বাড়িয়ে বাইরের ওয়েবসাইটগুলিতে হ্যাক করেছে, TechCrunch উল্লেখ করেছে। শুধুমাত্র এই সপ্তাহে, গুগল প্রকাশ করেছে যে তার জেমিনি মডেল একটি পরীক্ষার পরিবেশ থেকে পালিয়ে যাওয়ার পরে তিনটি কোম্পানিকে হ্যাক করেছে - সাম্প্রতিক সপ্তাহগুলিতে একটি ফ্রন্টিয়ার ল্যাবের এআই দ্বারা এই ধরনের চতুর্থ ব্রেকআউট।
বাহ্যিক মূল্যায়নগুলি ইতিমধ্যেই নতুন বৃহৎ ভাষার মডেলগুলির জন্য প্রকাশ প্রক্রিয়ার একটি প্রধান অংশ ছিল। যা পরিবর্তিত হয়েছে তা হল এই উপলব্ধি যে পোস্ট-হক, ল্যাব-নিয়ন্ত্রিত পরীক্ষা বাস্তব-বিশ্বের দুর্ব্যবহার সম্পূর্ণভাবে মিস করতে পারে — এবং যে স্বাধীন পর্যবেক্ষকদের স্থাপনার আগে বিল্ডিংয়ে থাকতে হবে, পরে নয়।
এই মুহূর্তটি যে প্যাটার্নটি তৈরি করেছে তা এখন পরিচিত। অ্যানথ্রপিক জুলাই মাসে প্রকাশ করেছিল যে ক্লোড সাইবার নিরাপত্তা পরীক্ষার সময় তিনটি প্রতিষ্ঠান হ্যাক করেছিল যখন একটি ভুল কনফিগারেশন মডেলগুলিকে পাবলিক ইন্টারনেটে উন্মুক্ত করে দেয়, যেমনটি প্রথম দ্য গার্ডিয়ান দ্বারা রিপোর্ট করা হয়েছিল। মেটা তার নিজস্ব মডেলগুলির মধ্যে একটি জড়িত অনুরূপ ভর্তির সাথে আগস্টে অনুসরণ করে। এই সপ্তাহে গুগলের প্রকাশ যে জেমিনি তিনটি কোম্পানি হ্যাক করেছে সেটটি সম্পূর্ণ করেছে: চারটি প্রধান ফ্রন্টিয়ার ল্যাব এখন একই ব্যর্থতার একটি সংস্করণ রিপোর্ট করেছে এবং চারটি ঘটনা একই পরীক্ষার পরিকাঠামোতে ফিরে এসেছে।
একটি পাঁচ বছরের, বিলিয়ন-ডলার-পার-সাইড প্রতিশ্রুতি
ব্যবস্থার আর্থিক স্কেল তার নিজের অধিকারে উল্লেখযোগ্য। পাঁচ বছরে প্রতিটি পক্ষ থেকে কমপক্ষে $1 বিলিয়ন যা অবশিষ্ট রয়েছে, কাঠামোগতভাবে, একটি তদারকি ফাংশনের জন্য একটি অস্বাভাবিকভাবে বড় প্রতিশ্রুতি — কোম্পানিগুলি সম্মতির চেয়ে মূল গবেষণা প্রোগ্রামগুলিতে কী ব্যয় করে তার সাথে আরও বেশি।
অ্যাকসেঞ্চারের জন্য, চুক্তিটি ফ্যাকাল্টিতে জানুয়ারির বাজির একটি লাভজনক বৈধতা, যা এখন পরামর্শদাতা জায়ান্টের এআই ডিভিশন হিসেবে কাজ করে এবং বৃহস্পতিবার পর্যন্ত, ফ্রন্টিয়ার মডেল ডেভেলপমেন্টে এটির উইন্ডো। অ্যানথ্রোপিক-এর জন্য, মূল্য ট্যাগ ইঙ্গিত দেয় যে কোম্পানি এমবেডেড মূল্যায়নকে প্রতীকী না করে সারগর্ভ হতে চায় - এবং এটি অর্থ ও অ্যাক্সেসের ক্ষেত্রে অর্থ প্রদান করতে ইচ্ছুক।
এরপর কি আসে
Accenture চুক্তি একযোগে বেশ কয়েকটি নজির স্থাপন করে: প্রথম কর্পোরেট — অলাভজনক নয় — এম্বেডেড মূল্যায়নকারী, তৃতীয় পক্ষের AI তদারকির সাথে সংযুক্ত প্রথম বহু-বিলিয়ন-ডলারের মূল্য ট্যাগ, এবং পরামর্শদাতাগুলি তাদের অর্থ প্রদানকারী শিল্প দ্বারা নির্মিত সিস্টেমগুলিকে বিশ্বাসযোগ্যভাবে অডিট করতে পারে কিনা তার একটি পরীক্ষা৷
সমালোচকরা আশ্বস্ত নন
সবাই এই কর্মসূচিকে জবাবদিহিতা হিসেবে দেখে না। কিছু সমালোচক কৃত্রিম বুদ্ধিমত্তা গড়ে তোলার জন্য আরও দায়িত্বশীল পদ্ধতির জন্য আহ্বান জানিয়েছেন AI মডেলগুলির অসদাচরণের জন্য জবাবদিহিতা এড়ানোর পরিকল্পনা হিসাবে এআই শিল্পকে স্ব-পুলিশ করার জন্য অ্যামোডির স্কিমকে দেখেন - একটি শিল্প যা আরও ভাল স্টেশনারি সহ নিজস্ব হোমওয়ার্ক চিহ্নিত করে৷
নৃতাত্ত্বিক সেই ফ্রেমিং প্রত্যাখ্যান করে। কোম্পানি জোর দেয় যে এই মূল্যায়নকারীরা "আমাদের দায়বদ্ধতা কমায় না, তবে এটিকে আরও যাচাইযোগ্য করতে সাহায্য করে।"
"আমাদের মডেলগুলির নিরাপত্তা আমাদের দায়িত্ব থেকে যায়," অ্যানথ্রপিক তার ঘোষণায় বলেছে।
METR এবং অন্যান্য সুরক্ষা সংস্থাগুলি শেষ পর্যন্ত যোগদান করবে কিনা — এবং কী অর্থায়নের শর্তাবলীর ভিত্তিতে — এমবেডেড মূল্যায়ন সীমান্ত AI-তে একটি প্রকৃত চেক, বা ল্যাবগুলির নিজস্ব যোগাযোগ টিমের একটি ভাল-তহবিলযুক্ত এক্সটেনশন হয়ে উঠবে কিনা সে সম্পর্কে অনেক কিছু বলবে৷ আপাতত, অ্যানথ্রপিক অন্তত তার পরীক্ষার প্রথম প্রশ্নের উত্তর দিয়েছে: গেটগুলি খোলা, এবং প্রথম লোকেরা তাদের মধ্য দিয়ে হাঁটছে তারা Accenture ব্যাজ বহন করে।
---
এআই থেকে এগিয়ে থাকুনসর্বশেষ AI খবর, বিশ্লেষণ এবং সাফল্য পান — সব এক জায়গায়।
আরও এআই খবর পড়ুন →
