Google DeepMind CEO ডেমিস হাসাবিস একটি স্বাধীন, মার্কিন নেতৃত্বাধীন স্ট্যান্ডার্ড বডি তৈরির প্রস্তাব করেছেন যা ফাইন্যান্সিয়াল ইন্ডাস্ট্রি রেগুলেটরি অথরিটি (FINRA) এর অনুকরণে তৈরি করা হয়েছে যাতে প্রকাশের আগে ফ্রন্টিয়ার এআই মডেলগুলি মূল্যায়ন ও নিয়ন্ত্রণ করা যায়, সতর্ক করে যে কৃত্রিম সাধারণ বুদ্ধিমত্তা নিরাপদে বিকশিত হয় তা নিশ্চিত করার জন্য মানবতার একটি "মূল্যবান উইন্ডো" রয়েছে৷
মঙ্গলবার সকালে X-এ প্রকাশিত "এ ফ্রেমওয়ার্ক ফর ফ্রন্টিয়ার এআই অ্যান্ড দ্য ডনিং অফ এ নিউ এজ" শিরোনামের একটি কাঠামো নথিতে, হাসাবিস কীভাবে মার্কিন যুক্তরাষ্ট্র সবচেয়ে শক্তিশালী এআই সিস্টেমের জন্য একটি বিশ্বাসযোগ্য নিয়ন্ত্রক অবকাঠামো প্রতিষ্ঠা করতে পারে তার জন্য একটি বিশদ প্রস্তাব তুলে ধরেন। পরিকল্পনাটি একটি নতুন সংস্থার জন্য আহ্বান জানিয়েছে যা সীমান্ত মডেলগুলি পরীক্ষা করবে এবং তাদের স্থাপনার জন্য সর্বোত্তম অনুশীলনগুলি বিকাশ করবে — এআই শিল্প দ্বারা অর্থায়ন করা হয়েছে তবে যে কোনও একক সংস্থা থেকে স্বাধীনভাবে পরিচালিত হবে।
সাম্প্রতিক ব্রেকিং এআই নিউজ এবং গভীরভাবে নীতি বিশ্লেষণের জন্য, AI Buzz Wire শিল্পকে রূপদানকারী উন্নয়নগুলি ট্র্যাক করে৷
প্রস্তাবিত স্ট্যান্ডার্ড বডি কিভাবে কাজ করবে
হাসাবিসের প্রস্তাবের অধীনে, এআই পরীক্ষাগারগুলি স্বেচ্ছায় তাদের সীমানা মডেলগুলিকে প্রকাশের 30 দিন আগে পর্যালোচনার জন্য স্ট্যান্ডার্ড বডির সাথে শেয়ার করবে। এই প্রাক-নিয়োগ মূল্যায়ন নিরাপত্তা, নিরাপত্তা, এবং সম্ভাব্য অপব্যবহারের ঝুঁকির জন্য মডেলের মূল্যায়ন করবে। একবার মূল্যায়ন প্রোটোকল কার্যকর এবং শক্তিশালী প্রমাণিত হলে, কাঠামোটি প্রক্রিয়াটিকে আনুষ্ঠানিক করার কল্পনা করে যাতে মার্কিন বাজারে মোতায়েন করার আগে সীমান্ত মডেলগুলিকে এটি পাস করতে হবে।
প্রস্তাবটি সরাসরি ফ্রন্টিয়ার এআই সিস্টেমের সাম্প্রতিক সরকারী পর্যালোচনা দ্বারা প্রকাশিত একটি ফাঁককে সম্বোধন করে। এই বছরের শুরুতে, মার্কিন সরকার তাদের নিজ নিজ প্রকাশের আগে অ্যানথ্রপিকের মিথোস মডেল এবং ওপেনএআই-এর সল মডেলের অ্যাডহক নিরাপত্তা পর্যালোচনা পরিচালনা করে। এই পর্যালোচনাগুলি প্রযুক্তিগত গভীরতার অভাবের জন্য এবং কখন একটি মডেলকে জনসাধারণের স্থাপনার জন্য যথেষ্ট নিরাপদ বলে মনে করা হয়েছিল সে সম্পর্কে অস্বচ্ছ সিদ্ধান্ত নেওয়ার জন্য উল্লেখযোগ্য সমালোচনা করেছে।
হাসাবিসের কাঠামোর অধীনে, এই সিদ্ধান্তগুলি মার্কিন সরকার দ্বারা সমর্থিত তবে রাজনৈতিক চাপ থেকে দূরে থাকা প্রযুক্তি বিশেষজ্ঞদের সাথে কর্মী একটি নিবেদিত সংস্থা দ্বারা পরিচালিত হবে। প্রকাশের পরে আবিষ্কৃত গুরুতর দুর্বলতাগুলিকে মোকাবেলা করার জন্য ল্যাবগুলিকে স্ট্যান্ডার্ড বডির সাথে কাজ করতে হবে।
AGI এর আগে একটি 'মূল্যবান জানালা'
Axios, CNBC, এবং The Economist-এর সাথে সাক্ষাত্কারে ফ্রেমওয়ার্ক প্রকাশের সাথে, Hassabis জোর দিয়েছিলেন যে বর্তমান মুহূর্তটি কৃত্রিম সাধারণ বুদ্ধিমত্তা আসার আগে শাসন ব্যবস্থা প্রতিষ্ঠার একটি সংকীর্ণ সুযোগের প্রতিনিধিত্ব করে। তিনি এই সময়টিকে একটি "মূল্যবান জানালা" হিসাবে বর্ণনা করেছেন - যা বোঝায় যে জানালাটি অনির্দিষ্টকালের জন্য খোলা থাকবে না।
হাসাবিস দীর্ঘদিন ধরে সক্রিয় এআই গভর্নেন্সের পক্ষে ছিলেন। মার্কিন যুক্তরাষ্ট্রের একটি আনুষ্ঠানিক AI নিয়ন্ত্রক তৈরি করা উচিত কিনা এবং যদি তাই হয় তবে এটি কী রূপ নেওয়া উচিত তা নিয়ে তীব্র বিতর্কের মধ্যে তার কাঠামোটি আসে। এফআইএনআরএ মডেলটি উল্লেখযোগ্য কারণ আর্থিক শিল্পের স্ব-নিয়ন্ত্রক সংস্থা সদস্য সংস্থাগুলি দ্বারা অর্থায়ন করা হয় তবে এটি সরকারী তত্ত্বাবধানে কাজ করে, এটি শিল্পের দক্ষতা এবং জনসাধারণের দায়বদ্ধতা উভয়ই দেয়।
ট্রাম্প প্রশাসনের প্রতিরোধ
প্রস্তাবটি উল্লেখযোগ্য রাজনৈতিক হেডওয়াইন্ডের মুখোমুখি। ট্রাম্প প্রশাসন কৃত্রিম বুদ্ধিমত্তার জন্য নতুন নিয়ন্ত্রক সংস্থা তৈরির দিকে গভীর সংশয় প্রকাশ করেছে। হোয়াইট হাউসের AI উপদেষ্টা এবং a16z-এর সাধারণ অংশীদার শ্রীরাম কৃষ্ণান - যিনি তার ভূমিকা থেকে সরে এসেছেন - প্রকাশ্যে নির্বাহী শাখার মধ্যে একটি AI নিয়ন্ত্রকের ধারণাকে প্রত্যাখ্যান করেছেন, স্পষ্টভাবে বলেছেন যে "AI এর জন্য FDA থাকবে না।"
এই অবস্থানটি প্রশাসনিক কর্মকর্তাদের শিল্পের সবচেয়ে বিশিষ্ট নেতাদের সাথে মতবিরোধে রেখেছে। যদিও অ্যানথ্রোপিক এবং ওপেনএআই-এর মতো কোম্পানিগুলি প্রি-ডিপ্লয়মেন্ট নিরাপত্তা পরীক্ষাকে ব্যাপকভাবে সমর্থন করেছে, এই ধরনের পরীক্ষার জন্য প্রক্রিয়া এবং কর্তৃত্ব প্রতিদ্বন্দ্বিতায় রয়ে গেছে। হাসাবিসের প্রস্তাবটি প্রথমে শিল্প-তহবিলযুক্ত এবং স্বেচ্ছাসেবী হিসাবে স্ট্যান্ডার্ড বডিকে অবস্থান করে এই সুইকে থ্রেড করার চেষ্টা করে, প্রক্রিয়াটি এর মূল্য প্রমাণ করার পরেই আনুষ্ঠানিককরণ আসে।
বিদ্যমান প্রচেষ্টার উপর বিল্ডিং
ফ্রেমওয়ার্ক স্ক্র্যাচ থেকে শুরু হয় না। এটি সেই স্বেচ্ছাসেবী প্রতিশ্রুতির উপর ভিত্তি করে তৈরি করে যা ইতিমধ্যেই বেশ কয়েকটি ফ্রন্টিয়ার এআই কোম্পানি নিরাপত্তা পরীক্ষা এবং রেড-টিমিং সম্পর্কে করেছে। এটি যুক্তরাজ্যের এআই সেফটি ইনস্টিটিউট এবং জি 7 এর হিরোশিমা এআই প্রসেস সহ আন্তর্জাতিক প্রচেষ্টার দিকেও আকৃষ্ট হয়, যা উন্নত মডেলের মূল্যায়নের জন্য প্রাথমিক কাঠামো স্থাপন করেছে।
যাইহোক, হাসাবিসের প্রস্তাবটি মুক্তির আগে প্রতিটি সীমান্ত মডেল পরীক্ষা করার জন্য একটি ম্যান্ডেট সহ একটি স্থায়ী, সু-সম্পদযুক্ত সংস্থার আহ্বান জানিয়ে আরও এগিয়ে যায় - এমন একটি স্তরের যাচাই-বাছাই যা কোনও বর্তমান সংস্থা সরবরাহ করে না। FINRA সাদৃশ্য একটি ছোট উপদেষ্টা প্যানেল নয়, শত শত প্রযুক্তিগত বিশেষজ্ঞের সাথে একটি স্কেলড, পেশাদার অপারেশনের পরামর্শ দেয়।
প্রস্তাবটি পোস্ট-ডিপ্লয়মেন্ট মনিটরিংকেও সম্বোধন করে, একটি মডেল সর্বজনীনভাবে উপলব্ধ হওয়ার পরে আবিষ্কৃত দুর্বলতার বিষয়ে ল্যাবগুলিকে স্ট্যান্ডার্ড বডির সাথে কাজ করতে হবে। এটি ক্রমবর্ধমান স্বীকৃতিকে প্রতিফলিত করে যে নিরাপত্তা ঝুঁকিগুলি লঞ্চের সময় শেষ হয় না, যেমন জেলব্রেক এবং অপব্যবহারের ঘটনাগুলি দ্বারা প্রদর্শিত হয় যা বেশ কয়েকটি হাই-প্রোফাইল মডেল প্রকাশের পরে আবির্ভূত হয়েছে।
শিল্প প্রতিক্রিয়া এবং পরবর্তী পদক্ষেপ
ফ্রেমওয়ার্ক এআই নীতি সম্প্রদায় জুড়ে উল্লেখযোগ্য মনোযোগ তৈরি করেছে। সমর্থকরা যুক্তি দেন যে একটি বিশ্বাসযোগ্য প্রাক-নিয়োগ পরীক্ষার ব্যবস্থা সীমান্ত মডেলগুলিতে জনগণের আস্থা তৈরি করতে পারে এবং বিপর্যয়মূলক অপব্যবহারের ঝুঁকি কমাতে পারে। কিছু ফ্রি-মার্কেট অ্যাডভোকেট সহ সমালোচকরা সতর্ক করেছেন যে একটি বাধ্যতামূলক পরীক্ষার প্রয়োজনীয়তা ছোট কোম্পানি এবং ওপেন-সোর্স ডেভেলপারদের জন্য নিয়ন্ত্রক বাধা তৈরি করে বৃহৎ কর্তাব্যক্তিদের প্রবেশ করতে পারে।
হাসাবিসের প্রস্তাবে কোন মডেলগুলি "সীমান্ত" হিসাবে যোগ্যতা অর্জন করবে তা নির্দিষ্ট করে না - একটি থ্রেশহোল্ড প্রশ্ন যা ভবিষ্যতের যে কোনও নিয়ন্ত্রক শাসনের সুযোগ নির্ধারণ করবে। স্ট্যান্ডার্ড বডি শ্রেণীবদ্ধ বা দ্বৈত-ব্যবহারের অ্যাপ্লিকেশনগুলিকে কীভাবে পরিচালনা করবে তাও এটি উন্মুক্ত করে দেয়, বিশেষত শ্রেণীবদ্ধ ইউএস সিস্টেমগুলি ক্র্যাক করতে ব্যবহৃত এআই মডেলগুলি সম্পর্কে সাম্প্রতিক উদ্বেগের কারণে।
প্রস্তাবের সময় ইচ্ছাকৃত। পরের কয়েক বছরের মধ্যে AGI ক্রমবর্ধমানভাবে প্রশংসিত হওয়ার সাথে সাথে, হাসাবিস এই ক্ষেত্রে চাপ দিচ্ছে যে প্রশাসনের অবকাঠামো এখনই তৈরি করা উচিত, একটি বিপজ্জনক সক্ষমতার আবির্ভাবের পরে নয়। ওয়াশিংটন তার আহ্বানে কাজ করবে কিনা তা দেখার বিষয়।
এআই থেকে এগিয়ে থাকুন
AI নীতি, প্রবিধান এবং শিল্প উন্নয়নের ব্যাপক কভারেজের জন্য, AI Buzz Wire দেখুন।
আরও এআই খবর পড়ুন →
