গুগল ডিপমাইন্ড কৃত্রিম সাধারণ বুদ্ধিমত্তার চারপাশে কথোপকথনকে প্রসারিত করার জন্য নিবেদিত একটি নতুন ইনস্টিটিউট চালু করেছে — এবং এর উদ্বোধনী প্রবন্ধগুলিতে মার্কিন নেতৃত্বাধীন সংস্থার জন্য ডেমিস হাসাবিসের একটি কংক্রিট প্রস্তাব অন্তর্ভুক্ত রয়েছে যা স্থাপনার আগে সীমান্ত AI মডেলের মূল্যায়ন করবে।
টেকক্রাঞ্চের মতে, গুগল এবং গুগল ডিপমাইন্ড গবেষকদের দ্বারা বুধবার চালু করা ডিপমাইন্ড ইনস্টিটিউট, ডিপমাইন্ডের সহ-প্রতিষ্ঠাতা শেন লেগকে এর ব্যবস্থাপনা সম্পাদক হিসাবে তালিকাভুক্ত করেছে, পাশাপাশি গুগল এক্সিকিউটিভ জেমস মান্যিকা এবং গুগল ডিপমাইন্ডের চেয়ার ডেমিস হাসাবিসকে পরিচালক হিসাবে তালিকাভুক্ত করেছে। For more context on this story, see our ongoing more AI stories.
অসম্মতির জায়গা
ইনস্টিটিউটের উল্লিখিত উদ্দেশ্য হল প্রকৃত মতানৈক্য প্রকাশ করা — Google এর মধ্যেই। "তারা সর্বদা একমত হবে না, এবং তারা সম্ভবত তাদের মন পরিবর্তন করবে, কারণ দ্রুত চলমান সীমান্তে আরও তথ্য এবং তথ্য প্রকাশিত হয়," ঘোষণাটি পড়ে।
এর প্রথম সংগ্রহে চারটি প্রবন্ধ রয়েছে যার মধ্যে রয়েছে সম্ভাব্য AGI ব্যাঘাত পরিচালনার জন্য অর্থনৈতিক নীতিমালা, মানব-পাঠযোগ্য মডেল যুক্তি সংরক্ষণ, মানুষের বিকাশের নীতি এবং সীমান্ত AI মডেলের মূল্যায়নের জন্য একটি কাঠামো।
প্রকাশ্য মতবিরোধকে প্রাতিষ্ঠানিকীকরণ করা একটি কর্পোরেট এআই ল্যাবের জন্য একটি অস্বাভাবিক পদক্ষেপ, যেখানে পাবলিক মেসেজিং কঠোরভাবে নিয়ন্ত্রিত হতে থাকে। ডিজাইনের মাধ্যমে, প্রতিষ্ঠানটি Google-এর গবেষকদের এমন অবস্থানে তর্ক করার জায়গা দেয় যা কোম্পানির বাণিজ্যিক স্বার্থের সাথে বা একে অপরের সাথে সাংঘর্ষিক হতে পারে।
স্বচ্ছতা রচনা: 'অস্বচ্ছ সিরিয়াল গভীরতা' দেখুন
ডিপমাইন্ড নিরাপত্তা গবেষক রোহিন শাহ এবং আঙ্কা ড্র্যাগানের চারটি প্রবন্ধের মধ্যে একটি, যুক্তি দেয় যে AI এর স্বচ্ছতার সঙ্কুচিত উইন্ডো - একটি মডেলের ধাপে ধাপে যুক্তি দেখা এবং পরীক্ষা করার ক্ষমতা - অনিবার্য নয়, এমনকি নতুন স্থাপত্যগুলি সবচেয়ে শক্তিশালী মডেলগুলিকে নিরীক্ষণ করা কঠিন করে তোলে।
লেখক বলেছেন ডেভেলপার এবং নিয়ন্ত্রকদের সরাসরি নিরাপত্তা ট্রেড-অফের মুখোমুখি হওয়া উচিত। সুনির্দিষ্টভাবে, এর অর্থ হতে পারে তারা যাকে "অস্বচ্ছ সিরিয়াল গভীরতা" বলে তা সীমিত করা — একটি মডেল পাঠযোগ্য যুক্তির চিহ্ন তৈরি না করেই যে পরিমাণ অনুক্রমিক গণনা সম্পাদন করতে পারে — অথবা বিকাশকারীদেরকে দেখাতে হবে যে কম স্বচ্ছ সিস্টেমগুলি ব্যাখ্যাযোগ্যগুলির মতোই পর্যবেক্ষণযোগ্য থাকে৷
প্রস্তাবটি উল্লেখযোগ্য কারণ এটি ব্যাখ্যাযোগ্যতা হারানোকে স্কেল এর অনিবার্য পরিণতি না করে একটি নকশা এবং নীতি পছন্দ হিসাবে বিবেচনা করে, যা প্রবিধানে লেখা যেতে পারে এমন প্রয়োজনীয়তার দরজা খুলে দেয়।
হাসাবিসের প্রস্তাব: একটি ইউএস ফ্রন্টিয়ার স্ট্যান্ডার্ড বডি
সবচেয়ে ফলপ্রসূ প্রবন্ধ হতে পারে হাসাবিস এর। তিনি একটি ইউএস-নেতৃত্বাধীন ফ্রন্টিয়ার এআই স্ট্যান্ডার্ড বডি প্রস্তাব করেন যা সবচেয়ে উন্নত এআই মডেলের মূল্যায়নের দায়িত্ব দেয়। কাঠামোর অধীনে, বিকাশকারীরা প্রাথমিকভাবে রিলিজের 30 দিন আগে পর্যালোচনার জন্য স্বেচ্ছায় মডেলগুলি জমা দেবে। একবার মূল্যায়ন পদ্ধতি কার্যকর প্রমাণিত হলে, এর পরীক্ষায় উত্তীর্ণ হওয়া মার্কিন যুক্তরাষ্ট্রে সীমান্ত মডেল স্থাপনের জন্য প্রয়োজনীয় হয়ে উঠতে পারে।
সংস্থাটি AI কোম্পানিগুলির সাথে পরামর্শ করে মূল্যায়নের নকশা তৈরি করে শুরু করবে, কিন্তু শেষ পর্যন্ত স্বাধীন, অপ্রকাশিত মূল্যায়নের বিকাশ ঘটাবে - যাকে "হোল্ড-আউট" পরীক্ষা বলে - ল্যাবগুলিকে তাদের মডেলগুলিকে পরিচিত বেঞ্চমার্কের সাথে মানানসই করা থেকে আটকাতে, পাবলিক মূল্যায়ন ব্যবস্থার একটি ভাল-নথিভুক্ত ব্যর্থতা মোড।
হাসাবিস আরও বাড়ানোর জন্য দরজা খোলা রেখেছিলেন: কাঠামোটি "পরিস্থিতির গুরুতরতা দাবি করলে" র্যাচেচ আপ করা যেতে পারে, সম্ভাব্য ফ্রন্টিয়ার এআই বিকাশকারীদের মধ্যে সমন্বিত মন্থরতা সহ।
কেন অন্য দুটি রচনা গুরুত্বপূর্ণ
অবশিষ্ট দুটি প্রবন্ধ — AGI ব্যাঘাত পরিচালনার জন্য অর্থনৈতিক নীতি এবং মানুষের বিকাশের নীতিগুলির উপর — এমন একটি সংগ্রহকে বৃত্তাকার করে যা AGI-কে একটি সম্পূর্ণ প্রযুক্তিগত সমস্যা না করে সমাজ-ব্যাপী সমস্যা হিসাবে বিবেচনা করে৷ অর্থনৈতিক স্থানচ্যুতি দীর্ঘকাল ধরে উন্নত এআই-এর আশেপাশে সবচেয়ে স্পষ্ট জনসাধারণের উদ্বেগের বিষয় হয়ে দাঁড়িয়েছে, এবং এটিকে মূল্যায়ন নীতি এবং ব্যাখ্যাযোগ্যতার পাশাপাশি প্রণয়ন করা পরামর্শ দেয় যে ইনস্টিটিউট নীতিনির্ধারকেরা পৃথক বিতর্কের পরিবর্তে টুকরোগুলিকে একটি এজেন্ডা হিসাবে দেখতে চায়।
সেই প্রস্থটি গুগলের অবস্থান সম্পর্কেও একটি সংকেত। কোম্পানিটি এন্টারপ্রাইজ গ্রাহকদের এবং সরকারী চুক্তির জন্য প্রতিদ্বন্দ্বিতা করছে এবং একই সাথে যুক্তি দিচ্ছে যে ফ্রন্টিয়ার সিস্টেমের বাইরের যাচাই-বাছাই করা প্রয়োজন। উত্তেজনা প্রকাশ করা, এটিকে মসৃণ করার পরিবর্তে, ইনস্টিটিউটের মূল ভিত্তি।
উদ্বেগ থেকে কংক্রিট প্রস্তাব
শিল্পের নিরাপত্তা বিতর্ক উদ্বেগের বিস্তৃত বিবৃতি থেকে নির্দিষ্ট প্রক্রিয়ার দিকে স্থানান্তরিত হওয়ার সাথে সাথে প্রবন্ধগুলি আসে: প্রকাশের প্রয়োজনীয়তা, বাইরের যাচাই-বাছাই, এবং — যদি সুরক্ষাগুলি পিছিয়ে যায় — সমন্বিত মন্থরতা। টেকক্রাঞ্চ প্রতি, "গতি" ফ্রন্টিয়ার এআই ডেভেলপমেন্টে অ্যানথ্রোপিক সিইও দারিও অ্যামোডির আহ্বানের উপাদানগুলিকে শিল্প নেতারা সমর্থন করার কারণে এই সপ্তাহে সেই পরিবর্তনটি ত্বরান্বিত হয়েছে৷
টাইমিং গুরুত্বপূর্ণ। আটলান্টিকের উভয় পাশের সরকারগুলি সেই সিস্টেমগুলিকে কীভাবে তত্ত্বাবধান করবে যার ক্ষমতা মূল্যায়ন অবকাঠামোর চেয়ে দ্রুত অগ্রসর হচ্ছে তা ওজন করছে। একটি প্রস্তাব যা একটি নেতৃস্থানীয় AI ল্যাবের মধ্যে উদ্ভূত হয় - এবং এতে দাঁত সহ প্রাক-রিলিজ পর্যালোচনা অন্তর্ভুক্ত রয়েছে - নীতিনির্ধারকদের একটি টেমপ্লেট দেয় যা শিল্প নিজেই নামমাত্র অনুমোদন করেছে, যা ঐতিহাসিকভাবে অর্থবহ AI নিয়ন্ত্রণের পূর্বশর্ত।
কি দেখতে হবে
গুগল থেকে ইনস্টিটিউটের সম্পাদকীয় স্বাধীনতার প্রথম পরীক্ষা হবে। যদি রচনাগুলি Google-এর বাণিজ্যিক রোডম্যাপের বিরুদ্ধে কাটা অবস্থানগুলিকে অন্তর্ভুক্ত করতে থাকে — যেমনটি স্বচ্ছতা প্রবন্ধ যুক্তিযুক্তভাবে করে — স্থানটি AGI নীতি বিতর্কে একটি গুরুতর অবদানকারী হয়ে উঠতে পারে। যদি এটি কর্পোরেট মেসেজিংয়ের দিকে প্রবাহিত হয় তবে এটি একটি জনাকীর্ণ ক্ষেত্রের আরও একটি পিআর চ্যানেল হবে।
যেভাবেই হোক, পদার্থটি এখন টেবিলে রয়েছে: প্রাক-প্রকাশের মূল্যায়নের প্রয়োজনীয়তা, অনুষ্ঠিত-আউট পরীক্ষা এবং এমনকি একটি সমন্বিত মন্থরতার জন্য AI-এর অন্যতম শক্তিশালী ব্যক্তিত্ব প্রকাশ্যে যুক্তি দিচ্ছেন। প্রশ্নটি এখন আর নয় যে সীমান্ত মডেলগুলিকে স্বাধীনভাবে মূল্যায়ন করা উচিত, তবে কে মূল্যায়ন করে — এবং কোন সময়সূচীতে।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
