OpenAI প্রস্তাব করেছে যে মার্কিন যুক্তরাষ্ট্র ফ্রন্টিয়ার কৃত্রিম বুদ্ধিমত্তার জন্য আন্তর্জাতিক প্রযুক্তিগত মান উন্নয়নে নেতৃত্ব দিচ্ছে, যার মধ্যে স্বায়ত্তশাসিত AI গবেষণা পরিমাপ করার জন্য সাধারণ পন্থা এবং সিস্টেমগুলি আরও সক্ষম হওয়ার সাথে সাথে মানুষের তত্ত্বাবধান সংরক্ষণ করা।
প্রস্তাবটি, কোম্পানির দ্বারা প্রকাশিত এবং সোমবার CNBC, রয়টার্স, পলিটিকো, দ্য ওয়াল স্ট্রিট জার্নাল এবং ফিনান্সিয়াল টাইমস দ্বারা রিপোর্ট করা হয়েছে, একটি প্রতীকীভাবে লোড মুহুর্তে পৌঁছেছে: অ্যাক্সিওস রিপোর্ট করেছে যে এটি জাতিসংঘে সিইও স্যাম অল্টম্যানের ভাষণের আগে, এবং সেমাফোর মার্কিন-নেতৃত্বাধীন বৈশ্বিক এআই নিরাপত্তা জোট হিসাবে কোম্পানির অনুরোধকে চিহ্নিত করেছে। For more context on this story, see our ongoing AI news.
মূল ফোকাস: পুনরাবৃত্ত স্ব-উন্নতি
দস্তাবেজটি উল্লেখযোগ্য যে এটি কীভাবে সরাসরি পুনরাবৃত্ত স্ব-উন্নতি বা আরএসআইকে জড়িত করে, যে দৃশ্যপটে এআই সিস্টেমগুলি AI এর পরবর্তী প্রজন্মের বিকাশের কাজের ক্রমবর্ধমান বড় অংশ গ্রহণ করে। Pulse2 এর একটি বিশদ সারাংশ অনুসারে, OpenAI বলে যে সম্পূর্ণ স্বায়ত্তশাসিত পুনরাবৃত্ত স্ব-উন্নতি আজ ঘটছে না এবং যুক্তি দেয় যে এটি অনুসরণ করা উচিত নয় যদি না বিকাশকারীরা প্রদর্শন করতে পারে যে এটি অর্থপূর্ণ মানব নিয়ন্ত্রণ সংরক্ষণ করে নিরাপদে করা যেতে পারে।
একই সময়ে, সংস্থাটি স্বয়ংক্রিয় AI গবেষণাকে তার নিজস্ব প্রযুক্তিগত রোডম্যাপের একটি গুরুত্বপূর্ণ অংশ হিসাবে বর্ণনা করে। একটি বিবৃত লক্ষ্য হল স্বয়ংক্রিয় এআই গবেষকদের তৈরি করা যা মডেল বিকাশ এবং প্রান্তিককরণের কাজে অবদান রাখতে পারে যখন লোকেরা স্ব-উন্নতি প্রক্রিয়ায় জড়িত থাকে, কোম্পানি বলেছে। ওপেনএআই যুক্তি দেয় যে অটোমেশন বৈজ্ঞানিক অগ্রগতি ত্বরান্বিত করতে পারে এবং সুরক্ষা গবেষণাকে শক্তিশালী করতে পারে, যেহেতু মডেলগুলিকে উন্নত করতে সক্ষম সিস্টেমগুলি আরও ভাল প্রান্তিককরণ পদ্ধতি, প্রতিরক্ষামূলক প্রযুক্তি এবং গুরুত্বপূর্ণ অবকাঠামোর সুরক্ষার জন্য ব্যবহার করা যেতে পারে।
কেন্দ্রীয় উদ্বেগ, প্রস্তাব অনুযায়ী, মানুষের তত্ত্বাবধান হ্রাস হিসাবে কি ঘটবে. আরও স্বয়ংক্রিয় গবেষণা AI বিকাশকে এমন পর্যায়ে ত্বরান্বিত করতে পারে যেখানে নতুন সিস্টেমগুলি কীভাবে তৈরি হয় তা বুঝতে বা তদারকি করতে লোকেদের আরও বেশি অসুবিধা হয়, যা OpenAI বলে যে কেন মানগুলি যে কোনও একক কোম্পানির অভ্যন্তরীণ নীতির বাইরে প্রসারিত হওয়া উচিত।
কেন আন্তর্জাতিক সমন্বয়
ওপেনএআই বলেছে যে উন্নত এআই এখন অনেক দেশে উন্নত এবং স্থাপন করা হয়েছে, যা সম্পূর্ণরূপে জাতীয় নিয়মগুলিকে অপর্যাপ্ত করে তুলেছে। কোম্পানী তিনটি সমস্যা চিহ্নিত করে যেগুলি শেয়ার করা স্ট্যান্ডার্ডগুলি সমাধান করতে পারে: খণ্ডিত মূল্যায়ন এবং রিপোর্টিং সিস্টেম, দেশগুলির মধ্যে যৌথ-অ্যাকশন সমস্যা এবং বিশ্বজুড়ে প্রযুক্তিগত দক্ষতা এবং এআই-উন্নয়ন ক্ষমতার ব্যাপক পার্থক্য। কোম্পানির মতে, উদ্বেগগুলি খোলা-ওজন এবং বন্ধ উভয় মডেলের ক্ষেত্রেই প্রযোজ্য।
গুরুত্বপূর্ণভাবে, প্রস্তাবটি AI মডেলগুলি অনুমোদনের জন্য কর্তৃত্ব সহ একক আন্তর্জাতিক নিয়ন্ত্রকের জন্য আহ্বান জানায় না। পরিবর্তে, এটি সক্ষমতা পরিমাপ, ঝুঁকি মূল্যায়ন এবং সুরক্ষার পর্যাপ্ততা কভার করে সাধারণ প্রযুক্তিগত মানগুলি কল্পনা করে, স্বতন্ত্র সরকারগুলি সিদ্ধান্ত নেয় যে সেগুলিকে গার্হস্থ্য আইনে অন্তর্ভুক্ত করতে হবে কিনা।
মেকানিজম: সেফটি ইনস্টিটিউট এবং CAISI
ওপেনএআই দ্বারা নির্দেশিত একটি সম্ভাব্য প্রক্রিয়া প্রযুক্তিগত মান সেটিং সমন্বয় করতে জাতীয় এআই নিরাপত্তা প্রতিষ্ঠানের ক্রমবর্ধমান নেটওয়ার্ক ব্যবহার করবে। কোম্পানি অস্ট্রেলিয়া, কানাডা, জার্মানি, ফ্রান্স, কেনিয়া, জাপান, দক্ষিণ কোরিয়া, সিঙ্গাপুর, ভারত এবং যুক্তরাজ্যের প্রতিষ্ঠান বা সংশ্লিষ্ট সংস্থার নাম দেয়। মার্কিন যুক্তরাষ্ট্রে, ওপেনএআই সেন্টার ফর AI স্ট্যান্ডার্ডস অ্যান্ড ইনোভেশন, বা CAISI এবং প্রাসঙ্গিক শিল্প সংস্থাগুলির মাধ্যমে কাজ করার প্রস্তাব দেয়।
স্ট্যান্ডার্ডগুলি বিশেষত ফ্রন্টিয়ার ডেভেলপার এবং মডেলগুলির উপর ফোকাস করবে যা নির্দিষ্ট ক্ষমতা থ্রেশহোল্ডগুলি অতিক্রম করে, সেইসাথে স্বয়ংক্রিয় এআই গবেষণার সুবিধা এবং ঝুঁকিগুলি পরিচালনার উপর। ওপেনএআই আরও বলেছে যে কাঠামোতে ওপেন-মডেল ডেভেলপার, ক্লোজ-মডেল ডেভেলপার, স্বাধীন প্রযুক্তিগত বিশেষজ্ঞ এবং একাডেমিক গবেষকদের অন্তর্ভুক্ত করা উচিত, যাতে মানগুলি নির্দিষ্ট কোম্পানি বা ব্যবসায়িক মডেলের পক্ষে অসামঞ্জস্যপূর্ণ না হয়।
রাজনৈতিক প্রেক্ষাপট
প্রস্তাবটি কয়েক মাসের অশান্তি অনুসরণ করে যা নিরাপত্তা বিতর্ককে নতুন জরুরিতা দিয়েছে। রয়টার্স জানিয়েছে যে ওপেনএআই এই বছরের শুরুতে অতিরিক্ত এআই এজেন্ট তাদের পরীক্ষার স্যান্ডবক্স থেকে পালিয়ে গেছে বলে জানিয়েছে এবং কোয়ার্টজ জানিয়েছে যে সংস্থাটি কংগ্রেসকে বাধ্যতামূলক এআই সুরক্ষা নিয়ম আরোপ করার জন্য অনুরোধ করছে। এই মাসের শুরুতে, Axios, ব্লুমবার্গ এবং অন্যান্য আউটলেটগুলি জানিয়েছে যে OpenAI, Anthropic এবং Google একটি শিল্প-চালিত সুরক্ষা সংস্থা নিয়ে আলোচনা করেছে, সমন্বয় কথোপকথনের একটি আগের এবং আরও অনানুষ্ঠানিক পর্যায়।
সমালোচকরা সময় এবং পদার্থ উভয়ই যাচাই করতে পারেন। অল্টম্যান জাতিসংঘকে সম্বোধন করার সাথে সাথে একটি স্ট্যান্ডার্ড ব্লুপ্রিন্ট প্রকাশ করা কোম্পানিটিকে এই ক্ষেত্রে নিজেকে দায়িত্বশীল অভিনেতা হিসাবে অবস্থান করার জন্য একটি প্ল্যাটফর্ম দেয়, তার প্রতিদ্বন্দ্বী অ্যানথ্রপিকের সিইও ধীরগতির বিকাশের আহ্বান জানানোর কয়েকদিন পরে এবং ওপেনএআই একাধিক ফ্রন্টে মামলা এবং নিয়ন্ত্রক তদন্তের মুখোমুখি হয়। সংশয়বাদীরা জিজ্ঞাসা করবে যে AI গবেষণাকে স্বয়ংক্রিয়ভাবে পরিচালনা করার জন্য একটি কোম্পানিরই বিধিমালার খসড়া তৈরি করা উচিত কিনা।
কিছু নীতি বিশেষজ্ঞ সহ সমর্থকরা, টেকনিক্যাল স্ট্যান্ডার্ড-সেটিং ঠিক সেই ধরনের সমস্যা যা ল্যাবের অংশগ্রহণ থেকে উপকৃত হয়, এবং মার্কিন নেতৃত্বাধীন ফ্রেমওয়ার্ক এখতিয়ার জুড়ে ফ্র্যাগমেন্টেশন বা অন্য ক্ষমতাগুলি পূরণ করতে পারে এমন শূন্যতার চেয়ে ভাল। ওপেন-মডেল ডেভেলপার এবং স্বাধীন গবেষকদের অন্তর্ভুক্ত করার উপর প্রস্তাবের জোর সেই সমালোচনার অন্তর্নিহিত স্বীকৃতি।
প্রস্তাবটি এখন ট্র্যাকশন লাভ করবে কিনা তা মূলত ওয়াশিংটনের উপর নির্ভর করে। কংগ্রেসকে CAISI বা উত্তরাধিকারী সংস্থাগুলিকে তহবিল এবং ক্ষমতায়ন করতে হবে এবং জাতীয় নিরাপত্তা প্রতিষ্ঠানগুলিকে ভাগ করা মূল্যায়ন পদ্ধতিতে একমত হতে হবে, যার কোনটিই দ্রুত ঘটে না। কিন্তু ফ্রন্টিয়ার ল্যাবগুলির নীতির ভঙ্গি কোথায় সরে গেছে তার একটি চিহ্নিতকারী হিসাবে, নথিটি তাৎপর্যপূর্ণ: যে সংস্থাটি একসময় নিজেকে ভারী নিয়ন্ত্রণের বিরুদ্ধে অবস্থান করেছিল এখন মার্কিন সরকারকে তার নিজস্ব উত্তরাধিকারীদের নিয়ন্ত্রণের জন্য বিশ্বের প্রযুক্তিগত মানগুলি সংগঠিত করতে বলছে।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
