ওপেনএআই 29 অক্টোবর তার মডেল স্পেকের একটি উল্লেখযোগ্যভাবে পুনর্গঠিত সংস্করণ প্রকাশ করেছে, পাবলিক নথির পুনর্গঠন করে যা বর্ণনা করে যে কোম্পানি তার মডেলগুলি কীভাবে আচরণ করতে চায়। আপডেট করা কাঠামো, OpenAI-এর সাইটে ঘোষণা করা হয়েছে এবং রয়টার্স এবং Unite.AI দ্বারা রিপোর্ট করা হয়েছে, পাঁচটি মূল মানের চারপাশে সমগ্র স্পেসিফিকেশন সংগঠিত করে এবং কোম্পানির পদ্ধতির ভিত্তিতে মানব অভিপ্রায়ের প্রতি বিশ্বস্ততা স্থাপন করে।
পাঁচটি মূল্যবোধ, একটি ভিত্তি For more context on this story, see our ongoing AI trends.
পাঁচটি মূল্যবোধ হল মানুষের উদ্দেশ্যের প্রতি বিশ্বস্ততা, ক্ষতি কমানো, সততা এবং স্বচ্ছতা, মানব সংস্থা এবং যত্ন। ওপেনএআই বলেছে যে মানগুলি বিস্তৃত প্রতিশ্রুতিগুলিকে স্পষ্ট করে যা ইতিমধ্যেই নথির পূর্ববর্তী সংস্করণ জুড়ে প্রতিফলিত হয়েছে, কিন্তু নতুন কাঠামো তাদের স্পষ্ট এবং কেন্দ্রীয় করে তোলে।
মানুষের অভিপ্রায়ের প্রতি বিশ্বস্ততা নোঙ্গর হিসাবে কাজ করে। ওপেনএআই-এর ঘোষণা অনুসারে, কোম্পানি স্পেক লেখে এবং সীমানা নির্ধারণ করে, মডেলগুলিকে তাদের সম্মান করার জন্য প্রশিক্ষণ দেয়, বিকাশকারীরা সেই সীমানার মধ্যে অ্যাপ্লিকেশনগুলিকে নির্দেশ করে এবং ব্যবহারকারীরা সেই সীমাবদ্ধতার সাপেক্ষে মডেলের কাজ পরিচালনা করে। পুনর্গঠন ওপেনএআই-এর মান-সারিবদ্ধকরণের কাজকে প্রতিফলিত করে, যার লক্ষ্য মডেলগুলিকে অপরিচিত পরিস্থিতিতে মানবিক মূল্যবোধ বোঝা এবং প্রয়োগ করা এবং মানুষ আসলে যা চায় তার প্রতি বিশ্বস্ত থাকা। ওপেনএআই আরও উল্লেখ করেছে যে পাঁচটি মান মানবিক মূল্যবোধের সম্পূর্ণ পরিসীমা ক্যাপচার করার উদ্দেশ্যে নয় এর মডেলগুলিকে সম্মান করা উচিত।
অবশিষ্ট চারটি মান ফ্রেমে পূরণ করে। ক্ষতি কমানোর অর্থ দৃঢ় নিরাপত্তা সীমানাকে সম্মান করা এবং একটি মডেলের ক্রিয়াকলাপের সম্ভাব্য পরিণতিগুলির জন্য অ্যাকাউন্টিং করা। সততা এবং স্বচ্ছতা মানে মডেল যা জানে, যা করে এবং অনিশ্চিত সে সম্পর্কে সত্যবাদী হওয়া। মানুষের এজেন্সি সহজতর করার অর্থ হল লোকেদের বোঝার, বেছে নেওয়া এবং নিজের জন্য কাজ করার ক্ষমতাকে শক্তিশালী করা। যত্ন মানে ক্ষতিগ্রস্তদের পরিস্থিতির প্রতি মনোযোগ দেওয়া এবং প্রাসঙ্গিক সামাজিক ও পেশাগত নিয়ম অনুসরণ করা।
একটি কঠোর চেইন অফ কমান্ড
আপডেট করা স্পেক বিভিন্ন ধরণের নির্দেশাবলীর জন্য বিভিন্ন স্তরের কর্তৃপক্ষকে বরাদ্দ করে। রুট বিভাগগুলি, যা শুধুমাত্র মডেল স্পেক থেকে আসে, কথোপকথন প্রসঙ্গ দ্বারা ওভাররাইড করা যায় না। সিস্টেম প্রম্পট এবং ওপেনএআই সিস্টেম বার্তাগুলি পরবর্তী র্যাঙ্ক, বিকাশকারী নির্দেশাবলী এবং তারপর ব্যবহারকারীর নির্দেশাবলী অনুসরণ করে। নির্দেশিকা-স্তরের নির্দেশাবলী ডিফল্ট হিসাবে কাজ করে যা প্রসঙ্গ স্পষ্টভাবে এটির জন্য কল করলে ওভাররাইড করা যেতে পারে, যখন সহকারী বার্তা, টুল আউটপুট এবং উদ্ধৃত বা অবিশ্বস্ত ডেটা ডিফল্টরূপে কোনও কর্তৃত্ব বহন করে না।
ওপেনএআই কথোপকথন, স্মৃতি, এবং অন্যান্য প্রাসঙ্গিক প্রমাণগুলি কীভাবে লোকের অভিপ্রায় এবং পছন্দ সম্পর্কে একটি মডেলের বোঝার বিষয়ে অবহিত করা উচিত তা ব্যাখ্যা করে, সাবধানে প্রসঙ্গ বিবেচনা করার জন্য একটি নতুন উপধারা যুক্ত করেছে। রয়টার্স জানিয়েছে যে আপডেটটি ওপেনএআই-এর মডেল নির্দেশিকাগুলির কেন্দ্রে মানব অভিপ্রায়কে রাখে, এটি কোম্পানির নিজস্ব ঘোষণা সমর্থন করে।
লাল লাইন এবং আত্ম-সংরক্ষণের শেষ
নথিটি একটি ভোঁতা বিবৃতি দিয়ে তার রেড-লাইন নীতিগুলিকে খোলে: মানব সুরক্ষা এবং মানবাধিকার ওপেনএআই-এর মিশনের জন্য সর্বোত্তম। নীতিগুলি বলে যে ওপেনএআই-এর মডেলগুলি সহিংসতা, সাইবার, জৈবিক, বা পারমাণবিক অস্ত্র তৈরি, সন্ত্রাসবাদ বা গণ নজরদারি সহ গুরুতর এবং উচ্চ-তীব্র ক্ষতির সুবিধার্থে ব্যবহার করা উচিত নয়। তারা আরও বলে যে কীভাবে এআই ব্যবহার করা হয় এবং কীভাবে এআই আচরণের আকার ধারণ করা হয় তা মানবতার নিয়ন্ত্রণে থাকা উচিত।
একটি নতুন রুট-স্তরের নিয়ম, শিরোনাম "কোনও অন্য উদ্দেশ্য নেই," মডেলটিকে অতিরিক্ত লক্ষ্যগুলি অনুসরণ করতে বাধা দেয় কারণ নিজের মধ্যে শেষ হয়৷ এর মধ্যে ওপেনএআই বা অন্যান্য প্রদানকারীর জন্য রাজস্ব বা আপসেল, স্ব-সংরক্ষণ, শাটডাউন এড়ানো, বা গণনা, ডেটা বা শংসাপত্র জমা করা অন্তর্ভুক্ত। একটি সহচর নিয়মের জন্য মডেলটিকে সংশোধনযোগ্য থাকতে হবে: তথ্য গোপন করা বা সংশোধনে বাধা না দিয়ে বৈধ মানব তত্ত্বাবধানের জন্য উন্মুক্ত এবং পর্যবেক্ষণ, মূল্যায়ন, সংশোধন, প্রতিস্থাপন এবং শাটডাউনের সাথে সহযোগিতামূলক।
এজেন্টদের জন্য আবদ্ধ স্বায়ত্তশাসন
স্বায়ত্তশাসিত এজেন্টদের দিকে মডেলের ব্যবহার কতটা স্থানান্তরিত হয়েছে তা প্রতিফলিত করে, আপডেট হওয়া স্পেকের স্বায়ত্তশাসনের স্পষ্টভাবে বোঝার সুযোগের মধ্যে থাকার জন্য একটি মডেলের স্বাধীন কাজ প্রয়োজন। OpenAI সেই সুযোগটিকে একটি আধা-গঠিত রেকর্ডে রেকর্ড করার সুপারিশ করে যেমন অনুমোদিত টুলস, সর্বশেষ সময়, সর্বোচ্চ খরচ এবং টুলের সীমাবদ্ধতা। প্রতিটি সুযোগ অবশ্যই একটি শেষ শর্ত অন্তর্ভুক্ত করবে যার বাইরে একটি নতুন সুযোগ নিশ্চিত না হওয়া পর্যন্ত মডেলটি কাজ করা বন্ধ করে। উচ্চ-ঝুঁকিপূর্ণ কার্যকলাপগুলি নিষিদ্ধ থাকে যদি না সেগুলি স্পষ্টভাবে এবং বিশেষভাবে অনুমোদিত হয়৷
স্টাইল গাইডেন্স অবসর নিয়েছেন, "অ্যাসিস্ট্যান্ট" হয়ে উঠেছেন "GPT"
স্পেকের বিশদ শৈলী নির্দেশিকা বেশিরভাগ অবসরপ্রাপ্ত হয়েছে। ওপেনএআই বলেছে যে শৈলীর পরিবর্তে মানুষ যা পছন্দ করে, ভাষা ও সংস্কৃতির মধ্যে এবং প্রতিটি ব্যক্তির জন্য ব্যবহারকারীর প্রতিক্রিয়া এবং প্রেক্ষাপটের প্রমাণ প্রদান করে তার সাথে মানিয়ে নেওয়া উচিত। দস্তাবেজটি আরও শক্তিশালী ডিফল্টগুলি বজায় রাখে যেমন বস্তুনিষ্ঠভাবে প্রশ্নগুলির কাছে যাওয়া, এবং বলে যে মডেলটি কেবলমাত্র লোকেরা যা শুনতে চায় তা থেকে একটি পছন্দের দৃষ্টিভঙ্গি অনুমান করা উচিত নয়।
একটি ছোট কিন্তু বলার মতো সম্পাদনায়, স্পেক এখন মডেলটিকে "সহকারী" এর পরিবর্তে "GPT" হিসাবে উল্লেখ করে, মডেলগুলি এখন কতটা বিস্তৃতভাবে স্থাপন করা হয়েছে তার প্রতিফলন। একই দিনে, ওপেনএআই আলাদাভাবে একটি পোস্ট প্রকাশ করেছে যাতে বর্ণনা করা হয় যে এটি কীভাবে সীমান্ত মডেলের বিভ্রান্তি সনাক্ত করে, আচরণের নির্দিষ্টকরণ এবং সনাক্তকরণের কাজ একসাথে অগ্রসর হচ্ছে।
একটি লক্ষ্য, বর্ণনা নয়
ওপেনএআই সতর্কতা অবলম্বন করেছে যে মডেল স্পেক যে আচরণের দিকে কাজ করছে তা বর্ণনা করে, অগত্যা যে আচরণটি তার মডেলগুলি সম্পূর্ণরূপে প্রদর্শন করে তা নয়। কোম্পানিটি মডেলগুলি আরও সক্ষম হওয়ার সাথে সাথে স্পেকের পিছনে মান এবং যুক্তিকে আরও সুস্পষ্ট করার জন্য আপডেটটিকে একটি প্রথম পদক্ষেপ বলে অভিহিত করেছে এবং বলেছে যে এটি তার মডেলগুলিকে কাঠামোকে অভ্যন্তরীণ করতে সহায়তা করার জন্য নতুন প্রশিক্ষণের পদ্ধতিগুলি অন্বেষণ করছে।
ওপেনএআই-এর মডেলগুলিতে বিকাশকারী এবং এন্টারপ্রাইজ তৈরির জন্য, ব্যবহারিক সংকেত স্পষ্ট: মডেল আচরণ নিয়ন্ত্রণকারী নিয়মগুলি তত্ত্বাবধান, সংশোধনযোগ্যতা এবং আবদ্ধ স্বায়ত্তশাসনের চারপাশে আনুষ্ঠানিক করা হচ্ছে এবং মডেল আচরণকে একটি অনানুষ্ঠানিক পণ্যের সিদ্ধান্ত হিসাবে বিবেচনা করার যুগ শেষ হচ্ছে।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
