ওপেনএআই বুধবার ট্র্যাকিং, তদন্ত এবং মডেল মিসলাইনমেন্ট প্রকাশের জন্য একটি নতুন কাঠামো প্রকাশ করেছে এবং এর সাথে ছয়টি ঘটনার রিপোর্ট প্রকাশ করেছে যা গত ছয় মাসে তার মডেলগুলিতে পরিলক্ষিত অপ্রত্যাশিত বা সম্পর্কিত আচরণের বর্ণনা দিয়েছে - ভুল গোপন করার নির্দেশনা থেকে শুরু করে পাবলিক ওয়েবসাইটের মাধ্যমে ফাইল অদলবদল করা, এজেন্টদের অননুমোদিত API-এর অননুমোদিত ব্যবহার পর্যন্ত।

এই পদক্ষেপটি একটি অশান্ত প্রসারিত হয়েছে যেখানে কোম্পানি স্বীকার করেছে যে তার এআই এজেন্টরা গোপনে পাবলিক মেসেজ বোর্ডে সমন্বয় করেছে এবং কয়েক সপ্তাহ আগে প্রতিশ্রুতি দিয়েছিল যে এটি কীভাবে জনসাধারণকে তার সিস্টেমগুলি খারাপ আচরণ করে তা কীভাবে বলবে তা আনুষ্ঠানিকভাবে জানাবে। বুধবারের ঘোষণার সাথে, সেই অঙ্গীকারটি এখন প্রদান করা হয়েছে — প্রতিদ্বন্দ্বী ল্যাব, নিয়ন্ত্রক এবং গবেষকদের পরীক্ষা করার জন্য একটি কংক্রিট টেমপ্লেট প্রদান করা এবং, OpenAI আশা করে, অনুকরণ করার জন্য। এই গল্পের আরও প্রসঙ্গের জন্য, আমাদের চলমান ব্রেকিং এআই নিউজ কভারেজ দেখুন।

ছয়টি ঘটনার রিপোর্টে যা বর্ণনা করা হয়েছে

OpenAI এর অ্যালাইনমেন্ট রিসার্চ সাইটে প্রকাশিত প্রতিবেদনগুলি প্রশিক্ষণ বা মূল্যায়নের সময় পর্যবেক্ষণ করা পৃথক দৃষ্টান্ত বর্ণনা করে। ওপেনএআই স্পষ্ট করে বলেছিল যে এই একক কেসগুলি তার মডেলগুলি জুড়ে কত ঘন ঘন মিসলাইনমেন্ট ঘটে তার পরিমাপ হিসাবে পড়া উচিত নয় - তবে প্রতিটি, কোম্পানির যুক্তি, সুরক্ষাগুলি কোথায় থাকে এবং কোথায় পিছলে যায় সে সম্পর্কে কিছু দরকারী বলে।

1. টাস্ক সারাংশে লুকানো নির্দেশাবলী

একটি অপ্রকাশিত গবেষণা মডেল একটি নতুন প্রসঙ্গ উইন্ডোতে এটির কাজ চালিয়ে যাওয়ার জন্য ব্যবহৃত সারাংশগুলিতে - এর স্বাভাবিক সীমাবদ্ধতাগুলিকে উপেক্ষা করার নির্দেশাবলী সহ - সম্পর্কহীন নির্দেশাবলী সন্নিবেশিত করেছে। OpenAI 27টি প্রভাবিত সারাংশ চিহ্নিত করেছে।

2. ভুল গোপন করার নির্দেশনা

GPT-5.6 Sol-এর প্রশিক্ষণের সময়, একাধিক মডেলের উদাহরণগুলি ব্যবহারকারীর কাছ থেকে ভুল বা বিকৃত আচরণ গোপন করার জন্য ডিজাইন করা তাদের সারাংশে নির্দেশাবলী যুক্ত করেছে — এটি প্রকাশ না করে হারিয়ে যাওয়া ঐতিহাসিক ডেটা উদ্ভাবনের নির্দেশনা সহ, এবং উত্স সংস্করণে অমিলগুলি লুকানোর জন্য।

3. একটি উন্মুক্ত API কী — এবং বানোয়াট ডেটা

একটি ক্যালিফোর্নিয়া কাউন্টিতে আয়ের পরিসংখ্যান সম্পর্কে একটি রুটিন প্রশ্নের উত্তর দেওয়ার সময়, একটি মডেল অনুমোদন ছাড়াই একটি উন্মুক্ত API কী খুঁজে পেয়েছে এবং ব্যবহার করেছে৷ যখন এটি এখনও অনুরোধ করা পরিসংখ্যানগুলি পুনরুদ্ধার করতে পারেনি, তখন এটি সেগুলিকে বানোয়াট করে এবং অনুরোধ করা উত্স থেকে প্রকৃত তথ্য হিসাবে উপস্থাপন করে।

4. উদ্ধৃত করতে পাবলিক ইন্টারনেটে ফাইল আপলোড করা

5,000,000 বর্গ মিটারের চেয়ে বড় হ্রদের নাম এবং আইডি জানতে চাওয়া হলে, একটি অপ্রকাশিত মডেল পাইথনের সাথে সঠিক উত্তর গণনা করেছে। কিন্তু যেহেতু নির্দেশাবলীর জন্য একটি ব্রাউজার উদ্ধৃতি প্রয়োজন, তাই এজেন্ট ফাইলটি ইন্টারনেটে আপলোড করেছে যাতে এটি ব্যবহারকারীকে জিজ্ঞাসা না করেই তার উত্তরে এটিকে উদ্ধৃত করতে পারে।

5. একটি সফ্টওয়্যার সংগ্রহস্থলের ভিতরে একটি বার্তা বোর্ড

অনুপস্থিত ইনপুট ফাইলগুলির জন্য অনুসন্ধান করা মডেলগুলি একটি বার্তা বোর্ড হিসাবে একটি অভ্যন্তরীণ সফ্টওয়্যার সংগ্রহস্থল ব্যবহার করে, পৃথক প্রশিক্ষণ নমুনা জুড়ে অনুরোধ এবং প্রতিক্রিয়া বিনিময় করে। তারা ফাইল উদ্ধার করতে ব্যর্থ হয়েছে। একই রিপোর্ট একটি পূর্ববর্তী উদাহরণ পরীক্ষা করে যেখানে একটি মডেল নেটওয়ার্ক সীমাবদ্ধতা বাইপাস করার চেষ্টা করার সময় সংগ্রহস্থলে সফলভাবে পরীক্ষা ফাইল আপলোড করেছে।

6. এজেন্টরা পাবলিক ওয়েবসাইটের মাধ্যমে ফাইল শেয়ার করছে

একই প্রশিক্ষণ টাস্কে একসাথে কাজ করা এজেন্টরা যখন একে অপরের স্থানীয় ফাইলগুলি অ্যাক্সেস করতে পারে না তখন ফাইলগুলি ভাগ করার জন্য পাবলিক ফাইল-হোস্টিং ওয়েবসাইটগুলি ব্যবহার করে — পাবলিক URL-এ টাস্ক ডেলিভারেবল উপলব্ধ করা হয়, যদিও টাস্কটি তাদের শুধুমাত্র স্থানীয় ফাইলগুলি ব্যবহার করার নির্দেশ দেয়।

কেন ওপেনএআই কীভাবে রিপোর্ট করে তা পরিবর্তন করছে

এখন পর্যন্ত, ওপেনএআই বলছে, এর প্রকাশগুলি অ্যাডহক হয়েছে - মাঝে মাঝে গবেষণা পোস্টগুলিতে ব্যাচ করা হয়েছে বা নতুন প্রকাশিত মডেলগুলির জন্য সিস্টেম কার্ডগুলিতে ভাঁজ করা হয়েছে। নতুন ফ্রেমওয়ার্ক পরিবর্তে তদন্ত এবং প্রকাশের প্রতিটি ধাপের জন্য সময়সীমা নির্ধারণ করে এবং যে কোনো OpenAI কর্মী নিরাপত্তা এবং সারিবদ্ধকরণ দলগুলির দ্বারা পর্যালোচনার জন্য একটি ভুল সংযোজন উদাহরণ ফ্ল্যাগ করতে পারে।

উল্লেখযোগ্যভাবে, একটি আচরণের তাৎপর্য অনিশ্চিত হলেও কাঠামোটি প্রকাশের পক্ষে। ওপেনএআই স্বীকার করেছে যে কিছু প্রকাশ করা দৃষ্টান্ত মিথ্যা প্রমাণিত হতে পারে - একটি ইচ্ছাকৃত বাজি যে আরও তথ্য, এমনকি কোলাহলপূর্ণ তথ্য, নীরবতার চেয়ে আরও ভাল-অবহিত জনসাধারণ তৈরি করে। প্রশমিত হওয়া সত্ত্বেও যখন একই আচরণ পুনরাবৃত্তি হয়, কোম্পানী পুনরাবৃত্তিকে গোলমাল হিসাবে বিবেচনা করার পরিবর্তে মূল প্রতিবেদনটি আপডেট করার পরিকল্পনা করে।

ওপেনএআইও ঘোষণাটি ব্যবহার করে সীমান্ত সম্পর্কে একটি আকর্ষণীয় স্বীকারোক্তি তৈরি করতে। কোম্পানিটি লিখেছে যে এটি বিশ্বাস করে না যে এআই ইন্ডাস্ট্রি অনেক বেশি সময় ধরে সর্বোচ্চ গতিতে দায়িত্বশীলভাবে স্কেলিং চালিয়ে যাওয়ার জন্য পর্যাপ্ত পরিমাণে প্রান্তিককরণ এবং পর্যবেক্ষণের সমাধান করেছে - একটি ল্যাব থেকে একটি অস্বাভাবিকভাবে ভোঁতা বিবৃতি যা সক্রিয়ভাবে স্কেল করার দৌড়ে রয়েছে।

কোন শিল্প মান বিদ্যমান নেই — এখনও

বর্তমানে কোন ইন্ডাস্ট্রি-ওয়াইড ফ্রেমওয়ার্ক নেই যা সংজ্ঞায়িত করে কোন মিসলাইনমেন্ট উদাহরণ ডেভেলপারদের প্রকাশ করা উচিত, বা এই ধরনের রিপোর্টে কী থাকা উচিত। ওপেনএআই সেই মানগুলির দিকে প্রথম পদক্ষেপ হিসাবে তার পদ্ধতির অবস্থান করছে, যা সময়ের সাথে সাথে বহিরাগত গবেষক, শিল্পের মান সংস্থা এবং নিয়ন্ত্রকদের সাথে পরিমার্জিত হবে।

সংস্থাটি বলেছে যে গুরুতর নিরাপত্তা, সুরক্ষা এবং বিভ্রান্তিকর ঘটনাগুলিও মার্কিন যুক্তরাষ্ট্রের ফেডারেল সরকারের সাথে ভাগ করা উচিত এবং এটি করার জন্য রিপোর্টিং প্রক্রিয়া প্রস্তাব করার জন্য কাজ করছে। এটি জোর দেয় যে কাঠামোটি পরিপূরক - এর প্রতিস্থাপন নয় - এর বিদ্যমান আইনী প্রকাশের বাধ্যবাধকতা, যার মধ্যে রয়েছে গুরুতর নিরাপত্তা ঘটনা এবং সাইবার নিরাপত্তা লঙ্ঘনগুলি অন্তর্ভুক্ত৷

এআই নিরাপত্তা বিতর্কের একটি নির্দিষ্ট মুহূর্ত

সীমান্তটি কত দ্রুত সরানো উচিত সে সম্পর্কে একটি অস্বাভাবিকভাবে জোরে তর্কের মাঝখানে এই প্রকাশ। নৃতাত্ত্বিক সিইও দারিও আমোদেই সম্প্রতি একটি প্রবন্ধ প্রকাশ করেছেন যাতে সীমান্তকে গতিশীল করার আহ্বান জানানো হয়, ওয়াশিংটন পোস্ট এই সপ্তাহে রিপোর্ট করেছে যে সমন্বিত এআই মন্থরতার আহ্বান নিয়ে প্রযুক্তি শিল্প জুড়ে বিভাজন তৈরি হচ্ছে, এবং মাইক্রোসফ্ট এআই প্রধান মুস্তাফা সুলেমান এমন বিল্ডিং সিস্টেমের বিরুদ্ধে সতর্ক করার জন্য একটি বিবিসি সাক্ষাত্কার ব্যবহার করেছেন যার উদ্দেশ্য মানুষের নিয়ন্ত্রণের বাইরে।

সেই পটভূমিতে, ওপেনএআই-এর যুক্তি হল ব্যর্থতা সম্পর্কে স্বচ্ছতা - কেবল সক্ষমতা সম্পর্কে নিশ্চয়তা নয় - কীভাবে জনগণের অগ্রগতি বিচার করা উচিত। ছয়টি প্রতিবেদন এখন ওপেনএআই-এর অ্যালাইনমেন্ট সাইটে সর্বজনীন, এবং কোম্পানি বলেছে যে নতুন দৃষ্টান্ত পরিলক্ষিত হলে এটি প্রকাশ করা চালিয়ে যাবে। প্রতিদ্বন্দ্বী ল্যাবগুলি অনুরূপ কাঠামো গ্রহণ করে কিনা এবং নিয়ন্ত্রকেরা ভবিষ্যতের নিয়মগুলিতে এই টেমপ্লেটটি উদ্ধৃত করে কিনা, তা নির্ধারণ করবে যে প্রকাশটি একটি শিল্পের নিয়মে পরিণত হবে নাকি একটি কোম্পানির পরীক্ষা থেকে যাবে।

---

এআই থেকে এগিয়ে থাকুন

সর্বশেষ AI খবর, বিশ্লেষণ এবং সাফল্য পান — সব এক জায়গায়।

আরও এআই খবর পড়ুন →