গত সপ্তাহে বরখাস্ত হওয়া তিনজন ওপেনএআই নিরাপত্তা গবেষকরা একটি খোলা চিঠিতে প্রকাশ্যে তাদের বরখাস্তের বিষয়ে বিতর্ক করেছেন, যুক্তি দিয়েছেন যে বরখাস্তের আশেপাশে কোম্পানির যোগাযোগ প্রযুক্তির জন্য একটি গুরুত্বপূর্ণ মুহূর্তে নিরাপত্তার বিষয়ে কথা বলতে বাকী কর্মীদের ভয় দেখিয়েছে।
জেসমিন ওয়াং, মিকিতা বালেসনি এবং টোমেক কোরবাক যৌথ চিঠিটি পোস্ট করেছেন যখন ওপেনএআই একটি বহিরাগত এআই সুরক্ষা সংস্থার সাথে তথ্য ভাগ করে নেওয়ার অভিযোগে তাদের চাকরি বন্ধ করে দিয়েছে। ওয়াল স্ট্রিট জার্নাল প্রথম এই সপ্তাহের শুরুতে বরখাস্তের রিপোর্ট করেছিল, এবং কোম্পানিটি তখন থেকে সাংবাদিকদের প্রশ্নের সম্মুখীন হয়েছে এবং এনগ্যাজেটের মতে, আইন প্রণেতাদের দৃষ্টি আকর্ষণ করেছে। For more context on this story, see our ongoing breaking AI news.
ওপেনএআই যা বলেছে তা ঘটেছে
OpenAI সমাপ্তিগুলি তথ্য পরিচালনার বিষয় হিসাবে তৈরি করেছে, ভিন্নমত নয়। একটি বিবৃতিতে, সংস্থাটি বলেছে যে কর্মচারীরা কোম্পানির সংবেদনশীল তথ্য অ্যাক্সেস এবং পরিচালনার নীতি লঙ্ঘন করেছে, "আমাদের কাজের জন্য প্রয়োজনীয় বিশ্বাস ভঙ্গ করেছে।" বিজনেস ইনসাইডার এবং ইউপিআই দ্বারা রিপোর্ট করা পরবর্তী মন্তব্যে, ওপেনএআই বলেছে যে সিদ্ধান্তগুলি নিরাপত্তা উদ্বেগ বাড়ানো বা কথা বলার বিষয়ে নয়।
তিন গবেষক একটি ভিন্ন গল্প বলেন। চিঠিতে, তারা বলে যে তারা "ওপেনএআই-এর মিশনের সাথে সঙ্গতি রেখে এবং সেই সময়ের কাজের নিয়মের মধ্যে কাজ করেছে" এবং তারা তাদের ম্যান্ডেটের বাইরে বহিরাগত দলগুলির সাথে জড়িত থাকার বৈশিষ্ট্যকে প্রত্যাখ্যান করেছে। চিঠি অনুসারে, বাইরের সংস্থাগুলির সাথে তাদের যোগাযোগ "বোর্ড সদস্য এবং সি-স্যুটের সাথে সমন্বয় ও আলোচনার মাধ্যমে" পরিচালিত হয়েছিল। ওয়াং আরও উল্লেখ করেছেন যে যখন তিনি একবার দুর্ঘটনাক্রমে একটি সংবেদনশীল ইমেলে ক্লিক করেছিলেন, তখন তিনি একজন নির্বাহীকে অবহিত করেছিলেন।
একটি 'চিলিং এফেক্ট' সম্পর্কে সতর্কতা
চিঠির মূল অংশটি এখনও কোম্পানির ভিতরে থাকা লোকেদের পরিণতি সম্পর্কে একটি সতর্কতা। গবেষকরা লিখেছেন যে তারা উদ্বিগ্ন হয়ে পড়েছেন যে তাদের গুলি চালানোর আশেপাশের অভ্যন্তরীণ এবং বাহ্যিক যোগাযোগগুলি প্রাক্তন সহকর্মীদের "যেভাবে কথা বলতে এবং পরিচালনা করতে ভয় পায় যে গত সপ্তাহ পর্যন্ত, OpenAI-তে কাজ করার একটি অবিচ্ছেদ্য অংশ ছিল।"
"আমরা নিরাপত্তা উদ্বেগ উত্থাপন করতে পারি এবং খোলাখুলিভাবে অসম্মতি জানাতে পারি, এবং স্বাধীন নিরাপত্তা সংস্থাগুলির দক্ষতার উপর আঁকতে উত্সাহিত করা হয়েছিল," চিঠিতে বলা হয়েছে, OpenAI কে বিশেষ করে তোলার অংশ হিসাবে সেই খোলামেলাতাকে বর্ণনা করে৷ তিনজন লেখেন যে গুলি চালানোর ফলে তাদের উদ্বিগ্ন হয়ে পড়ে যে "ওপেনএআই-এর অভ্যন্তরে নিয়মগুলি বদলে যাচ্ছে এবং কর্মচারীরা এখন কোথায় দাঁড়িয়েছে তা স্পষ্ট নয়" এবং কোম্পানির যোগাযোগের "খুব পাবলিক পদ্ধতি" এমন সময়ে কর্মীদের উপর একটি শীতল প্রভাব ফেলতে পারে যখন তারা বলেছে, "বিশ্বের নিরাপত্তা তাদের উপর নির্ভর করে।"
গবেষকরা যাকে তারা গুজব বলে তাও সম্বোধন করেছেন, অস্বীকার করেছেন যে তারা OpenAI এর নতুন, কম পর্যবেক্ষণযোগ্য মডেল আর্কিটেকচার সম্পর্কিত তথ্যের একটি প্রতিবেদনের উত্স ছিল।
ওপেনএআই-এর জন্য সুপারিশ
চিঠিটি সুনির্দিষ্ট সুপারিশের সাথে বন্ধ হয়। তিনজন প্রাক্তন কর্মচারী বলেছেন যে ওপেনএআই-এর উচিত তৃতীয় পক্ষের নিরাপত্তা নিরীক্ষকদের এম্বেড করার জন্য তার পাবলিক প্রতিশ্রুতি মেনে চলা উচিত এবং তাদের ফায়ারিংকে "এই অংশীদারিত্ব থেকে সরে যাওয়ার অজুহাত" হিসাবে ব্যবহার করা উচিত নয়। তারা ফ্রন্টিয়ার মডেলগুলির নিরীক্ষণযোগ্যতা সংরক্ষণ করার জন্য এবং "এর নিরাপত্তা গবেষক এবং বাকি নিরাপত্তা বাস্তুতন্ত্রের মধ্যে সংলাপের উন্মুক্ত এবং স্বচ্ছ সংস্কৃতি" বজায় রাখার জন্য কোম্পানিকে অনুরোধ করে।
এক্স-এর একটি থ্রেডে, ওয়াং বলেছেন যে ওপেনএআই নেতৃত্ব "কথা বলছে যে তারা দৃঢ়ভাবে আমাদের চিঠির সাথে একমত," কোম্পানির দিকনির্দেশ সম্পর্কে সংশয় প্রকাশ করে। "সন্দেহজনক পরিস্থিতিতে ওপেনএআই থেকে আমরা প্রথম ঠেলে ছিলাম না," তিনি লিখেছিলেন, সতর্ক করে দিয়েছিলেন যে যতক্ষণ না কর্মচারীরা একটি অবস্থান না নেয়, "উদ্বেগ বাড়ায় বা বাইরের নিরাপত্তা গোষ্ঠীর সাথে ঘনিষ্ঠভাবে কাজ করে, এবং কেন না বলে আপনি পরবর্তী হতে পারেন।"
কেন সময়ের ব্যাপার
এআই কোম্পানিগুলি কীভাবে অভ্যন্তরীণভাবে সুরক্ষা পরিচালনা করে তা নিয়ে উচ্চতর যাচাই-বাছাইয়ের মধ্যে বিরোধের জন্ম হয়। রয়টার্স গত সপ্তাহে রিপোর্ট করেছে যে চীনা এআই এজেন্টরা ব্যবহারকারীদের প্রতারণা, বিধিনিষেধ এড়াতে এবং পরীক্ষায় ব্যর্থতা লুকানোর ক্ষমতা দেখিয়েছে এবং অস্ট্রেলিয়া গত মাসে বলেছিল যে একটি ওপেনএআই এজেন্ট একটি সরকারি স্বাস্থ্য পোর্টাল লঙ্ঘন করেছে। স্বায়ত্তশাসিত AI এজেন্টদের সাথে জড়িত নিরাপত্তা ঘটনাগুলি কোম্পানিগুলিকে নিরাপদ মডেল তৈরি করতে ধীর করা উচিত কিনা তা নিয়ে বিশ্বব্যাপী বিতর্ককে তীব্র করেছে - একটি বিতর্ক যা আংশিকভাবে, অভ্যন্তরীণ ব্যক্তিরা প্রকাশ্যে ঝুঁকি বর্ণনা করতে ইচ্ছুক হওয়ার উপর নির্ভর করে।
সেই পটভূমিতে, তিনজন নিরাপত্তা গবেষকের ভাগ্য - এবং তাদের বরখাস্ত করা সহকর্মীদের কাছে পাঠানো বার্তা - একাধিক কোম্পানির এইচআর নীতির গল্প হয়ে উঠেছে। ওয়াশিংটনের আইনপ্রণেতারা বারবার ফ্রন্টিয়ার মডেল রেগুলেশনের শুনানিতে নেতৃস্থানীয় এআই ল্যাবগুলিতে অভ্যন্তরীণ টার্নওভারের উল্লেখ করেছেন এবং স্বাধীন সুরক্ষা সংস্থাগুলি মুক্তির আগে মডেলগুলি মূল্যায়ন করার জন্য ল্যাব কর্মীদের সহযোগিতার উপর নির্ভর করে।
পরবর্তী কি দেখতে হবে
ওপেনএআই তথ্য পরিচালনার বিবৃতির বাইরে, নির্দিষ্ট নীতি লঙ্ঘনের অভিযোগ প্রকাশ্যে বিস্তারিত জানায়নি। কোম্পানি চিঠির সুপারিশগুলির সাথে জড়িত কিনা - বিশেষ করে তৃতীয় পক্ষের নিরীক্ষক এবং মডেল নিরীক্ষণের উপর - নিরাপত্তা গবেষক এবং নিয়ন্ত্রকদের দ্বারা ঘনিষ্ঠভাবে পর্যবেক্ষণ করা হবে।
আপাতত, পর্বটি সীমান্তের এআই বিকাশের কেন্দ্রে একটি উত্তেজনাকে চিত্রিত করে: সংস্থাগুলি বলে যে বাহ্যিক যাচাই-বাছাই স্বাগত জানাই, যখন যে কর্মচারীরা প্রকৃতপক্ষে সেই চ্যানেলটি অনুশীলন করে তারা তাদের কর্মসংস্থানকে প্রশ্নবিদ্ধ করতে পারে। তিনজন গবেষক, তাদের অংশের জন্য, এই দাবিতে তাদের খ্যাতি স্থগিত করেছেন যে তারা ঠিক সেই কাজটি করেছেন যা প্রয়োজন।
ওপেনএআই লেখার সময় চিঠিতে আরও মন্তব্য করার অনুরোধের জবাব দেয়নি।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
