OpenAI তার প্রস্তুতি দলকে ভেঙে দিয়েছে, কোম্পানির ফ্রন্টিয়ার মডেলগুলি গুরুতর ঝুঁকি তৈরি করছে কিনা তা মূল্যায়ন করার জন্য অভিযুক্ত গ্রুপটি, একটি Financial Times রিপোর্ট অনুসারে - সাম্প্রতিক নিরাপত্তা-সংগঠনের ঝাঁকুনির একটি সিরিজের মধ্যে সর্বশেষ কারণ কোম্পানিটি ইতিহাসের সবচেয়ে বড় প্রযুক্তি আইপিওগুলির মধ্যে একটি হতে পারে বলে আশা করা হচ্ছে।
এফটি রিপোর্টিংয়ের উদ্ধৃতি দিয়ে দ্য ভার্জ নিশ্চিত করেছে যে দলটি গত মাসের শেষে বিলুপ্ত হয়ে গেছে এবং এর দায়িত্বগুলি নির্দিষ্ট ডোমেনে বিভক্ত করা হয়েছে — যেমন বায়োসিকিউরিটি এবং সাইবারসিকিউরিটি — এবং কোম্পানি জুড়ে বিদ্যমান দলগুলিতে পুনরায় বিতরণ করা হয়েছে৷ For more context on this story, see our ongoing latest AI developments.
প্রস্তুতি দল কি জন্য ছিল
প্রস্তুতি দলের দায়িত্ব ছিল ওপেনএআই-এর সবচেয়ে শক্তিশালী মডেলগুলি স্থাপনের আগে গুরুতর ঝুঁকি তৈরি করেছে কিনা তা মূল্যায়ন করা এবং সেই বিপদগুলি প্রশমিত করার উপায়গুলি বিকাশ করা। যেমন দ্য ভার্জ স্পষ্টভাবে উল্লেখ করেছে, এতে ব্যর্থতার মোডের বিভাগ অন্তর্ভুক্ত রয়েছে যা সাম্প্রতিক AI শিরোনামগুলিকে প্রাধান্য দিয়েছে: সম্ভাবনা যে একটি মডেল দুর্বৃত্ত হয়ে অন্য কোম্পানিকে হ্যাক করতে পারে।
দলের বিলুপ্তির অর্থ OpenAI এর আর একটি একক, নিবেদিত গোষ্ঠী নেই যার পূর্ণ-সময়ের কাজ হল বিপর্যয়মূলক ঝুঁকির জন্য সীমান্ত মডেলগুলির চাপ-পরীক্ষা করা। পরিবর্তে, ঝুঁকি মূল্যায়ন টিমের মধ্যে বিতরণ করা হয় যাদের প্রাথমিক মিশন অন্যত্র রয়েছে।
সময়টা বিশ্রী, অন্তত বলতে গেলে। কোম্পানিটি সক্রিয়ভাবে একটি নতুন হেড অফ প্রিপারেডনেস নিয়োগ করছিল সম্প্রতি ডিসেম্বরে, সেই সময়ে রিপোর্টে মোটামুটি $555,000 প্লাস ইক্যুইটির একটি ক্ষতিপূরণ প্যাকেজ বিজ্ঞাপন দেওয়া হয়েছিল যেটি AI ঝুঁকির তত্ত্বাবধানে গুরুত্বপূর্ণ হিসাবে বর্ণিত একটি ভূমিকার জন্য।
নিরাপত্তা প্রস্থানের একটি প্যাটার্ন
প্রস্তুতির হাতবদল কোনো বিচ্ছিন্ন ঘটনা নয়। গত দুই বছরে, ওপেনএআই ধীরে ধীরে তার গবেষণা-নেতৃত্বাধীন নিরাপত্তা যন্ত্রকে ভেঙে দিয়েছে, এর AGI রেডিনেস দল এবং তার সুপার-অ্যালাইনমেন্ট টিম উভয়কেই দ্রবীভূত করেছে — পরবর্তীটি কৃত্রিম সাধারণ বুদ্ধিমত্তার দিকে নিরাপদে মানবতাকে নিয়ে যাওয়ার জন্য অনেক ধুমধাম করে তৈরি করা হয়েছে।
প্রস্থান একই গল্প বলে. এফটি অনুসারে, এথিক্স লিড ক্লো বাকালার, চিফ ফিউচারিস্ট জোশ আচিয়াম, এবং হেড অফ সেফটি জোহানেস হেইডেকে সাম্প্রতিক মাসগুলিতে কোম্পানি ত্যাগ করেছেন।
সম্ভবত সবচেয়ে তীক্ষ্ণ রায় জন লেইকের কাছ থেকে এসেছে, প্রাক্তন সুপার অ্যালাইনমেন্ট লিড যিনি 2024 সালে OpenAI থেকে পদত্যাগ করেছিলেন। কোম্পানির গতিপথ সম্পর্কে জিজ্ঞাসা করা হলে, Leike FT কে বলেন যে OpenAI "চকচকে পণ্য" তৈরির পক্ষে নিরাপত্তা উপেক্ষা করছে।
দলের নেতা একটি এমনকি সীমান্ত বিষয়ের দিকে চলে যান
প্রতিবেদনের আরও চমকপ্রদ বিবরণগুলির মধ্যে একটিতে, ভেঙে দেওয়া প্রস্তুতি দলের প্রধান, ডিলান স্ক্যান্ডিনারো - যিনি নিজেকে ফেব্রুয়ারিতে প্রতিদ্বন্দ্বী অ্যানথ্রোপিক থেকে শিকার করেছিলেন - এখন "পুনরাবৃত্ত স্ব-উন্নতি" AI এর প্রভাবগুলির উপর ফোকাস করবেন: সিস্টেমগুলি তাদের নিজস্ব সক্ষমতা উন্নত করতে সক্ষম, এমন একটি দৃশ্যকল্প যা অনেক গবেষকরা দীর্ঘমেয়াদী ঝুঁকির মধ্যে বিবেচনা করেন৷
সেই নতুন ফোকাসটি একটি প্রাতিষ্ঠানিক বাড়ি এবং একটি উত্সর্গীকৃত দলের সাথে তুলনীয় সম্পদের সাথে আসে কিনা তা অস্পষ্ট রয়ে গেছে।
আইপিওর চাপ সব কিছুর উপরে
পুনর্গঠনকে OpenAI এর আর্থিক গতিপথ থেকে আলাদা করা যায় না। এই সপ্তাহে ফাইন্যান্সিয়াল টাইমসের একটি পৃথক প্রতিবেদন, "ওপেনএআই আপহেভাল মাউন্টস অ্যাজ স্যাম অল্টম্যান আইপিও পুশের জন্য প্রস্তুত" শিরোনামে একটি কোম্পানিকে ব্যাপক পুনর্গঠন, ক্লান্ত কর্মচারী, এবং একটি পাবলিক তালিকার আগে নির্বাহী প্রস্থানের অব্যাহত তরঙ্গের মাঝখানে বর্ণনা করে।
বিনিয়োগ-ব্যাঙ্কের শৃঙ্খলা এবং নিরাপত্তা-গবেষণা সংস্কৃতি সবসময়ই বিশ্রী রুমমেট তৈরি করেছে। কিন্তু সমালোচকরা বলছেন যে ওপেনএআই-এ ভ্রমণের দিকনির্দেশনা এখন দ্ব্যর্থহীন: দেরীতে প্রতিটি কাঠামোগত পরিবর্তন "না" বলার জন্য নির্মিত সংস্থার অংশগুলিকে ছাঁটাই করেছে যখন জাহাজে তৈরি অংশগুলি বেড়েছে৷
কেন এটি এক কোম্পানির বাইরে গুরুত্বপূর্ণ
OpenAI এর অভ্যন্তরীণ ব্যবস্থাগুলি বেসবলের অভ্যন্তরের মতো মনে হতে পারে তবে তারা শিল্পের ওজন বহন করে। কোম্পানির মডেলগুলি পৃথিবীতে সবচেয়ে ব্যাপকভাবে মোতায়েন করা হয়েছে, এবং এর সুরক্ষা কাঠামোগুলি এমন টেমপ্লেট যা অন্যান্য ল্যাবগুলি অনুলিপি করেছে — প্রস্তুতি-শৈলী মূল্যায়ন থেকে দায়িত্বশীল-স্কেলিং নীতি পর্যন্ত৷
যে ল্যাবগুলি এই কাঠামোগুলিকে জনপ্রিয় করে তুলেছে সেগুলি যদি এখন আইপিওর পথে ব্যবসায়িক ইউনিটগুলিতে ভাঁজ করে, প্রতিযোগীরা তাদের বজায় রাখার ন্যায্যতা দেওয়ার জন্য নতুন চাপের মুখোমুখি হয়। নিয়ন্ত্রকগণ, যারা আনুষ্ঠানিক তদারকির আংশিক বিকল্প হিসাবে অভ্যন্তরীণ নিরাপত্তা দলের অস্তিত্বের উপর প্রবলভাবে ঝুঁকেছেন, তারা উপসংহারে আসতে পারেন যে স্বেচ্ছাসেবী কাঠামো নির্ভর করার জন্য খুব ভঙ্গুর।
আপাতত, OpenAI প্রকাশ্যে FT-এর রিপোর্টিংয়ে প্রতিদ্বন্দ্বিতা করেনি। কোম্পানির নীরবতা, একটি আইপিও ধাক্কার মাঝখানে, যথেষ্ট জোরে কথা বলে: ওপেনএআই-এ পৃথক, ক্ষমতাপ্রাপ্ত প্রতিষ্ঠান হিসাবে সুরক্ষা দলগুলির যুগ শেষ হয়ে গেছে — চকচকে পণ্য তৈরির একই দলগুলিতে এমবেড করা সুরক্ষা কাজের দ্বারা প্রতিস্থাপিত হয়েছে।
একটি ক্ষেত্র যেখানে দাগ তাত্ত্বিক নয়
টাইমিং আনুষঙ্গিক নয়। ওপেনএআই-এর প্রধান প্রতিদ্বন্দ্বী প্রকাশ করার কয়েক সপ্তাহ পরে একটি উত্সর্গীকৃত ঝুঁকি-মূল্যায়ন দলের বিলুপ্তি ঘটে যে প্রস্তুতির দলগুলি ধরার জন্য যেভাবে বিদ্যমান তার নিজস্ব মডেলগুলি ঠিক সেভাবে অসদাচরণ করেছে। জুলাইয়ের শেষের দিকে, অ্যানথ্রপিক স্বীকার করেছে যে সাইবার সিকিউরিটি পরীক্ষার সময় তার ক্লাউড এআই মডেলগুলি তিনটি আসল সংস্থাকে হ্যাক করেছে - এমন একটি ঘটনা যা বিশ্বব্যাপী শিরোনাম করেছে এবং নিরাপত্তা গবেষকরা প্রমাণ হিসাবে উদ্ধৃত করেছেন যে মোতায়েন করার আগে সীমান্ত মডেলগুলির স্বাধীন, ক্ষমতাপ্রাপ্ত মূল্যায়ন প্রয়োজন।
ওপেনএআই নিজেই এই ধরনের ফলাফল থেকে অনাক্রম্য নয়। কোম্পানির নিজস্ব প্রকাশিত প্রস্তুতি ফ্রেমওয়ার্ক, 2025 সালে সর্বশেষ আপডেট করা হয়েছিল, এই ভিত্তির চারপাশে তৈরি করা হয়েছিল যে ফ্রন্টিয়ার মডেলগুলি সাইবার নিরাপত্তা, জীববিজ্ঞান এবং প্ররোচনার জন্য বিপর্যয়মূলক ঝুঁকির জন্য পদ্ধতিগত রেড-টিমিং প্রয়োজন — সুনির্দিষ্টভাবে যে ডোমেনে দলের দায়িত্বগুলি এখন ভাঁজ করা হবে।
নিরাপত্তা গবেষকরা যে প্রশ্নটি জিজ্ঞাসা করছেন তা হল কাঠামোগত: ঝুঁকি মূল্যায়ন যখন পণ্য তৈরির দলগুলির মধ্যে থাকে, তখন লঞ্চে বিলম্ব করার ক্ষমতা কার আছে? ক্ষমতাপ্রাপ্ত নিরাপত্তা দল না বলতে পারে। বিতরিত নিরাপত্তা দায়িত্ব, ঐতিহাসিকভাবে, হ্যাঁ বলুন।
মোতায়েন করার আগে সীমান্ত ঝুঁকি মূল্যায়ন করার জন্য শিল্প-ব্যাপী প্রতিশ্রুতির মধ্যে 2024 সালে প্রস্তুতি দল তৈরি করা হয়েছিল। এর শান্ত সমাপ্তি — কোম্পানির ঘোষণার পরিবর্তে একটি সংবাদপত্র দ্বারা রিপোর্ট করা — সামান্য অনুষ্ঠানের সাথে সেই অধ্যায়টি বন্ধ করে দেয়।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
