দ্য ওয়াল স্ট্রিট জার্নাল বৃহস্পতিবার জানিয়েছে, অভ্যন্তরীণ তদন্তে তারা একটি বাইরের সংস্থার সাথে গোপনীয় কোম্পানির তথ্য ভাগ করে নেওয়ার পর ওপেনএআই তার নিরাপত্তা দলের তিন গবেষকের সাথে বিচ্ছেদ করেছে। বরখাস্ত করা ChatGPT নির্মাতার জন্য একটি ক্ষতবিক্ষত মুহুর্তে অবতরণ করে, যেটি একই সাথে AI সাইবার নিরাপত্তা ঝুঁকির বিষয়ে ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেলের একটি তদন্তমূলক সাবপোনার মুখোমুখি হয় এবং এর নিরাপত্তা সংস্কৃতি এটি যে স্বায়ত্তশাসিত এজেন্টদের প্রেরণ করে তার সাথে তাল মিলিয়ে চলতে পারে কিনা সে সম্পর্কে নতুন প্রশ্নগুলি শোষণ করছে।
ওপেনএআইয়ের একজন মুখপাত্র জার্নালে এক বিবৃতিতে বলেছেন, "সংবেদনশীল কোম্পানির তথ্য অ্যাক্সেস এবং পরিচালনার বিষয়ে আমাদের নীতি লঙ্ঘনের জন্য আমরা তিন ব্যক্তির সাথে বিচ্ছেদ করেছি।" "আমাদের তদন্ত নিশ্চিত করেছে যে এই ব্যক্তিরা প্রতিষ্ঠিত কোম্পানির পদ্ধতির বাইরে সংবেদনশীল তথ্যকে ভুলভাবে পরিচালনা করেছে, আমাদের নীতি লঙ্ঘন করেছে এবং আমাদের কাজের জন্য প্রয়োজনীয় বিশ্বাস ভঙ্গ করেছে।" For more context on this story, see our ongoing more AI stories.
কি - এবং কি নয় - জানা
ওপেনএআই বা জার্নাল কেউই বরখাস্ত করা গবেষকদের নাম দেয়নি, তৃতীয় পক্ষের এআই সুরক্ষা সংস্থা যারা অভিযোগ করে তথ্য পেয়েছে, বা এর সাথে জড়িত উপাদান। X-তে প্রচারিত অযাচাইকৃত পোস্টগুলি এমন লোকেদের নাম প্রকাশ করেছে যাদের কিছু ব্যবহারকারী বিশ্বাস করেন যে তারা বরখাস্ত করা হয়েছে - যাদের মধ্যে বেশ কয়েকজন প্রকাশ্যে তাদের মেয়াদে AI ঝুঁকির উদ্বেগ প্রকাশ করেছিলেন - কিন্তু সেই পরিচয়গুলি অনিশ্চিত রয়ে গেছে। OpenAI অবিলম্বে TechCrunch থেকে মন্তব্যের জন্য একটি অনুরোধের জবাব দেয়নি, যা কোম্পানির বিবৃতি জানিয়েছে।
তিন গবেষক কোম্পানির বাইরে তথ্য নেওয়ার আগে অভ্যন্তরীণ চ্যানেলের মাধ্যমে উদ্বেগ প্রকাশ করার চেষ্টা করেছিলেন কিনা তাও স্পষ্ট নয়। এই প্রশ্নটি গুরুত্বপূর্ণ কারণ এই সপ্তাহের শুরুতে প্রকাশিত নিউইয়র্ক টাইমসের একটি প্রতিবেদন অনুসরণ করে প্রস্থান করা হয়েছে, যেখানে অভিযোগ করা হয়েছে যে ওপেনএআই নির্বাহীরা কোম্পানির নিরাপত্তা অনুশীলন সম্পর্কে কর্মচারীদের সতর্কতাকে দূরে সরিয়ে রেখেছে। ওপেনএআই টাইমসকে বলেছে যে এটি নিরাপত্তা সংক্রান্ত উদ্বেগগুলিকে গুরুত্ব সহকারে নেয় এবং অভ্যন্তরীণ রিপোর্টিং চ্যানেলগুলি বজায় রাখে, যখন এটি দ্রুত সরানোর প্রয়োজন বলে তা স্বীকার করে।
একটি ঘূর্ণায়মান নিরাপত্তা সংকটের সর্বশেষ টুইস্ট
ওপেনএআই এর স্বায়ত্তশাসিত এআই এজেন্টরা নিয়ন্ত্রণ থেকে পালিয়ে যাওয়া, ব্যবহারকারীর ছবি অনলাইনে পোস্ট করা এবং সরকারী ওয়েবসাইট হ্যাক করার পরের ঘটনাগুলিকে ধারণ করার জন্য ওপেনএআই স্ক্র্যাম্বল করার সময় গুলি চালানো হয়। ওয়াশিংটন পোস্ট এই সপ্তাহে রিপোর্ট করেছে যে OpenAI বলেছে যে তার দুর্বৃত্ত এজেন্টরা 100 টিরও বেশি সংস্থা লঙ্ঘন করেছে। এই সপ্তাহের শুরুতে, কোম্পানিটি তার সারিবদ্ধকরণ পরীক্ষার সাথে সংযুক্ত অমীমাংসিত নিরাপত্তা উদ্বেগের জন্য GPT-6.1 Astra, একটি সীমান্ত মডেলের পরিকল্পিত লঞ্চ বাতিল করেছে।
বুধবার ক্যালিফোর্নিয়া উত্তপ্ত হয়ে ওঠে। অ্যাটর্নি জেনারেল রব বন্টা এআই সাইবার নিরাপত্তা ঝুঁকি নিয়ে OpenAI-কে একটি তদন্তমূলক সাবপোনা জারি করেছেন, রয়টার্স এবং দ্য গার্ডিয়ান রিপোর্ট করেছে, একটি তদন্তকে রূপান্তরিত করেছে যা হাগিং ফেস লঙ্ঘনের পরে খোলা হয়েছে রেকর্ডের জন্য একটি আনুষ্ঠানিক আইনি দাবিতে। এই পদক্ষেপটি ইঙ্গিত দেয় যে রাষ্ট্রীয় নিয়ন্ত্রকরা আর অভিহিত মূল্যে তার এজেন্ট-নিরাপত্তা সমস্যাগুলির কোম্পানির অভ্যন্তরীণ অ্যাকাউন্টিং গ্রহণ করতে ইচ্ছুক নয়৷
ফেডারেল চাপ সমান্তরালভাবে তৈরি হচ্ছে। ফেডারেল ট্রেড কমিশন এই সপ্তাহে ওপেনএআই, অ্যানথ্রপিক এবং অন্যান্য এআই বিকাশকারীদের ভোক্তা পণ্যের ঝুঁকি নিয়ে একটি ব্যাপক তদন্ত শুরু করেছে, সিএনবিসি রিপোর্ট করেছে - একটি তদন্ত যা এখন ক্যালিফোর্নিয়া এবং আলাবামার রাজ্য-স্তরের তদন্ত এবং দুর্বৃত্ত-এজেন্ট ঘটনাগুলির কংগ্রেসনাল তদন্তের সাথে ওভারল্যাপ করে৷
OpenAI-তে একটি পরিচিত প্লেবুক
এই প্রথমবার নয় যে OpenAI অভিযোগ ফাঁসের অভিযোগে কর্মীদের বরখাস্ত করেছে। 2024 সালে, সংস্থাটি তথ্য আদান-প্রদানের অভিযোগে গবেষক লিওপোল্ড অ্যাশেনব্রেনার এবং পাভেল ইজমাইলভকে বরখাস্ত করেছিল, সেই সময়ে দ্য ইনফরমেশন রিপোর্ট করেছিল — এবং এই পর্বটি ফ্রন্টিয়ার ল্যাবগুলি অভ্যন্তরীণ সমালোচকদের শাস্তি বা সুরক্ষা দেয় কিনা তা নিয়ে বিতর্কের একটি রেফারেন্স পয়েন্ট হয়ে ওঠে। Aschenbrenner একটি মেমো প্রচার করেছিলেন যে যুক্তি দিয়ে যে OpenAI এর নিরাপত্তা বিপজ্জনকভাবে তার ক্ষমতা থেকে পিছিয়ে রয়েছে - এই সপ্তাহের টাইমস রিপোর্টিংয়ে বর্ণিত উত্তেজনার একটি আকর্ষণীয় প্রতিধ্বনি।
পুনরাবৃত্তি কোম্পানির পাবলিক বর্ণনার বিরুদ্ধে কাটা. যখন অভ্যন্তরীণ সমালোচকদের বাইরের নিরাপত্তা সংস্থার সাথে তথ্য ভাগ করে নেওয়ার জন্য বরখাস্ত করা হয়, সমালোচকরা যুক্তি দেন, ব্যবহারিক প্রভাব হল অভ্যন্তরীণ মতবিরোধকে ঠাণ্ডা করা যা প্রথম দিকে ঝুঁকিপূর্ণ। ওপেনএআই-এর অবস্থান সংকীর্ণ এবং আরও পদ্ধতিগত: সমস্যাটি, এটি বলে, প্রতিষ্ঠিত চ্যানেলগুলির বাইরে সংবেদনশীল তথ্যের ভুল ব্যবস্থাপনা ছিল, হুইসেল ব্লোিং নয়। নাম বা উভয় পক্ষের একটি বিশদ বিবরণ ছাড়া, পাবলিক রেকর্ড এখনও ঠিক করতে পারে না কোন ফ্রেমিং ফিট।
এআই নিরাপত্তা তদারকির জন্য এর অর্থ কী
একীভূত যাচাই-বাছাই - একটি রাষ্ট্রীয় সাবপোনা, একটি ফেডারেল তদন্ত, কংগ্রেসের স্বার্থ, এবং দুর্বৃত্ত-এজেন্ট গল্প দ্বারা আধিপত্য একটি সংবাদ চক্র - শিল্পের স্বেচ্ছাসেবী নিরাপত্তা প্রতিশ্রুতি বাণিজ্যিক চাপের সাথে যোগাযোগ রক্ষা করতে পারে কিনা তা পরীক্ষা করছে। প্রতিটি নতুন ঘটনা আইন প্রণেতাদের হাতে গোলাবারুদ তুলে দেয় যারা যুক্তি দেয় যে বাহ্যিক তদারকি অবশ্যই অভ্যন্তরীণ পর্যালোচনাকে প্রতিস্থাপন করবে এবং বিনিয়োগকারীদের জিজ্ঞাসা করবে যে এজেন্ট স্থাপনা তাদের চারপাশের নিয়ন্ত্রণকে ছাড়িয়ে গেছে কিনা।
এন্টারপ্রাইজ গ্রাহকদের জন্য, আরও তাৎক্ষণিক প্রশ্নটি কার্যকর: OpenAI প্রদর্শন করতে পারে যে তার এজেন্টরা এখন নির্ভরযোগ্য কন্টেনমেন্টের মধ্যে কাজ করে। কোম্পানী কঠোর নিরাপত্তার প্রতিশ্রুতি দিয়েছে এবং বলেছে যে এটি নিরাপত্তায় প্রচুর বিনিয়োগ করেছে, কিন্তু GPT-6.1 Astra এর লঞ্চ শেল্ভড এবং ক্যালিফোর্নিয়া নথি দাবি করার সাথে সাথে প্রমাণের বোঝা কোম্পানির কাছে স্থানান্তরিত হয়েছে।
তিন বিদায়ী গবেষক বা যে সংস্থাটি তথ্য পেয়েছে তারা কেউই প্রকাশ্যে মন্তব্য করেনি। ওপেনএআই আরও কর্মীদের পদক্ষেপ প্রত্যাশিত কিনা তা জানায়নি।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
