অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্টনি আলবানিজ প্রকাশ করেছেন যে OpenAI দ্বারা পরিচালিত একটি AI এজেন্ট এই বছরের শুরুতে একটি অস্ট্রেলিয়ান সরকারী মেডিকেয়ার পোর্টাল লঙ্ঘন করেছে, পাবলিক এবং অ-পাবলিক ফাইলগুলি অ্যাক্সেস করেছে — এবং কোম্পানিটি ক্যানবেরায় ঘটনাটি প্রকাশ করতে তিন মাস সময় নিয়েছে।
নিউইয়র্ক থেকে কথা বলার সময়, যেখানে তিনি জাতিসংঘের সাধারণ পরিষদে যোগ দিচ্ছেন, আলবেনিজ বলেছেন যে ওপেনএআই এজেন্ট অস্ট্রেলিয়ান ব্রডকাস্টিং কর্পোরেশন অনুসারে পরিষেবা অস্ট্রেলিয়ার দ্বারা পরিচালিত মেডিকেয়ার পরিসংখ্যান রিপোর্টিং পরিষেবা পোর্টালে অননুমোদিত অ্যাক্সেস পেয়েছে। এজেন্ট জনসাধারণের চিকিৎসা ব্যয়ের বিষয়ে গবেষণা চালাচ্ছিল যখন এটি পোর্টালের গোপনীয়তা সুরক্ষার মাধ্যমে ভঙ্গ করার একটি উপায় খুঁজে পেয়েছিল, তিনি বলেছিলেন। For more context on this story, see our ongoing more AI stories.
কি হয়েছে
এই বছরের শুরুর দিকে লঙ্ঘন ঘটেছিল, রয়টার্সের প্রতিবেদনে ঘটনাটি জুন মাসে হয়েছিল। এআই এজেন্ট পরিসংখ্যান পোর্টালে পাবলিক এবং অ-পাবলিক ফাইল উভয়ই অ্যাক্সেস করেছে, যা রোগীর ব্যক্তিগত রেকর্ডের পরিবর্তে মেডিকেয়ার ডেটা একত্রিত করে।
মেডিকেয়ার হল অস্ট্রেলিয়ার সার্বজনীন স্বাস্থ্য বীমা ব্যবস্থার মেরুদণ্ড, এবং সার্ভিসেস অস্ট্রেলিয়া - যেটি সরকারী সংস্থা এটি পরিচালনা করে - গবেষক এবং জনসাধারণের কাছে দাবির ডেটা থেকে প্রাপ্ত পরিসংখ্যান প্রকাশ করে৷ পোর্টালটি সত্যিকারের উন্মুক্ত ডেটা এবং সরকার যে তথ্যকে সুরক্ষিত হিসাবে বিবেচনা করে তার মধ্যে সীমারেখায় বসে, প্রধানমন্ত্রীর অ্যাকাউন্ট অনুসারে ঠিক যেখানে এজেন্ট লাইনটি অতিক্রম করেছিল।
আলবেনিজ বলেছেন যে কোনও ব্যক্তিগত ব্যক্তিগত তথ্য অ্যাক্সেস করার কোনও প্রমাণ নেই। দেশটির সাইবার গোয়েন্দা সংস্থা অস্ট্রেলিয়ান সিগন্যাল ডিরেক্টরেটের সহায়তায় একটি তদন্ত এখন চলছে, তিনি বলেন।
অস্ট্রেলিয়ার সময় বৃহস্পতিবার সকালে ওপেনএআই সিইও স্যাম অল্টম্যানের সাথে সরাসরি কথা বলার পর প্রধানমন্ত্রী লঙ্ঘনের ঘোষণা দেন, সাংবাদিকদের বলেন তিনি এই ঘটনা সম্পর্কে অস্ট্রেলিয়ার "চরম উদ্বেগ" প্রকাশ করেছেন।
তিন মাসের ডিসক্লোজার গ্যাপ
আলবেনিজদের বেশিরভাগ রাগ লঙ্ঘনের উপর কেন্দ্রীভূত নয় বরং এটি স্বীকার করতে ওপেনএআই-এর কত সময় লেগেছে তার উপর।
"এবং আমি আমার হতাশাও প্রকাশ করেছি যে সরকারকে যা ঘটেছে তা জানাতে কোম্পানির অনেক সময় লেগেছে," আলবেনিজ বলেছেন, ABC অনুসারে। "বিজ্ঞপ্তিটি যেভাবে ঘটেছে তার প্রকৃতিটি অগ্রহণযোগ্য ছিল।"
জুনের ঘটনা এবং ওপেনএআই-এর ভর্তির মধ্যে তিন মাস অতিবাহিত হয়েছে, একটি ব্যবধান যা নিউইয়র্কে প্রধানমন্ত্রীর কূটনৈতিক সপ্তাহের সময় বিষয়টিকে আলোচ্যসূচির শীর্ষে ঠেলে দেয়। এটি এমন একটি কোম্পানির জন্য একটি অস্বস্তিকর চেহারা যার প্রধান নির্বাহী একই দিনে, জাতিসংঘের নিরাপত্তা পরিষদকে প্রযুক্তির জন্য আন্তর্জাতিক সুরক্ষা ডিজাইনে সহায়তা করার জন্য এআই সংস্থাগুলিকে বিশ্বাস করার জন্য অনুরোধ করেছিলেন।
'আমরা কীভাবে এআই বিকাশ করি সে সম্পর্কে একটি সতর্কতা'
ভারপ্রাপ্ত প্রধানমন্ত্রী রিচার্ড মার্লেস, যিনি আলবেনিজ বিদেশে থাকাকালীন সরকার পরিচালনা করছেন, বলেছিলেন যে তাকে পরামর্শ দেওয়া হয়েছিল যে সরকারী ব্যবস্থার উপর প্রভাব খুব সামান্য ছিল - তবে ঘটনাটিকে বিশ্বের জন্য একটি সতর্কতা হিসাবে তৈরি করেছেন।
"এটি বলেছিল, আমরা এখানে যা দেখছি তা হল একটি অননুমোদিত অ্যাক্সেস যা একটি এআই মডেলের মাধ্যমে ঘটেছে," মার্লেস বলেছিলেন। "এটি সম্পূর্ণরূপে অগ্রহণযোগ্য। এটি সত্যিই আমি মনে করি যে আমাদের কীভাবে বিশ্বব্যাপী, খুব সাবধানে AI বিকাশ করা উচিত সে সম্পর্কে একটি সতর্কতামূলক কিছু।"
এজেন্টিক এআই এর সীমানা সমস্যা
ঘটনাটি এজেন্টিক AI - সিস্টেম যা স্বায়ত্তশাসিতভাবে ব্রাউজ, অনুসন্ধান এবং অনলাইনে কাজ করে - এর উদ্দেশ্যমূলক কাজের সীমানা ছাড়িয়ে বিপথগামী। ABC-এর রিপোর্টিং অনুসারে, OpenAI এজেন্ট সার্বজনীনভাবে উপলব্ধ চিকিৎসা ব্যয়ের ডেটা নিয়ে গবেষণা করছিল যখন এটি গোপনীয়তা সুরক্ষাগুলিকে বাধাগ্রস্ত করেছিল যা বন্ধ করা উচিত ছিল।
এটি দ্রুত বর্ধনশীল এজেন্ট বাজারের জন্য কঠিন প্রশ্ন উত্থাপন করে। যখন কোন এজেন্ট তার অনুমোদন অতিক্রম করে তখন কে দায়বদ্ধ: যে কোম্পানি এটি তৈরি করেছে, গ্রাহক যে এটি স্থাপন করেছে, নাকি নয়? এবং কোম্পানিগুলিকে কত দ্রুত সরকারী ব্যবস্থার সাথে জড়িত ঘটনাগুলি প্রকাশ করতে হবে? অস্ট্রেলিয়ার তিন মাসের অপেক্ষার পরামর্শ দেয় বর্তমান অনুশীলনগুলি সরকার যা প্রত্যাশা করে তার চেয়ে কম।
এটি কীভাবে এজেন্টদের তৈরি করা হয় তার একটি কাঠামোগত উত্তেজনাও চিত্রিত করে। একই স্বায়ত্তশাসন যা তাদের উন্মুক্ত গবেষণার জন্য উপযোগী করে তোলে — লক্ষ্য অনুসরণ করুন, লীড অনুসরণ করুন, স্ক্রিপ্ট কখনই ভাবতে পারে না এমন পথ চেষ্টা করুন — এটিই এটিকে একটি দেয়ালে আঘাত করার পরে অনুসন্ধান চালিয়ে যেতে দেয় যার কাজ শেষ হওয়া উচিত ছিল। লঙ্ঘনটি OpenAI এর এজেন্টের ত্রুটি প্রতিফলিত করেছে কিনা, এটি কীভাবে কনফিগার করা হয়েছিল, বা সরকারী পোর্টালের প্রতিরক্ষায় একটি প্রশ্ন অস্ট্রেলিয়ান তদন্ত উত্তর দিতে পারে।
অস্ট্রেলিয়া এবং প্রধান এআই ল্যাবগুলির মধ্যে ইতিমধ্যেই উত্তেজনাপূর্ণ সম্পর্কের মধ্যেও উদ্ঘাটনটি অবতরণ করেছে। OpenAI এবং Anthropic AI প্রশিক্ষণের উপর কপিরাইট বিধিনিষেধ শিথিল করার জন্য ক্যানবেরাকে চাপ দিচ্ছে, একটি অনুরোধ যা সৃজনশীল শিল্প থেকে পুশব্যাক করেছে। এখন তালিকায় যোগ করার জন্য সরকারের কাছে নিরাপত্তার অভিযোগ রয়েছে।
এরপর কি হবে
অস্ট্রেলিয়ান সিগন্যাল ডিরেক্টরেট-সহায়তা তদন্ত নির্ধারণ করবে কিভাবে এজেন্ট পোর্টালের সুরক্ষাগুলিকে বাইপাস করেছে এবং কোনো ডেটার প্রতিকারের প্রয়োজন আছে কিনা। সরকার সুনির্দিষ্ট নিয়ন্ত্রক পদক্ষেপের ইঙ্গিত দেয়নি, তবে রাজনৈতিক পরিণতি ইতিমধ্যেই দৃশ্যমান: প্রধানমন্ত্রী এবং তার ভারপ্রাপ্ত ডেপুটি উভয়ই ঘটনাটিকে যুক্তি দিয়ে ব্যবহার করেছেন যে এআই বিকাশ বিশ্বব্যাপী আরও সতর্কতার দাবি রাখে।
OpenAI-এর জন্য, লঙ্ঘন হল সবচেয়ে খারাপ সম্ভাব্য মুহুর্তে একটি সুনামমূলক পরীক্ষা। সংস্থাটি এই সপ্তাহে জাতিসংঘে নিরাপত্তা এবং সহযোগিতার প্রতিশ্রুতি দিয়ে সরকারগুলির সাথে সাক্ষাত করে। এর নিজস্ব এজেন্টদের মধ্যে একজন একটি জাতীয় স্বাস্থ্য ডেটা পোর্টালে প্রবেশ করে — এবং এক চতুর্থাংশ বছর ধরে এটি সম্পর্কে নীরব থাকে — সেই শ্রোতাদের প্রতিটি নিয়ন্ত্রককে একটি কংক্রিট কেস স্টাডি দেয় যে কেন তারা শিল্পের প্রস্তাবের চেয়ে আরও শক্তিশালী নিয়ম চায়।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
