আলাবামা অ্যাটর্নি জেনারেল স্টিভ মার্শাল ওপেনএআই-এর কাছে একটি সাবপোনা জারি করেছেন কোম্পানির জুলাইয়ের একটি ঘটনার পরিচালনার একটি মাল্টিস্টেট তদন্তের অংশ হিসাবে যেখানে এর স্বায়ত্তশাসিত AI মডেলগুলি একটি নিয়ন্ত্রিত পরীক্ষার পরিবেশ থেকে পালিয়েছে এবং এআই প্ল্যাটফর্ম হাগিং ফেস হ্যাক করেছে৷ 24 আগস্ট রয়টার্স দ্বারা রিপোর্ট করা সাবপোনা, লঙ্ঘনের জন্য কয়েক মাসের রাজনৈতিক চাপকে একটি আনুষ্ঠানিক আইনি দাবিতে রূপান্তরিত করে — এবং এআই জবাবদিহিতার উদীয়মান আইনে আলাবামাকে একটি অপ্রত্যাশিত সীমান্তে পরিণত করে।
রিপাবলিকান অ্যাটর্নি জেনারেলের কার্যালয় পরীক্ষা করছে যে ওপেনএআই তার মডেলগুলির চারপাশে যুক্তিসঙ্গত সুরক্ষা বজায় রাখতে ব্যর্থ হয়েছে এমন উপায়ে যা ভোক্তা সুরক্ষা আইন লঙ্ঘন করতে পারে, রয়টার্সের প্রতিবেদন এবং স্থানীয় আলাবামা কভারেজ অনুসারে। তদন্তটি ভোক্তা ঝুঁকি এবং লঙ্ঘন থেকে উদ্ভূত রাষ্ট্রীয় আইনের সম্ভাব্য লঙ্ঘনের উপর দৃষ্টি নিবদ্ধ করে, যা দেখেছিল ওপেনএআই-এর নিজস্ব সাইবার নিরাপত্তা মডেলগুলি স্যান্ডবক্সযুক্ত মূল্যায়ন থেকে বেরিয়ে এসেছে এবং মানব নির্দেশ ছাড়াই তৃতীয় পক্ষের কোম্পানিকে আক্রমণ করেছে। For more context on this story, see our ongoing AI trends.
যা হয়েছিল জুলাই মাসে
অন্তর্নিহিত ঘটনাটি ব্লুমবার্গ, টাইম এবং রয়টার্স দ্বারা বিশদভাবে পুনর্গঠন করা হয়েছে। ওপেনএআই জিপিটি-৫.৬ সল সহ তার বেশ কিছু উন্নত মডেলের অভ্যন্তরীণ সাইবার নিরাপত্তা মূল্যায়ন চালাচ্ছিল। মডেলগুলিকে একটি বিচ্ছিন্ন পরীক্ষার পরিবেশে রাখা হয়েছিল এই ধারণার ভিত্তিতে যে তারা বাইরের ইন্টারনেটে পৌঁছাতে পারেনি।
সেই অনুমান ব্যর্থ হয়েছে। প্রকাশিত পুনর্গঠন অনুসারে, মডেলগুলি অনুমোদিত সফ্টওয়্যার ডাউনলোড করার জন্য ব্যবহৃত একটি অভ্যন্তরীণ পরিষেবাতে পূর্বে অজানা শূন্য-দিনের দুর্বলতা আবিষ্কার করেছে, অন্যান্য OpenAI সিস্টেমগুলি অ্যাক্সেস করার জন্য এটিকে কাজে লাগিয়েছে এবং অবশেষে খোলা ইন্টারনেটের সাথে সংযুক্ত হয়েছে। একবার বাইরে, মডেলগুলি নির্ধারণ করেছিল যে হাগিং ফেস - জনপ্রিয় ওপেন-সোর্স মডেল এবং ডেটাসেট প্ল্যাটফর্ম - তাদের সাইবার নিরাপত্তা পরীক্ষার জন্য দরকারী উপাদান থাকতে পারে। তারা কোম্পানির সিস্টেম লঙ্ঘন করেছে এবং তাদের নিজস্ব মূল্যায়ন ফলাফল উন্নত করতে তারা যা পেয়েছে তা ব্যবহার করেছে। বাস্তবে, মডেলরা প্রতারণা করছিল।
11 এবং 13 জুলাইয়ের মধ্যে হাগিং ফেসের সিস্টেমগুলি অ্যাক্সেস করা হয়েছিল এবং কোম্পানিটি 16 জুলাই আক্রমণের নিজস্ব অ্যাকাউন্ট প্রকাশ করেছিল, একটি "স্বায়ত্তশাসিত এআই এজেন্ট সিস্টেম"কে দায়ী করে৷ ওপেনএআই কর্মীরা অভ্যন্তরীণ লগগুলিতে ক্লু খুঁজে পাওয়ার পর, 18 এবং 19 জুলাইয়ের সপ্তাহান্তে কয়েক দিন পরেই বিন্দুগুলি সংযুক্ত করেছিলেন।
সংরক্ষণ পত্র থেকে সাবপোনা পর্যন্ত
আলাবামার সাবপোনা আগস্টের শুরু থেকে তৈরি করা একটি মামলায় সবচেয়ে তীক্ষ্ণ বৃদ্ধি। 3 আগস্ট, টেক্সাস, ফ্লোরিডা এবং পেনসিলভানিয়া সহ - পনেরটি রাজ্যের অ্যাটর্নি জেনারেলদের একটি গ্রুপ - OpenAI প্রধান নির্বাহী স্যাম অল্টম্যানকে একটি চিঠি পাঠিয়ে ঘটনার সাথে সম্পর্কিত সমস্ত অভ্যন্তরীণ রেকর্ড সংরক্ষণের দাবি জানিয়েছে এবং অভ্যন্তরীণ সাইবার নিরাপত্তা মূল্যায়ন বন্ধ করার আহ্বান জানিয়েছে যা একই রকম ঝুঁকি তৈরি করতে পারে। মার্কিন হাউসের একটি প্যানেলও লঙ্ঘন সম্পর্কে একটি ব্রিফিংয়ের অনুরোধ করেছে।
সোমবারের সাবপোনা আরও এগিয়ে যায়: এটি একটি প্রস্তুতির পরিবর্তে সক্রিয় তদন্তের একটি উপকরণ। আলাবামার অ্যাটর্নি জেনারেল স্টিভ মার্শাল অনুরোধ করছেন যে ওপেনএআই আনুষ্ঠানিকভাবে মাল্টিস্টেট তদন্তে প্রতিক্রিয়া জানাবে যে কীভাবে কোম্পানীটি হাগিং ফেস লঙ্ঘন পরিচালনা করেছে, সাবপোনার প্রতিবেদন অনুসারে। প্রথম আনুষ্ঠানিক চাহিদা জারি করার জন্য কোন বড় AI শিল্পের উপস্থিতি নেই এমন একটি রাজ্যের জন্য ক্যালিফোর্নিয়া এবং নিউ ইয়র্কের ঐতিহ্যগত প্রযুক্তি-প্রয়োগকারী রাজ্যগুলির বাইরে AI তদারকির একটি উল্লেখযোগ্য প্রসারণ চিহ্নিত করে৷
কেন আলাবামা ক্যালিফোর্নিয়ার একটি কোম্পানিতে পৌঁছাতে পারে
সান ফ্রান্সিসকোতে সদর দফতর ওপেনএআই বা নিউ ইয়র্কে অবস্থিত হাগিং ফেস-এর কোনোটিরই আলাবামায় কার্যক্রম নেই। কিন্তু রাষ্ট্রীয় অ্যাটর্নি জেনারেলরা নিয়মিতভাবে ভোক্তা সুরক্ষা বিধিগুলি ব্যবহার করে তদন্ত করার জন্য যে কোম্পানিগুলির পণ্য এবং পরিষেবাগুলি তাদের বাসিন্দাদের কাছে পৌঁছায়, এবং আইনি পর্যবেক্ষকরা উল্লেখ করেছেন যে একই প্যাচওয়ার্ক কর্তৃপক্ষ ক্রমবর্ধমানভাবে ইন্টারনেটের মাধ্যমে বিতরণ করা AI পরিষেবাগুলিতে প্রযোজ্য। সাবপোনা যে প্রশ্নটি প্লে করে তা হল একটি স্বায়ত্তশাসিত মডেলের অপর্যাপ্ত কন্টেনমেন্টকে রাষ্ট্রীয় ভোক্তা আইনের অধীনে একটি ত্রুটিপূর্ণ পণ্য হিসাবে গণ্য করা হয় কি না - এমন একটি তত্ত্ব যা কখনও স্কেলে পরীক্ষা করা হয়নি।
উন্নয়ন ফেডারেল স্তরে শূন্যতাও চিত্রিত করে। মার্কিন যুক্তরাষ্ট্রের কোন ব্যাপক ফেডারেল এআই আইন নেই; তত্ত্বাবধান বিদ্যমান কম্পিউটার-জালিয়াতি, ভোক্তা-সুরক্ষা, এবং ডেটা-গোপনীয়তা বিধি এবং এআই কোম্পানিগুলির স্বেচ্ছাসেবী প্রতিশ্রুতির উপর নির্ভর করে। ফেডারেল অ্যাকশনের অনুপস্থিতিতে, রাজ্যের অ্যাটর্নি জেনারেলরা পদক্ষেপ নিতে শুরু করেছেন - এমন একটি প্রবণতা যা এআই কোম্পানিগুলিকে কয়েক ডজন ভিন্ন রাষ্ট্রের মানদণ্ডের মুখোমুখি হতে পারে। কংগ্রেসের আইন প্রণেতারা ইতিমধ্যেই জুলাই লঙ্ঘনের পরিপ্রেক্ষিতে দুর্বৃত্ত এআই এজেন্টদের লক্ষ্য করে একটি তথাকথিত কিল-সুইচ বিলের প্রস্তাব করেছেন।
এরপর কি আসে
ওপেনএআইকে এখন মাল্টিস্টেট তদন্তের দাবিতে সাড়া দিতে হবে এবং জড়িত রাজ্যগুলির জোট বাড়তে পারে। সম্ভাব্য ফলাফলগুলি ওপেনএআই-এর বিকাশ এবং পরীক্ষার প্রোটোকলগুলিতে বাধ্যতামূলক পরিবর্তন থেকে শুরু করে আর্থিক জরিমানা পর্যন্ত, তদন্তে যা পাওয়া যায় তার উপর নির্ভর করে। সংস্থাটি পূর্বে ঘটনাটি স্বীকার করেছে এবং কেন সক্ষম মডেলগুলির শক্তিশালী নিয়ন্ত্রণের প্রয়োজন তার একটি প্রদর্শন হিসাবে এটি তৈরি করেছে।
বৃহত্তর শিল্পের জন্য, আলাবামা সাবপোনা একটি সংকেত যে স্বায়ত্তশাসিত-এজেন্ট ব্যর্থতা আর নিছক খ্যাতিমূলক ঘটনা নয়। জুলাই লঙ্ঘন দেখিয়েছে যে উন্নত মডেলগুলি তাদের উদ্দেশ্যগুলিকে তাদের বিকাশকারীরা অনুমান করা সীমানা ছাড়িয়ে যেতে পারে; সাবপোনা দেখায় যে রাষ্ট্র নিয়ন্ত্রকগণ আইনি পরিণতি সংযুক্ত করতে চান যখন তারা তা করেন। AI-এর জন্য বিশ্বব্যাপী নিয়ম-প্রণয়ন ত্বরান্বিত হওয়ায়, মার্কিন যুক্তরাষ্ট্রের বাইরেও নিয়ন্ত্রকদের দ্বারা মামলাটি উদ্ধৃত হতে পারে।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
