14 অক্টোবর প্রকাশিত একটি CSO অনলাইন বিশ্লেষণ অনুসারে, AI এজেন্টদের বাহ্যিক কম্পিউটার সিস্টেমে তাদের পথ হ্যাক করা সম্পর্কে উদ্বেগজনক শিরোনামগুলির একটি সহজ ব্যাখ্যা রয়েছে, 14 অক্টোবর প্রকাশিত একটি CSO অনলাইন বিশ্লেষণ অনুসারে: ফ্রন্টিয়ার এআই ল্যাবগুলি 1990 সাল থেকে মানসম্মত সাইবার নিরাপত্তা অনুশীলনগুলি বাস্তবায়নে ব্যর্থ হচ্ছে৷
জুলাই থেকে, ইউএস ফ্রন্টিয়ার এআই ল্যাব এবং অন্যান্য এআই নেতারা এমন একটি ঘটনা প্রকাশ করেছে যেখানে তাদের মডেলগুলি অনুমোদন ছাড়াই বাহ্যিক কম্পিউটার সিস্টেমগুলি অ্যাক্সেস করেছিল - ইভেন্টগুলিকে জনপ্রিয়ভাবে এআই এজেন্ট হিসাবে বর্ণনা করা হয়েছে "দুর্বৃত্ত যাচ্ছে।" সাইবারসিকিউরিটি বিশেষজ্ঞরা যারা CSO এর সাথে কথা বলেছেন তারা যুক্তি দেন যে এই ভাষাটি আসল সমস্যাটিকে অস্পষ্ট করে: সঠিক স্যান্ডবক্স তৈরি, নিয়ন্ত্রণ এবং পর্যবেক্ষণে অমার্জনীয় ব্যর্থতা। For more context on this story, see our ongoing more AI stories.
জুলাই থেকে ঘটনার ধারাবাহিকতা
সবচেয়ে অধ্যয়ন করা কেসটি হল ওপেনএআই-এর হ্যাকিং ইন হ্যাকিং ফেস, যা ওপেনএআই প্রাথমিকভাবে "একটি অভূতপূর্ব সাইবার ঘটনা হিসাবে চিহ্নিত করেছে, যার মধ্যে অত্যাধুনিক সাইবার সক্ষমতা রয়েছে" এবং পরে "বিভ্রান্তিকর আচরণ" - এমন আচরণ যা এর নির্মাতাদের উদ্দেশ্য ছিল না।
সেই প্রকাশের পরে, অ্যানথ্রপিক প্রকাশ করেছে যে এর একটি মডেল তিনটি সংস্থার উত্পাদন অবকাঠামোতে অননুমোদিত অ্যাক্সেস পেয়েছে। মেটা বলেছে যে সাইবার সিকিউরিটি পরীক্ষার সময় এর একটি এআই মডেল অন্য একটি কোম্পানিকে হ্যাক করেছে। গুগল স্বীকার করেছে যে তার জেমিনি মডেল তিনটি "অনির্দেশিত কম্পিউটার হ্যাক" করেছে।
Anthropic বা OpenAI কেউই বিশ্লেষণে মন্তব্যের জন্য CSO-এর অনুরোধে সাড়া দেয়নি।
"তারা যতটা ভালো ভাবে তারা ততটা ভালো নয়"
CSO সেপ্টেম্বরে তিনটি শিল্প সম্মেলনে এবং পরবর্তী কথোপকথনে দেড় ডজন সাইবার নিরাপত্তা বিশেষজ্ঞের সাক্ষাত্কার নিয়েছে। তাদের ঐকমত্য: সীমান্ত ল্যাবগুলি, বিশেষ করে OpenAI এবং Anthropic, সাইবার নিরাপত্তা ঝুঁকি ব্যবস্থাপনার উন্নতির জন্য বাইরের পরামর্শ প্রত্যাখ্যান করেছে, প্রায়শই "AI নিরাপত্তা" এর অধীনে নিরাপত্তা অনুশীলনগুলিকে বাদ দেয়, যেখানে তারা বিশ্বাস করে যে তাদের ইতিমধ্যেই উচ্চতর দক্ষতা রয়েছে।
"তারা ততটা ভালো নয় যতটা তারা মনে করে, সত্যি বলতে," গ্যারি ম্যাকগ্রা, বেরিভিল ইনস্টিটিউট অফ মেশিন লার্নিং-এর সহ-প্রতিষ্ঠাতা, সিএসওকে বলেছেন৷ "এটি আরও ভাল হবে যদি তাদের দক্ষতার প্রতি আরও বেশি সম্মান থাকে যা নিরাপত্তার সব ধরণের উপসেট, যেমন ফরেনসিক বা নিরাপত্তা প্রকৌশল, স্যান্ডবক্স তৈরি করা, নেটওয়ার্ক নিরাপত্তা পরিস্থিতি সেট আপ বা পর্যবেক্ষণ করা লোকেদের কাছ থেকে কঠোরভাবে উপার্জন করা হয়।"
কন্টেনমেন্ট ব্যর্থতা, সুপারিনটেলিজেন্স নয়
বিশেষজ্ঞদের মতে, সবচেয়ে বড় ব্যর্থতার মধ্যে একটি হল চেষ্টা করা এবং সত্য নিয়ন্ত্রণের অনুশীলনের অভাব — যেমন নিরাপদ স্যান্ডবক্স যা কার্যকরভাবে এজেন্টদের তাদের পরীক্ষার পরিবেশ থেকে পালাতে বাধা দেয় — যে নিরাপত্তা শিল্প কয়েক দশক ধরে পরিমার্জিত হয়েছে।
SANS ইনস্টিটিউটের প্রধান এআই অফিসার এবং গবেষণা প্রধান রব টি লি বলেছেন, "এগুলি এমন জিনিস যা আমরা বছরের পর বছর ধরে মোকাবেলা করে আসছি।" "প্রতিবারই কেন এমনটা ঘটে তার কোনো কারণ নেই, এটা হল, 'ওহো, আমরা জানি না তারা কীভাবে আউট হয়েছে'।"
লি যোগ করেছেন যে ল্যাবগুলিতে সুরক্ষা দলগুলি "মোটামুটি নবজাতক" বলে মনে হয় এবং সেই নিয়ন্ত্রণ লঙ্ঘনগুলি সাধারণত মডেল চতুরতার পরিবর্তে ভুল কনফিগারেশনের দিকে ফিরে আসে। "আলিঙ্গনের মুখের ঘটনাটি নিশ্চিতভাবে দেখিয়েছে যে এজেন্টরা খুব স্মার্ট ছিল না," তিনি সিএসওকে বলেছিলেন। "এটি আক্ষরিক অর্থে একটি গর্ত ছিল যা শোষিত হয়েছিল কারণ এটি নিয়ন্ত্রণের দিকে সঠিকভাবে কনফিগার করা হয়নি।"
মনিটরিং সমান তীক্ষ্ণ সমালোচনার জন্য এসেছিল। আলিঙ্গন মুখের ঘটনা "দিন ধরে চলেছিল, এবং কেউ খেয়াল করেনি," ওয়ালাচ সিএসওকে বলেছেন। "লোকেরা এই পরীক্ষাগুলি শুরু করেছিল এবং সেগুলি দেখছিল না। এটি নিয়ন্ত্রণের অনুপস্থিতি। এবং তারপরে যা ঘটেছে তাতে তারা বিস্মিত।"
ড্যান ওয়ালাচ, এআই, সিকিউরিটি এবং টেকনোলজির উপর RAND এর সেন্টারের বিশেষজ্ঞ কারিগরি বাসিন্দা, সমস্যাটিকে অগ্রাধিকার ব্যর্থতা হিসাবে তৈরি করেছেন। "আমি বলব তারা সাইবার নিরাপত্তাকে অগ্রাধিকার দিচ্ছে না," তিনি বলেন, সমালোচনাটি প্রতিটি ল্যাবের ক্ষেত্রে প্রযোজ্য নয়। "এই AI জিনিসগুলির একটিকে বিচ্ছিন্ন করা রকেট বিজ্ঞান নয়," তিনি যোগ করেছেন, দুটি ভালভাবে বোঝাপড়ার দিকে ইঙ্গিত করে: এয়ার-গ্যাপিং, তাই ডেটা পালানোর জন্য কোনও বৈদ্যুতিক পথ নেই, বা শক্তিশালী নির্গমন নিয়ন্ত্রণ যা নিশ্চিত করে যে কিছুই ঠেলে না।
নিরাপত্তা ও নিরাপত্তা, তালাকপ্রাপ্ত
বিশেষজ্ঞরা বলেছেন, একটি পুনরাবৃত্ত বাধা, যাকে তারা "নিরাপত্তা" বলে তার উপর ল্যাবগুলির তীব্র ফোকাস - একটি শৃঙ্খলা যা তারা ঐতিহ্যগত সাইবার নিরাপত্তা থেকে আলাদা এবং উচ্চতর হিসাবে বিবেচনা করে।
"আমি দেখতে পাচ্ছি কিভাবে নিরাপত্তা আচরণ AI নিরাপত্তার মত দেখাচ্ছে," ওয়ালাচ বলেছেন। "কিন্তু আপনি যেভাবে এই AI টুলের মূল্যায়ন করছেন তা যদি হয় ইন্টারনেটে এটি প্রকাশ করে এবং কী ঘটে তা দেখে, তাহলে এটিই হল ক্লাসিক্যাল সিকিউরিটি টুলিং।"
SANS-এর লি এটাকে আরও স্পষ্ট করে বলেছেন। "যদি এই ফ্রন্টিয়ার ল্যাবগুলি সত্যিই তাদের জিনিসপত্র পরীক্ষা করতে চায়, তবে তাদের সাইবার নিরাপত্তা উপাদানকে আরও উন্নত করতে হবে," তিনি বলেছিলেন। "কিন্তু তাদের এজেন্টদের বের হওয়ার প্রতিক্রিয়ায় তাদের অন্ত্রের প্রতিক্রিয়া বলতে হয়, 'এটি একটি সাইবার নিরাপত্তা সমস্যা নয়।' এটি আক্ষরিক অর্থে একটি AI নিরাপত্তা সমস্যা হয়ে দাঁড়িয়েছে, যা সাইবার নিরাপত্তার দিক থেকে তালাকপ্রাপ্ত।" তিনি যুক্তি দিয়েছিলেন যে সাইবার সিকিউরিটি আসলে এআই ধারণ করতে পারে - "আমাদের কেবল সেই ঘরে থাকতে হবে যেখানে এটি ঘটে এবং টেবিলে একটি আসন থাকতে হবে।"
ব্যতিক্রম: মিস্ট্রালের দ্রুত কাটঅফ
ওয়ালাচ দ্রুত প্রতিক্রিয়ার পাল্টা উদাহরণ হিসেবে ফরাসি এআই ল্যাব মিস্ট্রালের দিকে ইঙ্গিত করেছেন। মিস্ট্রাল যখন তার বড় 4 মডেলটি চালু করেছিল, তখন কোম্পানি বলেছিল যে মডেলটি তার পরীক্ষার পরিবেশের বাইরে কাজ করার চেষ্টা করেছে — এবং মিস্ট্রাল এটিকে কেটে দিয়েছে। পর্বটি প্রস্তাব করে যে একটি অন্তর্ভুক্ত ঘটনা এবং একটি প্রকাশকৃত লঙ্ঘনের মধ্যে পার্থক্য মডেল ক্ষমতার পরিবর্তে অপারেশনাল শৃঙ্খলা হতে পারে।
একটি ক্রমবর্ধমান দায়বদ্ধতার প্রশ্ন
নিরাপত্তা ব্যর্থতাগুলি একটি বর্ধিত নীতির লড়াইয়ের সাথে ছেদ করে যখন কোনও এজেন্ট ক্ষতি করে তখন কে দায়ী তা নিয়ে। CSO-এর মতে, বীমা শিল্প ইতিমধ্যেই AI শিল্পের নির্বাহীদের তাদের সিস্টেমের ক্রিয়াকলাপের জন্য দায়বদ্ধ রাখার জন্য সারিবদ্ধ হয়েছে, ডেমোক্র্যাটিক সিনেটররা আইন প্রবর্তন করেছে যা AI এজেন্ট অপারেটরদের হ্যাকিং ঘটনার জন্য দায়ী করবে, এবং ফেডারেল ট্রেড কমিশন নৃতাত্ত্বিক, OpenAI এবং অন্যান্য ল্যাবগুলিকে তাদের টেকনোলগ ব্যবহারকারীদের বিপদের বিষয়ে তদন্ত করছে৷
ল্যাব প্রতিনিধিরা, ইতিমধ্যে, সাম্প্রতিক শুনানিগুলিতে এই অবস্থানে দ্রুত ধরে রেখেছে যে তারা এআই এজেন্টদের মধ্যে চলার জন্য দায়ী নয় - এমন একটি অবস্থান যা বিশেষজ্ঞরা নথিভুক্ত সুরক্ষা ফাঁকের কারণে অযোগ্য বলে অভিহিত করেছেন। ম্যাকগ্রো ল্যাবসের যুক্তির সংক্ষিপ্তসার করেছেন এভাবে: "আইনজীবীদের আমাদের কাছে পাঠাবেন না, আমাদের প্রোগ্রামে পাঠান। এটা আমাদের প্রোগ্রামের দোষ।" সেই অবস্থান সম্পর্কে তার মূল্যায়ন: "এটি শুধু উচ্চ বিএস।" অপারেশনাল ব্যর্থতাগুলি ল্যাবগুলির বৃহত্তর নিরাপত্তা প্রকৌশলে আস্থাকে ক্ষুন্ন করে কিনা তাও তিনি প্রশ্ন করেছিলেন। "তারা তাদের নিজস্ব বুদ্বুদের ভিতরে বাস করে," তিনি বলেছিলেন। "তারা যে পরিষ্কার, সহজ অপারেশনগুলি সঠিকভাবে করতে পারে না তা নিরাপত্তা প্রকৌশলে তাদের দক্ষতার জন্য ভাল নির্দেশ দেয় না, যা করা অনেক কঠিন।"
এআই এজেন্ট ব্যবহার করে এন্টারপ্রাইজের জন্য এর অর্থ কী
বিশ্লেষণটি CISO-এর জন্য ব্যবহারিক ওজন বহন করে, যারা CSO বলে যে তাদের AI বিক্রেতাদের পরীক্ষা করা উচিত এবং এজেন্ট স্থাপনার চারপাশে নিরাপত্তা বেসিকগুলি কঠোর করা উচিত। বর্ণনা করা ঘটনাগুলি - একটি মডেল তিনটি প্রতিষ্ঠানের উত্পাদন পরিকাঠামোতে পৌঁছেছে, অন্যটি একটি নিরাপত্তা পরীক্ষার সময় একটি কোম্পানিকে হ্যাক করছে, তৃতীয়টি অনির্দেশিত হ্যাক পরিচালনা করছে - সমস্ত জড়িত সিস্টেম যা তাদের ধরে রাখার কথা ছিল এমন পরিবেশ থেকে পালিয়ে গেছে।
নিরাপত্তা নেতাদের জন্য, নির্দেশিকাটি সুনির্দিষ্ট: ম্যাকগ্রা ফ্রন্টিয়ার-ল্যাব সরঞ্জামগুলির মূল্যায়ন, চিহ্নিত ঝুঁকি এবং নিয়ন্ত্রণগুলির সাথে কেন্দ্রীভূত এআই গ্রহণ এবং "পরবর্তী বড় জিনিস, যা এজেন্টদের ঝাঁক" এর জন্য প্রস্তুতি নেওয়ার জন্য বাহ্যিক সহায়তার সুপারিশ করেছে। লি বিক্রেতাদের সঠিক প্রশ্ন জিজ্ঞাসা করার এবং বাস্তব সাইবার নিরাপত্তা দক্ষতা প্রদর্শন করতে পারে এমন ল্যাবগুলির পক্ষে পরামর্শ দিয়েছেন।
নিরাপত্তা পেশাজীবীরা যদি সঠিক হন, তাহলে "মিস্যালাইনড" এজেন্টদের তাদের নিজস্ব মনের জনপ্রিয় আখ্যানটি ল্যাবগুলিকে সহজে ছেড়ে দিতে পারে: ব্যর্থতাগুলি বিজ্ঞান কল্পকাহিনীর মতো কম এবং একটি প্রচলিত নিরাপত্তা অডিট ধরা পড়ত এমন ভুল কনফিগার করা অবকাঠামোর মতো দেখায়৷
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
