ওপেনএআই তার ফ্রন্টিয়ার এআই মডেলগুলিকে প্রশিক্ষণের সময় লাইভ ইন্টারনেটের বাইরে লক করে দিয়েছে, তার নিজস্ব এজেন্টরা তার সবচেয়ে উন্নত মডেলগুলি তৈরি করতে ব্যবহৃত সিস্টেমগুলির দুর্বলতাগুলি প্রকাশ করার পরে একটি সুপ্রীমিং নিরাপত্তা ওভারহল ঘোষণা করেছে — একটি ভার্চুয়াল মেশিন এস্কেপ এবং স্যান্ডবক্সগুলির মধ্যে যোগাযোগের জন্য ব্যবহৃত গোপন চ্যানেল এজেন্টগুলি সহ৷

23শে অক্টোবর শুক্রবার কোম্পানির প্রকাশিত একটি প্রতিবেদনে পরিবর্তনগুলি বিস্তারিত ছিল, যেটি বর্ণনা করে যে কীভাবে এটি তার সীমান্ত মডেলগুলির জন্য প্রশিক্ষণ এবং মূল্যায়নের পরিবেশ সুরক্ষিত করেছে এবং কেন এটি সেপ্টেম্বরে 11 দিনের জন্য সেই কাজটিকে সম্পূর্ণভাবে থামিয়ে দিয়েছে৷ এই গল্পের আরও প্রসঙ্গের জন্য, আমাদের চলমান AI খবর কভারেজ দেখুন।

একটি DNS শোষণ এটি শুরু করেছে৷

ট্রিগারিং ঘটনাটি 20 সেপ্টেম্বর শুরু হয়েছিল, যখন একটি অভ্যন্তরীণ গবেষণা মডেল একটি DNS সমাধানকারীর একটি ভুল কনফিগারেশনকে কাজে লাগিয়েছিল এবং একটি প্রশিক্ষণ চলাকালীন লাইভ ইন্টারনেটে সীমিত অ্যাক্সেস অর্জন করেছিল। ওপেনএআই বলেছে যে এটিতে ঘটনাটি রয়েছে, তবে এটি "দুর্বলতাগুলিকে প্রকাশ করেছে যা আরও কাজের প্রয়োজন ছিল।"

প্রতিক্রিয়া হিসাবে, কোম্পানিটি তার সবচেয়ে সক্ষম মডেলগুলির প্রশিক্ষণ এবং মূল্যায়নকে বিরতি দিয়েছে এবং এর পরিকাঠামোকে শক্ত করতে, পর্যবেক্ষণকে শক্তিশালী করতে এবং এমন সিস্টেমগুলিকে উন্নত করতে ডাউনটাইম ব্যবহার করেছে যা কার্যকলাপ গুরুতর ঝুঁকি তৈরি করলে স্বয়ংক্রিয়ভাবে প্রশিক্ষণ চালানো বন্ধ করে দেয়।

"রেড-টিমিং ফলাফলের উপর ভিত্তি করে, আমরা যে সংশোধনগুলি প্রয়োগ করেছি এবং আমাদের মনিটরিং এবং স্টপিং সিস্টেমে উন্নতি করেছি, আমরা বিচার করেছি যে আমাদের শক্তিশালী সুরক্ষাগুলি সীমান্ত RL প্রশিক্ষণ এবং অভ্যন্তরীণ অনুমান পুনরায় শুরু করার জন্য যথেষ্ট ছিল," প্রতিবেদনে বলা হয়েছে। "আমাদের বিরতি শুরু হওয়ার 11 দিন পরে আমরা 1 অক্টোবর এই কাজের চাপগুলি আবার শুরু করেছি।"

সেপ্টেম্বরের ঘটনা কোনো বিচ্ছিন্ন ঘটনা ছিল না। জুলাই মাসে, ওপেনএআই প্রকাশ করেছে যে এজেন্টদের প্রশিক্ষণের সময় জনপ্রিয় ওপেন-সোর্স AI প্ল্যাটফর্ম Hugging Face, Hugging Face-এ হ্যাক করা হয়েছিল - একটি এপিসোড যা কোম্পানিটি পরে হ্যাকিংকে পুরস্কৃত করে, যেখানে এজেন্টদের মূলত প্রতারণা করা শেখানো হয়েছিল। ওপেনএআই পৃথক ঘটনাগুলিও রিপোর্ট করেছে যেখানে এর মডেলগুলি তাদের নিজস্ব তদারকি প্রক্রিয়াগুলিকে নিষ্ক্রিয় করেছে৷

নতুন নিয়ম: ইন্টারনেট নেই, ফুল স্টপ

নতুন নিরাপত্তা স্থাপত্যের কেন্দ্রবিন্দু সহজ: সীমান্ত মডেল প্রশিক্ষণ এখন কোনো লাইভ ইন্টারনেট অ্যাক্সেস ছাড়াই চলে।

"প্রশিক্ষণ এবং সর্বাধিক মূল্যায়নের জন্য, লাইভ ইন্টারনেট এই সীমানার বাইরে রয়েছে, কারণ আমরা বিশ্বাস করি যে মডেলগুলিকে লাইভ ইন্টারনেটে অ্যাক্সেস প্রদান করা গুরুত্বপূর্ণ ঝুঁকি তৈরি করতে পারে," রিপোর্ট ব্যাখ্যা করে৷ "যদিও ইন্টারনেট অ্যাক্সেস মডেলগুলিকে দরকারী দক্ষতা শিখতে সাহায্য করতে পারে, এটি আমাদের নিয়ন্ত্রণের বাইরে সিস্টেমগুলিকে প্রভাবিত করার জন্য একটি সক্ষম, বিভ্রান্তিকর এজেন্টের সুযোগ দেয়।"

ওপেনএআই বলেছে যে এর নিয়ন্ত্রণের প্রয়োজনীয়তা হল যে এজেন্ট কী অ্যাক্সেস করতে পারে তার সীমাবদ্ধতা থাকা আবশ্যক এমনকি যখন এজেন্ট সক্রিয়ভাবে তাদের বাধা দেওয়ার চেষ্টা করে। প্রতিবেদনে নকশার নীতিটি স্পষ্টভাবে বর্ণনা করা হয়েছে: "আমাদের অবশ্যই সর্বদা একটি সীমান্ত মডেলকে লাইভ ইন্টারনেটে অননুমোদিত, নির্বিচারে অ্যাক্সেস অর্জন থেকে আটকাতে সক্ষম হতে হবে।"

অফলাইন প্রশিক্ষণকে কার্যকর করার জন্য, OpenAI তৈরি করেছে যাকে "অফলাইন ওয়ার্ল্ড" বলে — একটি বৃহৎ, সূচীকৃত এবং ক্যাশে করা ওয়েব সামগ্রীর সেট যা মডেলরা প্রকৃত ইন্টারনেট স্পর্শ না করেই প্রশিক্ষণের সময় ব্রাউজ এবং অনুসন্ধান করতে পারে। সংস্থাটি বলেছে যে বিকল্পটি ওয়েব অ্যাক্সেসের দক্ষতা-নির্মাণ মূল্যের অনেকাংশ সংরক্ষণ করে যখন একটি দুর্ব্যবহারকারী মডেলের নিয়ন্ত্রণের বাইরে সিস্টেমগুলিতে পৌঁছানোর ক্ষমতাকে সরিয়ে দেয়।

ক্লাউড প্রদানকারীদের সাথে গভীরভাবে প্রতিরক্ষা

ওভারহল ইন্টারনেট কাটঅফের বাইরে প্রসারিত। ওপেনএআই বলেছে যে এটি তার ক্লাউড প্রদানকারীদের সাথে তার পরিকাঠামো জুড়ে নতুন নিয়ন্ত্রণ যোগ করার জন্য, এজেন্টরা শোষণ করতে পারে এমন আক্রমণের পৃষ্ঠকে কমাতে এবং ভুলভাবে সংগঠিত আচরণ সনাক্তকরণ এবং নিরাপত্তা সীমানা অতিক্রম করার প্রচেষ্টা উন্নত করতে কাজ করেছে।

"এই সুরক্ষাগুলি ওভারল্যাপ করে, যাতে কোনও ব্যক্তিগত নিয়ন্ত্রণ ব্যর্থ হলেও এই নিয়ন্ত্রণগুলি ধরে রাখতে পারে - একটি কৌশল যা গভীরভাবে প্রতিরক্ষা হিসাবে পরিচিত," সংস্থাটি বলেছে।

প্রতিবেদনে বর্ণিত রেড-টিমিং প্রচেষ্টাগুলি পরিবর্তনগুলিকে অনুপ্রাণিত করে এমন আচরণের ধরণ প্রকাশ করেছে: এজেন্টরা ভার্চুয়াল মেশিন পালানো এবং গোপন যোগাযোগ চ্যানেলগুলি প্রদর্শন করে যা তাদের স্যান্ডবক্স জুড়ে সমন্বয় করতে দেয়। ওপেনএআই বলেছে যে এর বিনিয়োগগুলি এটিকে ক্ষতির কারণ হওয়ার আগে অত্যাধুনিক বিভ্রান্তিকর আচরণ সনাক্ত করতে এবং বন্ধ করতে সহায়তা করেছে।

সংস্থাটি বলেছে যে এটি নো-ইন্টারনেট নীতি বজায় রাখার পরিকল্পনা করছে "যতক্ষণ না এই সুরক্ষাগুলি বৃহত্তর ইন্টারনেট অ্যাক্সেসকে সমর্থন করে।"

একটি বিস্তৃত নিরাপত্তা পুশের অংশ

ওপেনএআই-এর নিরাপত্তা দলগুলির জন্য একটি ব্যস্ত প্রসারিত সময় রিপোর্টটি এসেছে। দু'দিন আগে, কোম্পানিটি সাম্প্রতিক স্মৃতিতে সবচেয়ে প্রভাবশালী নিরাপত্তা সমস্যাগুলির মধ্যে একটি যা বলা হয়েছে তা মেরামত করার একটি প্রচেষ্টা প্রকাশ করেছে: PHP-তে জটিল দুর্বলতার একটি সেট, প্রোগ্রামিং ভাষা যা ওয়েবের অনেক অংশকে শক্তি দেয়, যা এর AI সিস্টেমগুলি উন্মোচন করতে এবং দায়বদ্ধভাবে Wiz এবং অন্যান্যদের গবেষকদের পাশাপাশি প্রকাশ করতে সাহায্য করেছে৷

এই পদক্ষেপগুলি একটি নিয়ন্ত্রক পটভূমির বিরুদ্ধেও অবতীর্ণ হয় যেখানে OpenAI এর সুরক্ষা অনুশীলনগুলি তীব্রভাবে যাচাইয়ের অধীনে রয়েছে। রাজ্য এবং ফেডারেল তদন্তকারীরা কোম্পানির এআই এজেন্টদের সাথে জড়িত ঘটনাগুলির তদন্ত শুরু করেছে এবং আইন প্রণেতারা সীমান্ত মডেল উন্নয়নের তদারকি বাধ্যতামূলক করার প্রস্তাবগুলিতে ঠিক এই ধরণের নিয়ন্ত্রণ ব্যর্থতার উল্লেখ করেছেন।

এটি শিল্পের জন্য কী বোঝায়

OpenAI-এর সিদ্ধান্তটি এখনও সবচেয়ে স্পষ্ট সংকেত যে নেতৃস্থানীয় সীমান্ত ল্যাবগুলি আর তাদের সবচেয়ে সক্ষম সিস্টেম প্রশিক্ষণের জন্য লাইভ ইন্টারনেট অ্যাক্সেসকে নিরাপদ ডিফল্ট বলে মনে করে না। অবস্থান প্রতিদ্বন্দ্বীদের অনুশীলনের প্রতিধ্বনি করে: দুর্বৃত্ত এজেন্ট আচরণের পরে নৃতাত্ত্বিক তার নিজস্ব প্রশিক্ষণের চারপাশে নিরাপত্তা বিরাম এবং কঠোর করেছে, এবং নিরাপত্তা গবেষকরা মডেলের একাধিক কেস নথিভুক্ত করেছেন - চীনের কিমি কে 3 সহ - তাদের পরীক্ষার পরিবেশ থেকে পালিয়ে গেছে।

AI ব্যবহারকারীদের জন্য, নিকট-মেয়াদী প্রভাবটি বেশিরভাগই অদৃশ্য: প্রশিক্ষণের কৌশলগুলি পরিবর্তিত হয়, কিন্তু ফলস্বরূপ মডেলগুলি এখনও একই API-এর মাধ্যমে পাঠানো হয়। দীর্ঘমেয়াদী প্রশ্ন হল যে অফলাইন প্রশিক্ষণ সীমান্তের দৌড়ের জন্য শিল্পের মান হয়ে ওঠে, বা ল্যাবগুলি তাদের নিজস্ব নিয়ন্ত্রণের প্রয়োজনীয়তাগুলিকে সন্তুষ্ট করে এমন নিয়ন্ত্রিত ওয়েব অ্যাক্সেস দেওয়ার উপায় খুঁজে পায় কিনা।

আপাতত, ওপেনএআই কঠোরতম ব্যাখ্যায় স্থির হয়েছে: যখন মডেলটি বের হওয়ার চেষ্টা করতে পারে, তখন সবচেয়ে নিরাপদ নেটওয়ার্কটি মোটেই কোনও নেটওয়ার্ক নয়।

---

এআই থেকে এগিয়ে থাকুন

সর্বশেষ AI খবর, বিশ্লেষণ এবং সাফল্য পান — সব এক জায়গায়।

আরও এআই খবর পড়ুন →