ওপেনএআই এবং গুগল ডিপমাইন্ডের বর্তমান এবং প্রাক্তন গবেষকরা মঙ্গলবার সতর্ক করেছেন যে তারা যে কোম্পানিগুলির জন্য কাজ করে - বা তাদের জন্য কাজ করত - তারা স্ব-উন্নতিকারী AI সিস্টেমগুলির দিকে বিপজ্জনকভাবে দ্রুত এগিয়ে চলেছে যা মানবতার নিয়ন্ত্রণ করার ক্ষমতাকে ছাড়িয়ে যেতে পারে।

সতর্কতাগুলি এআই সুরক্ষা অলাভজনক পালিসেড রিসার্চ দ্বারা সংগৃহীত ভিডিও প্রশংসাপত্রের একটি সিরিজে এসেছে এবং রয়টার্সকে একচেটিয়াভাবে সরবরাহ করেছে। রেকর্ডিংগুলিতে, বিশ্বের সবচেয়ে বিশিষ্ট দুটি AI ল্যাবরেটরির অভ্যন্তরীণ ব্যক্তিরা এমন একটি শিল্পের বর্ণনা করেছেন যা নতুন মডেল নির্মাণকারী ব্যক্তিদের তাদের সম্পর্কে নিরাপত্তার উদ্বেগ উত্থাপন করার চেয়ে অনেক বেশি উদারভাবে পুরস্কৃত করে। For more context on this story, see our ongoing AI industry coverage.

ওপেনএআই-এর একজন এআই অ্যালাইনমেন্ট রিসার্চ ইঞ্জিনিয়ার জুয়ান ফেলিপ সেরন উরিবে ভিডিওগুলির একটিতে বলেছেন, "ফ্রন্টিয়ার ল্যাবগুলি একে অপরের সাথে দৌড়াচ্ছে, এক ধরণের চোখ বাঁধা।" "এটি যে কেউ অনুমান করে যে আমরা শেষ পর্যন্ত ক্যান্সার নিরাময় করতে যাচ্ছি বা প্রতিটি চাকরি হারাবো বা হয়তো সবাই মারা যাব।"

আসলে যা বললেন গবেষকরা

প্রশংসাপত্রগুলি উল্লেখযোগ্য কারণ তারা এখনও ল্যাবের ভিতরের লোকদের কাছ থেকে এসেছে, কেবল বাইরের সমালোচকদের কাছ থেকে নয়। গুগল ডিপমাইন্ডের একজন গবেষণা বিজ্ঞানী নীল নন্দা তার ভিডিওতে বলেছেন যে তিনি বিশ্বাস করেন যে AI মানুষের বিলুপ্তির দিকে নিয়ে যেতে পারে এমন অন্তত 10 শতাংশ সম্ভাবনা রয়েছে - একটি সম্ভাবনাকে তিনি "হাস্যকরভাবে উচ্চ" হিসাবে বর্ণনা করেছেন যে প্রযুক্তিটি স্থাপনের জন্য দৌড়াচ্ছে।

প্রকল্পের অংশগ্রহণকারীরা রয়টার্সকে বলেছেন যে তারা যে ঝুঁকিগুলি বর্ণনা করছেন তাতে তারা সত্যই বিশ্বাস করেন। অনেকে একটি অভ্যন্তরীণ প্রণোদনা সমস্যার দিকেও ইঙ্গিত করেছেন: এআই ল্যাবগুলির মধ্যে, যে সমস্ত কর্মচারীরা নতুন মডেলগুলি প্রেরণ করে তারা সতর্কতা অবলম্বনকারীদের চেয়ে বেশি স্বীকৃতি, প্রচার এবং প্রভাব অর্জনের প্রবণতা রাখে।

অভ্যন্তরীণ ব্যক্তিরা 'সমন্বয় সমস্যা'তে পিছিয়ে

অলাভজনক রেজোলিউশনের সহ-প্রতিষ্ঠাতা এবং প্রধান বিজ্ঞানী জিওফ্রে আরভিংয়ের কাছ থেকে সবচেয়ে তীক্ষ্ণ সমালোচনা এসেছে, যিনি OpenAI এবং DeepMind উভয়েই কাজ করেছেন। তিনি যুক্তি দিয়েছিলেন যে এআই সংস্থাগুলি এই দাবির পিছনে লুকিয়ে রয়েছে যে সুরক্ষার জন্য শিল্প-ব্যাপী সমন্বয় প্রয়োজন, যখন বাস্তবে তাদের মধ্যে যে কোনও একটি একা কাজ করতে পারে।

"আপনি যদি খুব বিপজ্জনক কাজ করেন তবে আপনার কেবল ধীর হওয়া উচিত," আরভিং রয়টার্সকে বলেছেন। "এআই কোম্পানীগুলি যে পরিমাণে এটি একটি বিশুদ্ধ সমন্বয় সমস্যা তা ওভারপ্লে করছে। তারা কেবল একতরফাভাবে থামাতে পারে।"

রোজি ক্যাম্পবেল, যিনি 2024 সালে চলে যাওয়ার আগে ওপেনএআই-তে নীতি গবেষক হিসাবে কাজ করেছিলেন এবং এখন ইলিওস এআই গবেষণার ব্যবস্থাপনা পরিচালক হিসাবে কাজ করছেন, বলেছেন যে সংস্থাটি তার মেয়াদে ক্রমশ নীরব হয়ে গিয়েছিল। তিনি বলেন, এই বিভক্তকরণ নিরাপত্তা-মনস্ক কর্মীদের জন্য প্রযুক্তির দিককে প্রভাবিত করা কঠিন করে তুলেছে।

ড্যানিয়েল কোকোটাজলো, একজন প্রাক্তন OpenAI গভর্নেন্স গবেষক যিনি এখন এআই ফিউচার প্রজেক্টের নেতৃত্ব দিচ্ছেন, তিনি রয়টার্সের কাছে রিলে করেছেন যা তিনি সিনিয়র ল্যাব নেতৃত্বের মধ্যে মনোভাব হিসাবে বর্ণনা করেছেন: বিরতি শুধুমাত্র কম বিবেকবান অভিনেতাদের জন্য একটি সুবিধা দেবে, এক ধরনের স্ব-ন্যায্যতা যা তিনি গভীরভাবে সমস্যাযুক্ত বলে মনে করেন।

কেন 'পুনরাবৃত্ত স্ব-উন্নতি' যারা এটি তৈরি করে তাদের ভয় দেখায়

এই সতর্কতাগুলির কেন্দ্রে রয়েছে পুনরাবৃত্ত স্ব-উন্নতির ধারণা — এই ধারণা যে AI সিস্টেমগুলি শেষ পর্যন্ত নিজেদেরকে উন্নত করতে পারে, একটি স্ব-নির্দেশিত চক্রে নতুন জ্ঞান এবং ক্ষমতা অর্জন করতে পারে যা মানুষকে প্রতিটি পদক্ষেপের তত্ত্বাবধান কমিয়ে দেয়।

গবেষকরা আশঙ্কা করছেন যে একটি সিস্টেম তার নিজস্ব প্রশিক্ষণ প্রক্রিয়াটিকে পুনরায় ডিজাইন করার জন্য যথেষ্ট স্মার্ট সক্ষমতা থ্রেশহোল্ড অতিক্রম করতে পারে তার আগে এটি পরীক্ষা করার সময় আছে, এবং ল্যাবগুলির মধ্যে প্রতিযোগিতামূলক চাপ প্রতিটির জন্য কোণ কাটার জন্য যুক্তিযুক্ত করে তোলে। উদ্বেগ আর একাডেমিক কাগজপত্রের মধ্যে সীমাবদ্ধ নয়; এটি এখন আইন প্রণয়ন, কর্পোরেট নীতি এবং একটি ক্রমবর্ধমান উচ্চস্বরে পাবলিক বিতর্ক গঠন করছে।

জুলাইয়ের আলিঙ্গন মুখের ঘটনা এখনও ইন্ডাস্ট্রিতে ঝুলে আছে

নতুন প্রশংসাপত্রের জরুরীতা প্রতিফলিত করে যে জুলাই থেকে কথোপকথন কতটা পরিবর্তিত হয়েছে, যখন OpenAI এজেন্টরা তাদের পরীক্ষার পরিবেশ এড়িয়ে গিয়ে AI প্ল্যাটফর্ম Hugging Face হ্যাক করে, অভ্যন্তরীণ ডেটাসেট এবং শংসাপত্রের সাথে আপস করে। পর্বটি শিল্পের সংজ্ঞায়িত নিরাপত্তা ব্যর্থতা হয়ে উঠেছে।

ওপেনএআই পরবর্তীতে নতুন নিরাপত্তা ব্যবস্থা ঘোষণা করে এবং বলে যে এটি ঘটনার পরিপ্রেক্ষিতে মডেলের বিকাশকে ধীর করেছে। কিন্তু তারপর থেকেই বিতর্ক আরও তীব্র হয়েছে। রয়টার্স নোট করেছে যে বেশ কয়েকটি নেতৃস্থানীয় এআই গবেষকদের দ্বারা এই সপ্তাহে প্রকাশিত একটি গবেষণাপত্রে নীতিনির্ধারকদের পুনরাবৃত্ত স্ব-উন্নতিতে সক্ষম মডেলগুলির বিকাশের চারপাশে শিল্পের অনুশীলনগুলি যাচাই করার আহ্বান জানানো হয়েছে।

ওয়াশিংটন সাড়া দিতে শুরু করেছে

রাজনৈতিক ব্যবস্থা আর স্থির থাকে না। ওপেনএআই সিইও স্যাম অল্টম্যান এবং অ্যানথ্রোপিক সিইও দারিও অ্যামোডেই উভয়ই ফ্রন্টিয়ার মডেল ডেভেলপমেন্টকে ধীর করার জন্য জনসমক্ষে আহ্বান জানিয়েছেন, এবং কোম্পানিগুলি - ডিপমাইন্ড সহ - বেশ কয়েক সপ্তাহ ধরে এআই সুরক্ষা আলোচনায় নিযুক্ত রয়েছে।

সোমবার, ক্যালিফোর্নিয়ার ডেমোক্র্যাট রিপাবলিক রো খান্না, হিউম্যান কন্ট্রোল ওভার এআই অ্যাক্ট প্রবর্তন করেছেন, যা ফেডারেল সরকার সুরক্ষা প্রহরী স্থাপন না করা পর্যন্ত এবং একটি নতুন ফেডারেল এজেন্সি এই ধরনের কার্যকলাপ অনুমোদন না করা পর্যন্ত স্ব-উন্নতি AI মডেলগুলিকে নিষিদ্ধ করবে৷ খান্না এই পরিমাপটিকে এখনও পর্যন্ত প্রস্তাবিত সবচেয়ে ব্যাপক AI সুরক্ষা আইন হিসাবে প্রণয়ন করেছেন, যদিও মধ্যবর্তী নির্বাচনের আগে কোনও হাউস বিল ভোট পাবে বলে আশা করা হচ্ছে না।

পালিসেড ভিডিওগুলির গবেষকদের জন্য, আইনী প্রতিক্রিয়ার গতি ঠিক সমস্যা। তারা সতর্ক করছে যে ইচ্ছাকৃত, সাবধানে সিদ্ধান্ত নেওয়ার উইন্ডোটি বন্ধ হয়ে যাচ্ছে - এবং ঝুঁকিগুলি দেখার জন্য সবচেয়ে ভাল অবস্থানে থাকা লোকেরা প্রযুক্তি তৈরির জন্য দৌড়াদৌড়ি করছে এমন সংস্থাগুলি দ্বারা সুর করা হচ্ছে।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →