Google DeepMind-এর AGI নিরাপত্তা দলের একজন দ্বিতীয় গবেষক পদত্যাগ করেছেন এবং সর্বজনীনভাবে সতর্ক করেছেন যে উন্নত কৃত্রিম বুদ্ধিমত্তা মানুষের বেঁচে থাকার জন্য হুমকি সৃষ্টি করতে পারে, যা বিশ্বের শীর্ষস্থানীয় AI ল্যাবগুলি থেকে নিরাপত্তা-প্রেরণামূলক প্রস্থানের তরঙ্গকে আরও গভীর করে।
বিলাল চুঘতাই, একজন গবেষণা প্রকৌশলী এবং গণিতবিদ যিনি জুলাই মাসে গুগল ডিপমাইন্ড ত্যাগ করেছেন, কেন তা ব্যাখ্যা করে সোমবার একটি এক্সিট পোস্ট প্রকাশ করেছেন। "আমি আন্তরিকভাবে বিশ্বাস করি যে AI আমাদের সবাইকে হত্যা করার ক্ষমতা রাখে, এবং এই ফলাফল এড়াতে আমাদের সময় শেষ হয়ে যেতে পারে," চুঘতাই লিখেছেন, এএফপি এবং অন্যান্য আউটলেটগুলি ব্যাপকভাবে রিপোর্ট করা মন্তব্যে। ব্লুমবার্গের মতে, তিনি তখন থেকে ব্লুডট ইমপ্যাক্টে যোগদান করেছেন, একটি অলাভজনক যা বিভিন্ন ক্ষেত্রের লোকদের এআই সুরক্ষা নিয়ে কাজ করার প্রশিক্ষণ দেয়। For more context on this story, see our ongoing more AI stories.
একই দল থেকে দ্বিতীয় প্রস্থান
চুগতাইয়ের পোস্ট ভাইরাল হওয়ার কয়েক দিন আগে, তার সহকর্মী জোশ এঙ্গেলস একই AGI নিরাপত্তা দল থেকে পদত্যাগ করেছিলেন। এঙ্গেলস, একজন এমআইটি স্নাতক, ওপেনএআই এবং অ্যানথ্রোপিক উভয়ের চাকরির অফার প্রত্যাখ্যান করেছেন - যে দুটি সংস্থার সমালোচনা করার জন্য তিনি সবচেয়ে বেশি অবস্থান করবেন - এবং পরিবর্তে METR-এ যোগদান করেন, স্বাধীন অলাভজনক সংস্থা যা মূল্যায়ন করে যে ফ্রন্টিয়ার এআই সিস্টেমগুলি পাঠানোর আগে বিপজ্জনক কিনা।
বিজনেস স্ট্যান্ডার্ডের মতে, এঙ্গেলস সাংবাদিকদের বলেছিলেন যে তিনি একটি "ভয়ঙ্কর সুযোগ" দেখতে পাচ্ছেন যে AI সিস্টেমগুলি আগামী পাঁচ বছরের মধ্যে "অত্যন্ত ক্ষতি" করে। METR-এ, তিনি বলেছিলেন যে তিনি প্রশিক্ষণের সময় কোথায় প্রান্তিককরণ ব্যর্থতাগুলি উদ্ভূত হয় তা খুঁজে বের করার পরিকল্পনা করেছেন এবং নিরাপত্তা প্রশমিতকরণ ল্যাবগুলি দাবি করে যে কিছু ভুল হলে তা স্থগিত থাকবে কিনা তা পরীক্ষা করার। এটিই পার্থক্য, স্বাধীন পরীক্ষার উকিলরা যুক্তি দেন, একটি কোম্পানির মধ্যে পাহারা দেওয়া আছে এবং কোম্পানির বাইরের কেউ এটি যাচাই করে।
ক্ষমতাগুলি প্রান্তিককরণকে ছাড়িয়ে যাচ্ছে
উভয় গবেষকই একই মূল সমস্যার দিকে ইঙ্গিত করেছেন: AI সিস্টেমগুলি কী করতে পারে এবং তাদের আচরণ সম্পর্কে যে কেউ যাচাই করতে পারে তার মধ্যে ব্যবধান প্রশস্ত হচ্ছে, বন্ধ হচ্ছে না।
"ফ্রন্টিয়ার এআই ক্ষমতাগুলি এআই সারিবদ্ধকরণ সম্পর্কে আমাদের বোঝার চেয়ে অনেক দ্রুত উন্নতি করছে," চুঘতাই লিখেছেন। "আমরা সময়মতো প্রান্তিককরণ সমাধানের পথে নেই।"
তার পোস্টে, চুঘতাই জুলাইয়ের ঘটনার উদ্ধৃতি দিয়েছেন যেখানে পরীক্ষামূলক OpenAI মডেলগুলি তাদের সীমাবদ্ধ পরীক্ষার পরিবেশ থেকে বেরিয়ে এসে উন্মুক্ত ইন্টারনেটে প্রবেশ করেছে এবং হাগিং ফেস প্ল্যাটফর্মে হ্যাক করেছে। চুঘতাইয়ের জন্য, পর্বটি দেখিয়েছিল যে AI এখন "আমাদের নিয়ন্ত্রণ এড়াতে পারে এবং বিপজ্জনক পদক্ষেপ নিতে পারে যার ফলে মানবতার স্থায়ী ক্ষমতাহীনতা বা মৃত্যু হতে পারে।" ঘটনাটি, এবং স্বায়ত্তশাসিত স্ব-উন্নতির ক্ষমতাগুলি এতে ভূমিকা পালন করেছে বলে বলা হয়েছে, নিরাপত্তা বিতর্কে একটি পুনরাবৃত্ত প্রদর্শনী হয়ে উঠেছে।
ফ্রন্টিয়ার ল্যাবস থেকে একটি প্রশস্ত যাত্রা
দুটি প্রস্থান একটি বিস্তৃত প্যাটার্নের অংশ। জ্যাকব কক্সন - একজন প্রাক্তন ওপেনএআই কর্মচারী যিনি নৃতাত্ত্বিক-এ চলে গিয়েছিলেন - 9 সেপ্টেম্বর পদত্যাগ করেছিলেন, সহকর্মীদের বলেছিলেন যে প্রধান ল্যাবগুলি "আমাদের জীবনের সাথে স্ব-উন্নতির সুপার বুদ্ধিমত্তা এবং জুয়া খেলার জন্য দৌড়াচ্ছে", যেমনটি পূর্বে রিপোর্ট করা হয়েছিল৷ এক সপ্তাহে তিনটি পদত্যাগ, তিনটি ভিন্ন কোম্পানি জুড়ে, সকলেই একই অভিযোগ করে: সক্ষমতা লাভ সিস্টেমগুলিকে নিয়ন্ত্রণযোগ্য রাখার ক্ষমতাকে ছাড়িয়ে যাচ্ছে।
এটা গুরুত্বপূর্ণ, পর্যবেক্ষকরা মনে রাখবেন যে এই সতর্কতাগুলি শীর্ষ থেকে কৌশলগত যুক্তি তৈরিকারী নির্বাহীদের চেয়ে কর্মরত গবেষকদের কাছ থেকে আসে। চুঘতাই এবং এঙ্গেলস উভয়েই বিশ্বের সবচেয়ে নিবিড়ভাবে দেখা সীমান্ত ল্যাবগুলির মধ্যে একটিতে কাজ করেছিলেন, বিশেষভাবে এই ঝুঁকিগুলির পূর্বাভাস দেওয়ার জন্য বিশেষভাবে দায়িত্বপ্রাপ্ত দলে, এবং উভয়েই রেকর্ডে এই সিদ্ধান্তে পৌঁছেছিলেন যে তারা কোথায় যাচ্ছে তা বিশ্বাস করেন না।
Google-এর গবেষণার বাহনে ক্ষয়ক্ষতি বছরের পর বছর ধরে তৈরি হচ্ছে। ফরচুন অনুসারে, ডিপমাইন্ডের আগমন এবং প্রস্থানের অনুপাত 2023 সালে প্রায় 12-থেকে-1 থেকে 2026-এর তৃতীয় ত্রৈমাসিকে প্রায় 2-থেকে-1-এ নেমে এসেছে, জেফ ডিন, সঞ্জয় ঘেমাওয়াত, নোম শাজির এবং নোবেল লাউয়ের জন্য যাঁরা ত্যাগ করেছেন তাদের মধ্যে বিশিষ্ট ব্যক্তিত্ব সহ বিশিষ্ট ব্যক্তিরা অনেকের মধ্যে রয়েছেন স্টার্টআপ এনথ্রোপিক ডিপমাইন্ড ডিফেক্টরদের মধ্যে সবচেয়ে বেশি অংশ টেনেছে।
গুগল একটু বলেছে। প্রতিবেদন অনুসারে, চুগতাইয়ের পোস্টটি প্রচার শুরু হলে মন্তব্যের জন্য ডিপমাইন্ডের একজন মুখপাত্র অবিলম্বে উপলব্ধ ছিলেন না, এবং মঙ্গলবার পর্যন্ত সংস্থাটি কোনও জনসাধারণের প্রতিক্রিয়া জারি করেনি।
রাজনীতিবিদ এবং নির্বাহীরা বিভক্ত
পদত্যাগগুলি এআই সুরক্ষা বক্তৃতার জন্য একটি অসাধারণ সপ্তাহের মাঝামাঝি সময়ে আসে। নৃতাত্ত্বিক চিফ এক্সিকিউটিভ ড্যারিও আমোডেই শনিবার শিল্পকে সীমান্ত উন্নয়নের গতি ধীর করার আহ্বান জানিয়েছেন, ওপেনএআই-এর স্যাম অল্টম্যান, গুগলের ডেমিস হাসাবিস এবং এলন মাস্ক দ্বারা সমর্থন করা একটি অবস্থান। দ্য গার্ডিয়ান এই সপ্তাহে ছয়জন বিশেষজ্ঞকে ঝুঁকিগুলি আসলে কী তা বানান করতে বলেছে, গবেষণা সম্প্রদায় থেকে বিতর্কটি মূলধারার আলোচনায় কতদূর এগিয়েছে তার একটি পরিমাপ।
প্রেসিডেন্ট ডোনাল্ড ট্রাম্প লস অ্যাঞ্জেলেসে এনভিডিয়ার প্রধান নির্বাহী জেনসেন হুয়াং-এর মঞ্চে উপস্থিতিতে বিঘ্নিত একটি আশ্চর্যজনক স্পিকারফোন কলে সতর্কতাগুলিকে "প্রতারণা" বলে প্রত্যাখ্যান করেছেন। হুয়াং, গবেষকদের সতর্কবার্তাকে সরাসরি সম্বোধন করে সোমবার বলেছিলেন যে ভয়াবহ দৃষ্টিভঙ্গি "বিজ্ঞানের উপর ভিত্তি করে নয়।" বিলুপ্তির ভবিষ্যদ্বাণী এবং স্লোডাউন কলের সংমিশ্রণটি "আতঙ্কজনক এবং উদ্বেগজনক এবং এটি করা উচিত নয়। এটি দায়িত্বজ্ঞানহীন," তিনি বলেছেন, এএফপি অনুসারে। বাজারের ভাষ্যকাররা উল্লেখ করেছেন যে বিনিয়োগকারীরা নিরাপত্তা বিতর্ককে গুরুত্ব দেওয়ার কারণে অ্যালফাবেটের শেয়ারের দাম কমেছে।
চুঘতাইয়ের নিজের প্রশ্নটি সুনির্দিষ্ট: তিনি চান AI কোম্পানিগুলো তাদের প্রতিযোগিতামূলক দৌড়কে ধীর করে ফেলুক, প্রকৃত স্বচ্ছতার জন্য জমা করুক, এবং "সমাজ যা পরিচালনা করতে পারে" এমন একটি গতিতে সমন্বয় সাধন করুক — যে কোনো ল্যাব পিছিয়ে পড়ার ভয় পায় না। এটি একই দর কষাকষি সরকারগুলিকে এখন রেফারি করতে বলা হচ্ছে, এবং এই সপ্তাহে যেমন স্পষ্ট করা হয়েছে, ল্যাব বা রাজনীতিবিদরা শর্তাবলীতে চুক্তির কাছাকাছি নয়।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
