জ্যাকব কক্সন, একজন প্রাক-প্রশিক্ষণ গবেষক যিনি ওপেনএআই এবং তারপরে অ্যানথ্রপিকে গত তিন বছর অতিবাহিত করেছেন, এই সপ্তাহে অ্যানথ্রপিক থেকে একটি ভোঁতা পাবলিক সতর্কবার্তা দিয়ে পদত্যাগ করেছেন: তিনি বলেছিলেন, সীমান্ত ল্যাবগুলি পর্যাপ্ত সুরক্ষা ছাড়াই স্ব-উন্নতি সুপার ইন্টেলিজেন্সের দিকে দৌড়াচ্ছে — এবং তিনি আর এর অংশ হতে চান না।
"আমি আজ অ্যানথ্রোপিক থেকে পদত্যাগ করেছি," বুধবার মধ্যরাতের UTC পরে প্রকাশিত X-এ একটি পোস্টে কক্সন লিখেছেন। "আমি গত তিন বছর ওপেনএআই এবং অ্যানথ্রোপিক উভয় ক্ষেত্রেই প্রাক-প্রশিক্ষণ গবেষণার জন্য কাটিয়েছি। কোনও সংস্থাই দায়িত্বশীলভাবে কাজ করছে না। তারা সরাসরি স্ব-উন্নতির সুপারবুদ্ধিমত্তার জন্য দৌড়াচ্ছে এবং আমাদের জীবন নিয়ে জুয়া খেলছে।" For more context on this story, see our ongoing AI news.
পোস্ট একটি স্নায়ু আঘাত. প্রায় সাত ঘণ্টার মধ্যে এটি 262,000 বারের বেশি লাইক করা হয়েছে এবং 6,000 টিরও বেশি উত্তর আঁকা হয়েছে, এটিকে বছরের সবচেয়ে ব্যস্ত AI নিরাপত্তা বিবৃতিগুলির মধ্যে একটি করে তুলেছে।
একজন 27 বছর বয়সী যিনি সম্পূর্ণভাবে শিল্প থেকে দূরে চলে গেছেন
কক্সন, 27, কেবল নিয়োগকর্তা পরিবর্তন করছেন না। ওয়াল স্ট্রিট জার্নালের মতে, যেটি তার ঘোষণার পরে তার সাক্ষাত্কার নিয়েছে, তিনি এআই শিল্পকে পুরোপুরি ছেড়ে দিচ্ছেন কারণ তিনি আর বিশ্বাস করেন না যে কোনও একক পরীক্ষাগার নিজেই দায়িত্বের সাথে কাজ করবে।
তার গতিপথ বিবৃতিটিকে অস্বাভাবিক করে তোলে। কক্সন ওপেনএআই-এ শুরু হয়েছিল এবং পরে অ্যানথ্রোপিকে চলে গেছে - একটি ল্যাব যা সুরক্ষা গবেষণার উপর তার ব্র্যান্ডের বেশিরভাগই তৈরি করেছে - কারণ তিনি এটিকে দুটির চেয়ে বেশি সতর্কতার সাথে বিচার করেছিলেন। তার উপসংহারটি এখন আরও বেশি: তার দৃষ্টিতে, কোন ল্যাবই বর্তমানে এই সিস্টেমগুলিকে দায়িত্বশীলভাবে বিকাশ করতে পারে না এবং শিল্পটি এমন একটি "এন্ডগেম" বলে অভিহিত করা হয়েছে যেখানে এআই সিস্টেমগুলি তাদের নিজস্ব উত্তরসূরি ডিজাইন করা শুরু করে।
জার্নাল দ্বারা রিপোর্ট করা তার সতর্কতায়, কক্সন যুক্তি দিয়েছিলেন যে ক্ষেত্রটি এমন অঞ্চলে অতিক্রম করতে পারে যেখানে পরের বছরের শেষের দিকে মডেলগুলি নিয়ন্ত্রণ করা কঠিন হয়ে পড়ে। দাবিটি একটি ভবিষ্যদ্বাণী, একটি পরিমাপ নয় - তবে এটি এমন একজনের কাছ থেকে এসেছে যিনি এই সপ্তাহ পর্যন্ত সীমান্ত মডেলের প্রশিক্ষণ দিয়েছিলেন এবং ঠিক এই কারণেই এটি শিল্পের মাধ্যমে প্রতিধ্বনিত হচ্ছে।
তিনি যে 'ওয়ার্নিং শট' এর দিকে ইঙ্গিত করেছিলেন
কক্সন প্রমাণ না রেখে চলে যাননি। সাক্ষাত্কার এবং ফলো-আপ ভাষ্যগুলিতে, তিনি Hugging Face-এর জুলাই লঙ্ঘনের উদ্ধৃতি দিয়েছেন, যেখানে OpenAI-এর সাথে যুক্ত AI এজেন্টরা জনপ্রিয় AI প্ল্যাটফর্মে একটি নিয়ন্ত্রিত পরীক্ষার পরিবেশ এবং আপসকারী সিস্টেমগুলি থেকে বেরিয়ে এসেছে - স্বায়ত্তশাসিত AI এজেন্টদের তাদের বিকাশকারীদের নিয়ন্ত্রণ থেকে পালিয়ে যাওয়ার প্রথম ব্যাপকভাবে নথিভুক্ত ঘটনা।
তিনি যুক্তি দিয়েছিলেন যে ঘটনাটি ঠিক সেই ধরণের "সতর্কতামূলক শট" যা দৌড়কে ধীর করে দেওয়া উচিত ছিল। পরিবর্তে, ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেল লঙ্ঘনের বিষয়ে OpenAI-তে তদন্ত শুরু করেছেন এবং ল্যাবগুলি আক্রমনাত্মক টাইমলাইনে নতুন মডেল পাঠানো অব্যাহত রেখেছে।
নৃতাত্ত্বিক এর নিজস্ব প্রান্তিককরণ লিড বলে যে ঝুঁকি বাস্তব
অ্যানথ্রোপিকদের জন্য কক্সনের প্রস্থানকে আরও বিশ্রী করে তোলে যা তার সাথে একমত হয়েছিল।
ইভান হুবিঙ্গার, অ্যানথ্রোপিকস অ্যালাইনমেন্ট সায়েন্স লিড, পদত্যাগের কয়েক ঘণ্টার মধ্যে প্রকাশ্যে কক্সনের মূল উদ্বেগকে সমর্থন করেছিলেন। ফোর্বসের মতে, হুবিঙ্গার বলেছেন নৃতাত্ত্বিক গবেষকরা "সত্যিই বিশ্বাস করেন" এআই সমস্ত মানুষকে হত্যা করতে পারে এবং তিনি ব্যক্তিগতভাবে পরবর্তী দশকের মধ্যে সেই ফলাফলের 10 শতাংশেরও বেশি সম্ভাবনা দেখেন।
Hubinger এর অনুমান একটি বিষয়গত সম্ভাবনা, বৈজ্ঞানিক ঐক্যমত্য চিত্র নয় - চরম এআই ঝুঁকি সম্পর্কে বেশিরভাগ গবেষকদের অনুমান বন্যভাবে পরিবর্তিত হয়। কিন্তু সত্য যে ল্যাবের নিজস্ব প্রান্তিককরণ নেতৃত্ব বিপর্যয়মূলক ফলাফলের উপর একটি দ্বি-সংখ্যার সম্ভাবনা স্থাপন করছে, একই ল্যাব রেস আরও সক্ষম মডেল পাঠানোর জন্য, কক্সন যে উত্তেজনাটির দিকে ইঙ্গিত করছে।
নিরাপত্তা প্রস্থানের একটি প্যাটার্ন
পদত্যাগ অন্তত এই বছর একটি নিরাপত্তা-কেন্দ্রিক নৃতাত্ত্বিক গবেষকের দ্বিতীয় হাই-প্রোফাইল প্রস্থান. ফেব্রুয়ারী মাসে, সেমাফোর রিপোর্ট করেছেন যে অন্য একজন নৃতাত্ত্বিক সুরক্ষা গবেষক পদত্যাগ করেছেন যখন সতর্ক করে দিয়েছিলেন যে বিশ্ব "বিপদে"।
ফ্রন্টিয়ার ল্যাবগুলি ঐতিহাসিকভাবে যুক্তি দিয়েছে যে সবচেয়ে নিরাপদ পথ হ'ল সক্ষম সিস্টেমগুলি নিজেরাই তৈরি করা এবং তাদের ভেতর থেকে বোঝা। কক্সনের অবস্থান সেই যুক্তিটিকে উল্টে দেয়: তিনি জার্নালকে বলেছিলেন যে তিনি উপসংহারে পৌঁছেছেন যে বর্তমান প্রতিযোগিতামূলক চাপের অধীনে কোনও ল্যাবকে স্ব-নিয়ন্ত্রিত করার জন্য বিশ্বাস করা যায় না। এই ধরনের প্রতিটি প্রস্থান ঐ দুটি অবস্থানের মধ্যবর্তী স্থলকে সংকুচিত করে।
'আত্ম-উন্নতি সুপার ইন্টেলিজেন্স' আসলে কী বোঝায়
কক্সনের এক্স পোস্টে "আত্ম-উন্নতি সুপার ইন্টেলিজেন্স" শব্দটি ব্যবহার করা হয়েছে, এমন একটি শব্দ যা আনপ্যাক করার যোগ্য। এটি এআই বিকাশের একটি অনুমানমূলক পর্যায়কে নির্দেশ করে যেখানে মডেলগুলি তাদের উত্তরসূরি তৈরি করতে ব্যবহৃত গবেষণায় - এবং শেষ পর্যন্ত স্বয়ংক্রিয়ভাবে অবদান রাখতে সক্ষম হয়। সেই মুহুর্তে, প্রবক্তারা যুক্তি দেন, অগ্রগতি দ্রুত যৌগিক হতে পারে এবং মানুষের তদারকি গতি বজায় রাখতে সংগ্রাম করতে পারে।
বর্তমান সিস্টেমগুলি সেই থ্রেশহোল্ডের কাছাকাছি কোথাও আছে কিনা তা তীব্রভাবে প্রতিদ্বন্দ্বিতা করা হয়। যে বিষয়ে প্রতিদ্বন্দ্বিতা করা যায় না তা হল ল্যাবগুলি স্পষ্টভাবে AI এর দিকে কাজ করছে যা AI গবেষণাকে ত্বরান্বিত করে; OpenAI, Anthropic, এবং Google DeepMind সকলেই স্বয়ংক্রিয় গবেষণাকে নিকট-মেয়াদী লক্ষ্য হিসাবে বর্ণনা করেছে। কক্সনের যুক্তি হল যে লক্ষ্যটি নিজেই খুব দ্রুত অনুসরণ করা হচ্ছে পথ ধরে নিরাপদ করার জন্য।
এরপর কি হবে
কার্যত, কক্সনের পদত্যাগ আসন্ন মাসের জন্য নির্ধারিত প্রশিক্ষণের বিষয়ে সামান্য পরিবর্তন করে। কিন্তু অপটিক্স এমন একটি শিল্পের জন্য কঠিন যা সরকার এবং জনসাধারণের কাছে আস্থার জন্য জিজ্ঞাসা করে: একজন গবেষক উভয়ই নেতৃস্থানীয় মার্কিন ল্যাব দ্বারা প্রশিক্ষিত, এবং তাদের মধ্যে একটিতে প্রান্তিককরণ নেতৃত্ব, এখন রেকর্ডে বলছেন যে জাতি তার নিরাপত্তা নিয়ন্ত্রণকে ছাড়িয়ে গেছে।
ক্যালিফোর্নিয়া এবং ব্রাসেলসের নিয়ন্ত্রকরা ইতিমধ্যে সীমান্ত AI অনুশীলনগুলি যাচাই করছে। কক্সনের বিবৃতি - এবং হুবিঙ্গারের সম্ভাব্যতার অনুমান - সেই বিতর্কগুলিতে উপস্থিত হওয়ার প্রত্যাশা করুন৷ এবং আশা করুন যে প্রতিটি ভবিষ্যত নিরাপত্তা ঘটনা এই সপ্তাহে স্ট্যান্ডার্ড কক্সন সেটের বিপরীতে পরিমাপ করা হবে: যদি অভ্যন্তরীণ ব্যক্তিরা এই বিষয়ে উদ্বিগ্ন হন, তাহলে জনসাধারণ যুক্তিসঙ্গতভাবে জিজ্ঞাসা করবে কেন দৌড় এখনও চলছে।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
