20 টিরও বেশি গবেষক - তাদের মধ্যে নোবেল বিজয়ী জিওফ্রে হিন্টন, সহযোগী এআই অগ্রগামী ইয়োশুয়া বেঙ্গিও, নৃতাত্ত্বিক সহ-প্রতিষ্ঠাতা জ্যাক ক্লার্ক এবং ওপেনএআইয়ের প্রধান বিজ্ঞানী জ্যাকব পাচোকি - সরকারগুলিকে একটি AI "বুদ্ধিমত্তা বিস্ফোরণ" এর জন্য প্রস্তুত হওয়ার জন্য সতর্ক করেছেন যা তারা বলেছে যে এটি সোমবারের ইতিহাসে সবচেয়ে পরিণতিমূলক বিকাশ হতে পারে।

কাগজটি, "কি হবে যদি স্বয়ংক্রিয় AI R&D একটি বুদ্ধিমত্তা বিস্ফোরণকে ট্রিগার করে", প্রযুক্তিতে পলাতক অগ্রগতির আগে রাজনীতিবিদদের কাজ করার আহ্বান জানায়। এর লেখকরা দৃশ্যকল্পটিকে বর্ণনা করেছেন "এআই অগ্রগতির নাটকীয় AI-চালিত ত্বরণ, অগ্রগতি সংকুচিত করে যা অন্যথায় কয়েক মাস বা তারও কম সময় নিতে পারে"। সর্বশেষ AI রিসার্চ নিউজ ট্র্যাক করা পাঠকদের জন্য, রিপোর্টটি কে এতে স্বাক্ষর করেছে তার তুলনায় এটির অ্যালার্মের জন্য কম উল্লেখযোগ্য: একাডেমিয়া এবং প্রতিদ্বন্দ্বী ফ্রন্টিয়ার ল্যাবগুলির পরিসংখ্যান, যৌথভাবে এই ঘটনাটি তৈরি করে যে স্বয়ংক্রিয় গবেষণা এমন পরিস্থিতির জন্য নীতিনির্ধারকরা সবচেয়ে কম প্রস্তুত।

একটি বুদ্ধি বিস্ফোরণ মানে কি?

লেখকদের কেন্দ্রীয় উদ্বেগ হল AI সিস্টেমগুলি মানুষের হস্তক্ষেপ ছাড়াই নিজেদের উন্নতির সম্ভাবনা - একটি প্রক্রিয়া যা পুনরাবৃত্ত স্ব-উন্নতি হিসাবে পরিচিত, কাগজে বিস্তৃতভাবে স্বয়ংক্রিয় AI গবেষণা এবং উন্নয়ন হিসাবে উল্লেখ করা হয়েছে।

একবার AI সিস্টেমগুলি AI R&D-এ বিশেষজ্ঞ-স্তরের ক্ষমতায় পৌঁছে গেলে, কাগজটি যুক্তি দেয়, একজন একক বিকাশকারী শীর্ষ মানব গবেষকদের "লাখ" সমতুল্য কর্মীবাহিনী চালাতে পারে। স্বয়ংক্রিয় AI R&D হল, লেখকদের দৃষ্টিতে, একটি বুদ্ধিমত্তা বিস্ফোরণের সবচেয়ে সম্ভাব্য ট্রিগার, কারণ AI সিস্টেমগুলি ইতিমধ্যেই তাদের নিজস্ব প্রযুক্তির উন্নতিতে অবদান রাখছে — এবং তারা যে উন্নত সিস্টেমগুলি তৈরি করতে সাহায্য করে তা একবার তৈরি হয়ে গেলে দ্রুত স্থাপন করা যেতে পারে।

"একটি বুদ্ধিমত্তা বিস্ফোরণ মানব ইতিহাসের সবচেয়ে ফলপ্রসূ প্রযুক্তিগত উন্নয়ন হতে পারে, বছরের অগ্রগতিকে কয়েক মাস বা তারও কম সময়ের মধ্যে সংকুচিত করে, এআই সিস্টেমের উপর মানুষের নিয়ন্ত্রণকে হুমকির মুখে ফেলে এবং রাজ্য, কোম্পানি এবং সরকারের শাখার মধ্যে এবং ক্ষমতার উপর কঠোরভাবে চেক নষ্ট করে," কাগজটি বলে, দ্য গার্ডিয়ানের মতে।

লেখকরা বলছেন কেন জানালা বন্ধ হচ্ছে

প্রতিবেদনের জরুরীতা একটি টাইমলাইন দাবির উপর নির্ভর করে: AI সিস্টেমগুলি যেগুলি আজকে চকচকে দেখা যাচ্ছে তা R&D প্রকল্পগুলিকে সম্পূর্ণরূপে স্বয়ংক্রিয় করতে পারে যেগুলি বর্তমানে 2028 সালের মধ্যে মানব দলকে কয়েক মাস সময় নেয়।

"এআই আরএন্ডডি অটোমেশন থেকে উত্পাদনশীলতা লাভ এখনও একটি বুদ্ধিমত্তা বিস্ফোরণ ট্রিগার করার জন্য প্রয়োজনীয় থ্রেশহোল্ডে পৌঁছেনি, তবে নতুন সিস্টেম থেকে লাভ সম্ভবত সেই প্রান্তিকে পৌঁছেছে," লেখক লিখেছেন। "একবার গোয়েন্দা বিস্ফোরণ শুরু হলে, অ্যাকশনের জানালা বন্ধ হয়ে যেতে পারে।"

গবেষণাপত্রটি যোগ করে যে "প্রাথমিক প্রমাণ থেকে বোঝা যায় যে একটি সফ্টওয়্যার-চালিত বুদ্ধিমত্তা বিস্ফোরণ সম্ভব", যা "অত্যন্ত সক্ষম বা অতিমানব এআই সিস্টেমের অত্যন্ত দ্রুত বিকাশ" হতে পারে।

ঝুঁকি তারা পতাকাঙ্কিত

যদিও একটি বুদ্ধিমত্তা বিস্ফোরণ চিকিৎসার অগ্রগতি এবং দ্রুত প্রযুক্তিগত উল্লম্ফন ঘটাতে পারে, লেখকরা তিনটি প্রধান বিপদের রূপরেখা দিয়েছেন:

  • পলাতক হুমকি। শক্তিশালী সিস্টেমগুলি জৈবিক এবং সাইবার হুমকিগুলিকে সক্ষম করতে পারে যা তাদের প্রতিরোধের জন্য প্রয়োজনীয় ব্যবস্থাগুলির চেয়ে দ্রুত বিকাশ করে৷
  • নিয়ন্ত্রণ হারিয়েছে। মানুষ যেহেতু AI R&D-এর সাথে কম জড়িত হয়ে পড়ে, তারা তাদের তৈরি করা সিস্টেমগুলিকে নির্দেশিত ও সীমাবদ্ধ করার সুযোগ হারাতে পারে।
  • কৌশলগত অস্থিরতা। রাষ্ট্রগুলি একটি বুদ্ধিমত্তা বিস্ফোরণ ব্যবহার করে একটি সাধারণ নেতৃত্বকে রূপান্তর করতে পারে — সাইবারস্পেসে, উদাহরণস্বরূপ — একটি নির্ধারক জাতীয় সুবিধাতে।

প্রতিবেদনটি স্পষ্ট যে এই প্রভাবগুলি "অনিশ্চিত"। একটি প্রযুক্তিগত অগ্রগতি বিশেষ উপকরণ বা নিয়ন্ত্রক প্রয়োজনীয়তার জন্য প্রদত্ত সাপ্লাই চেইনগুলি বাস্তবায়ন করতে সময় নিতে পারে এবং এআই সিস্টেমগুলি ঝুঁকিগুলি হ্রাস করার গতিকে ত্বরান্বিত করতে পারে।

সরকারের কি করা উচিত

লেখক বলেছেন একটি গোয়েন্দা বিস্ফোরণের জন্য প্রস্তুতি "সরকারি নেতৃত্বের সর্বোচ্চ স্তর সহ একটি জরুরী অগ্রাধিকার হওয়া উচিত", এবং প্রার্থী নীতির একটি সেট তৈরি করুন:

  • এআই কোম্পানির অভ্যন্তরে স্বাধীন অডিটর এম্বেড করা সহ এআই-সম্পর্কিত গবেষণা ও উন্নয়নের স্বচ্ছ অগ্রগতি প্রতিবেদনের প্রয়োজন।
  • একটি নির্দিষ্ট সময়ের মধ্যে একটি AI সিস্টেম কত দ্রুত উন্নতি করতে পারে তা সীমিত করা
  • নির্দিষ্ট AI R&D প্রকল্পগুলিকে থামানো সক্ষম করতে ডেটা সেন্টারের সাথে কাজ করা
  • নিশ্চিত করা স্বয়ংক্রিয় AI R&D সিস্টেমগুলি সম্পূর্ণরূপে বিচ্ছিন্ন এবং মানুষের নিয়ন্ত্রণ এড়াতে পারে না
  • একটি গোয়েন্দা বিস্ফোরণ হতে পারে এমন পরিস্থিতির পরিসরের জন্য "জরুরী প্রতিক্রিয়া পরিকল্পনা" তৈরি করা

প্রস্তাবগুলি পশ্চিমা এআই নীতির মাধ্যমে ইতিমধ্যেই চলমান ধারণাগুলিকে প্রসারিত করে — বাধ্যতামূলক ঘটনা রিপোর্টিং, তৃতীয় পক্ষের মূল্যায়ন এবং গণনা পরিচালনা — তবে সেগুলিকে একটি নির্দিষ্ট শেষ পয়েন্টে প্রয়োগ করুন: গবেষণার স্বয়ংক্রিয়তা।

এই লেখকরা কেন, আর এখন কেন

স্বাক্ষরকারীরা কাগজটিকে অস্বাভাবিক ওজন দেয়। হিন্টন এবং বেঙ্গিও হলেন আধুনিক এআই-এর দুই "গডফাদার", যা নিউরাল নেটওয়ার্কের ভিত্তিগত কাজের জন্য স্বীকৃত; তারা যে প্রযুক্তি তৈরি করতে সাহায্য করেছিল সে সম্পর্কে সতর্ককারী উভয়ই বিশিষ্ট কণ্ঠস্বর হয়ে উঠেছে। ক্লার্ক অ্যানথ্রোপিক সহ-প্রতিষ্ঠা করেন, এবং প্যাচোকি ওপেনএআই-এর প্রধান বিজ্ঞানী।

সেই দিকে পরিমাপযোগ্য শিল্প আন্দোলনের মধ্যে তাদের সতর্কতা ভূমি। দ্য গার্ডিয়ানের মতে, অ্যানথ্রপিক বলেছে যে এআই এখন তার নিজস্ব কোডের 80% উত্পাদন করে, যখন ওপেনএআই নতুন মডেলের প্রশিক্ষণের মতো ক্ষেত্রে স্বায়ত্তশাসিত এআই এজেন্ট ব্যবহার করে। উভয় ল্যাবই সম্মত হয়েছে যে স্বাধীন মূল্যায়নকারীদের তাদের মডেলগুলি মূল্যায়ন করার পরে সতর্ক করা হয়েছে যে এআই বিকাশ সুরক্ষার ক্ষেত্রে একটি গুরুত্বপূর্ণ পিচে পৌঁছেছে।

লেখকরা যে গতিতে চান সরকারগুলি সেই গতিতে এগিয়ে যাবে কিনা তা অন্য প্রশ্ন। কিন্তু কাগজের মূল যুক্তি - যে ব্রেক তৈরি করার মুহূর্তটি গাড়ির প্রয়োজনের আগে - এখন মেশিনের কাছের লোকেরা সমর্থন করে।

---

এআই থেকে এগিয়ে থাকুন

সর্বশেষ AI খবর, বিশ্লেষণ এবং সাফল্য পান — সব এক জায়গায়।

আরও এআই খবর পড়ুন →