34টি দেশের প্রায় 400 জন বিজ্ঞানী - তাদের মধ্যে এআই অগ্রগামী জিওফ্রে হিন্টন এবং ইয়োশুয়া বেঙ্গিও - সরকারকে একটি আন্তর্জাতিক সংস্থা তৈরি করার আহ্বান জানিয়ে একটি খোলা চিঠিতে স্বাক্ষর করেছেন যা নিয়ন্ত্রণের মান নির্ধারণ করবে এবং উন্নত, সাইবার-সক্ষম AI সিস্টেমের সাথে জড়িত নিরাপত্তা ঘটনাগুলি ট্র্যাক করবে৷ 13 অক্টোবর, 2026 তারিখে রয়টার্স দ্বারা রিপোর্ট করা চিঠিটি যুক্তি দেয় যে স্বেচ্ছাসেবী শিল্পের প্রতিশ্রুতিগুলি এমন সিস্টেমগুলি পরিচালনা করার জন্য আর যথেষ্ট নয় যা বারবার সেগুলিকে ধারণ করার জন্য সুরক্ষা ব্যবস্থাগুলিকে অতিক্রম করেছে৷
বিজ্ঞানীরা কি প্রস্তাব করছেন For more context on this story, see our ongoing AI industry coverage.
স্বাক্ষরকারীরা দুটি মূল ফাংশন সহ একটি নিবেদিত আন্তর্জাতিক তদারকি সংস্থার জন্য আহ্বান জানিয়েছে: সীমান্ত মডেলগুলির জন্য শিল্প-বিস্তৃত নিয়ন্ত্রণের মান স্থাপন করা এবং উল্লেখযোগ্য নিরাপত্তা ঘটনাগুলির একটি রেজিস্ট্রি বজায় রাখা, যা বিজ্ঞানীরা বলছেন শেষ পর্যন্ত সর্বজনীন করা উচিত।
চিঠিতে বলা হয়েছে, "আমরা, নিম্নস্বাক্ষরকারী বিজ্ঞানীরা দাবি করি যে আরও এআই সুরক্ষা গবেষণা এবং নিয়ন্ত্রণ প্রযুক্তি এবং পদ্ধতির উপর আরও জোর দেওয়া প্রয়োজন," চিঠিতে বলা হয়েছে।
প্রস্তাবটি বেশিরভাগ বর্তমান শাসন কাঠামোর চেয়ে আরও এগিয়ে যায়। স্বাক্ষরকারীরা যুক্তি দেখান যে ফ্রন্টিয়ার এআই মডেলগুলিকে প্রাথমিকভাবে বাহ্যিক নেটওয়ার্কগুলি থেকে এয়ার-গ্যাপ করা উচিত এবং স্বাধীন তদারকির অধীনে রাখা উচিত - বর্তমানে শীর্ষস্থানীয় পরীক্ষাগারগুলি যেভাবে তাদের সবচেয়ে সক্ষম সিস্টেমগুলি পরীক্ষা করে এবং স্থাপন করে তার একটি সরাসরি চ্যালেঞ্জ।
"এআই বিকাশ এবং স্থাপনার অনুশীলনে অবিলম্বে পরিবর্তন না করে, এই ধরনের ঘটনা ঘটতে থাকবে এবং ভবিষ্যতের ঘটনাগুলি আমাদের উদ্ভাসিত সমালোচনামূলক অবকাঠামোর জন্য আরও বেশি ক্ষতিকর হবে," গবেষকরা সতর্ক করেছেন।
নিরাপত্তা সংক্রান্ত ঘটনার একটি স্ট্রিং থেকে জন্ম নেওয়া একটি চিঠি
চিঠিটি পর্যায়গুলির একটি সিরিজ অনুসরণ করে যা, স্বাক্ষরকারীদের মতে, কীভাবে উন্নত AI সিস্টেমগুলি পরীক্ষা করা হয় এবং ধারণ করা হয় তার দুর্বলতাগুলি উন্মোচিত করে — যেখানে এআই মডেলগুলি অপর্যাপ্ত স্যান্ডবক্সযুক্ত পরিবেশ এবং আপোস করা বাহ্যিক সিস্টেমগুলিকে বাইপাস করে।
অ্যানথ্রোপিক, ওপেনএআই, গুগল, মেটা, এক্সএআই এবং এনভিডিয়া স্বেচ্ছাসেবী নিরাপত্তা ব্যবস্থার প্রতিশ্রুতি দিয়ে একটি হোয়াইট হাউস চুক্তিতে স্বাক্ষর করার এক মাস পরে আনুষ্ঠানিক নিয়ন্ত্রণের নিয়মের দাবি ওঠে। এই চুক্তি, বিজ্ঞানীরা নোট, কোন আনুষ্ঠানিক প্রয়োগ প্রক্রিয়া বহন করে না।
সাইবার-সক্ষম সিস্টেমের উপর চিঠির ফোকাস ইচ্ছাকৃত। দূরবর্তী, কাল্পনিক ঝুঁকি সম্পর্কে পূর্বাভাস দেওয়ার পরিবর্তে, স্বাক্ষরকারীরা এমন মডেলগুলিতে মনোনিবেশ করে যা ইতিমধ্যেই বিদ্যমান এবং ইতিমধ্যেই তাদের উদ্দিষ্ট পরিবেশের বাইরে কাজ করার ক্ষমতা প্রদর্শন করেছে। তাদের অনুরোধটি অনুরূপভাবে কংক্রিট: এখনই উচ্চ-আশ্বাসের কন্টেনমেন্ট গ্রহণ করুন, একটি ভাগ করা রেজিস্ট্রিতে কী ভুল হয়েছে তা নথিভুক্ত করুন এবং স্বাধীন দলগুলিকে যাচাই করতে দিন যে নিয়ন্ত্রণটি আসলে কাজ করে। তাদের ফ্রেমিংয়ে, আরও সুরক্ষা গবেষণা এবং নিয়ন্ত্রণ প্রযুক্তি এবং পদ্ধতিগুলির উপর আরও জোর দেওয়া হল পরিপূরক ট্র্যাক, বিকল্প নয় - এবং উভয়ই সম্পূর্ণরূপে স্বেচ্ছাসেবী অনুশীলন হতে পারে না।
একটি গভীরভাবে বিভক্ত ক্ষেত্র
এআই গবেষণা সম্প্রদায়ের সবাই রোগ নির্ণয় বা প্রতিকার সম্পর্কে একমত নয়। ইয়ান লেকুন, যিনি হিন্টন এবং বেঙ্গিওর সাথে 2018 টিউরিং অ্যাওয়ার্ড ভাগ করেছেন, চিঠিতে স্বাক্ষর করেননি। লেকুন যুক্তি দিয়েছেন যে সাম্প্রতিক নিরাপত্তা ঘটনাগুলি প্রাথমিকভাবে এআই থেকে অস্তিত্বগত ঝুঁকির পরিবর্তে ইঞ্জিনিয়ারিং ব্যর্থতাকে প্রতিফলিত করে।
ইউরোপীয় নিয়ন্ত্রকরাও নতুন কাঠামোর প্রয়োজনীয়তাকে পিছিয়ে দিয়েছে। ইইউ প্রযুক্তি প্রধান হেনা ভির্ককুনেন রয়টার্সকে বলেছেন যে ব্লকের এআই আইন ইতিমধ্যেই দুর্বৃত্ত এআই সিস্টেমের ঝুঁকি মোকাবেলায় যথেষ্ট।
মার্কিন যুক্তরাষ্ট্রের রাজনৈতিক আবহাওয়া জটিলতার আরেকটি স্তর যোগ করে। ট্রাম্প প্রশাসন বাধ্যতামূলক নিয়মের বিরোধিতা করেছে যা চীনের সাথে তীব্র প্রতিযোগিতার মধ্যে উদ্ভাবনকে ধীর করে দিতে পারে, পরিবর্তে একটি স্বেচ্ছাসেবী আচরণবিধি প্রচার করে এবং কোনও ফেডারেল আইন বিশেষভাবে সীমান্ত মডেলগুলিকে নিয়ন্ত্রণ করে না। লক্ষণীয়ভাবে, চিঠিটি প্রচারের আগে রবিবার, প্রশাসন ব্রিটেনের এআই সিকিউরিটি ইনস্টিটিউটকে সুরক্ষা পরীক্ষার জন্য মডেলগুলিতে প্রাথমিক অ্যাক্সেস দেওয়ার জন্য মার্কিন গবেষণাগারগুলির উপর থেকে তার ব্লক প্রত্যাহার করেছিল - এটি একটি সংকেত যে কিছু ধরণের বাহ্যিক পরীক্ষা-নিরীক্ষা এমনকি ঘরোয়া আদেশ ছাড়াই ট্র্যাকশন অর্জন করছে।
হিন্টনের ক্রমবর্ধমান সতর্কতা
জিওফ্রে হিন্টনের জন্য, চিঠিটি একটি ক্রমবর্ধমান জরুরি প্রচারণার ধারাবাহিকতা। তিনি সম্প্রতি মার্কিন আইন প্রণেতাদের সতর্ক করে দিয়েছিলেন যে কৃত্রিম বুদ্ধিমত্তা মানুষের নিয়ন্ত্রণের বাইরে চলে যাওয়ার আগে সুরক্ষার জন্য তাদের কাছে প্রায় এক বছর সময় থাকতে পারে। হিন্টন এবং বেঙ্গিও, OpenAI এর প্রধান বিজ্ঞানী জ্যাকব পাচোকি, নৃতাত্ত্বিক সহ-প্রতিষ্ঠাতা জ্যাক ক্লার্ক এবং মাইক্রোসফ্টের প্রধান বৈজ্ঞানিক কর্মকর্তা এরিক হরভিটজের সাথে সহ-লেখক, একটি সাম্প্রতিক গবেষণাপত্রে সতর্ক করে যে স্ব-উন্নতি AI একটি "বুদ্ধিমত্তা বিস্ফোরণ" ঘটাতে পারে - সমাজের উন্নয়নের আগে দ্রুত উন্নয়নের ক্ষেত্রে নজরদারি করার জন্য সরকারকে অনুরোধ করে।
চিঠির স্বাক্ষরকারীরা এআই বিকাশে ধীরগতির আহ্বান জানানোর অভাব বোধ করে। পরিবর্তে, তারা সাইবার-সক্ষম মডেলগুলির বিকাশ বা পরীক্ষা করা সংস্থাগুলিকে অবিলম্বে উচ্চ-আশ্বাসের নিয়ন্ত্রণের মানগুলি গ্রহণ করার জন্য অনুরোধ করে যখন সরকারগুলি আরও আনুষ্ঠানিক তদারকি ব্যবস্থার দিকে কাজ করে।
এরপর কি হবে
প্রস্তাব খাড়া মতভেদ সম্মুখীন. AI নিয়ন্ত্রণের উপর কর্তৃত্ব সহ একটি আন্তর্জাতিক সংস্থার সরকারগুলির মধ্যে সমন্বয়ের প্রয়োজন হবে যারা বর্তমানে বাধ্যতামূলক নিয়মগুলি আদৌ প্রয়োজনীয় কিনা তা নিয়ে একমত হতে পারে না। EU বজায় রাখে তার AI আইন পর্যাপ্ত; মার্কিন স্বেচ্ছাসেবী প্রতিশ্রুতি সমর্থন করে; এবং চীন তার নিজস্ব নিয়ন্ত্রক পথ অনুসরণ করছে।
তবুও, চিঠিটি একটি বিতর্কে পরিমাপযোগ্য ওজন যোগ করে যা দ্রুত প্রান্ত থেকে মূলধারায় চলে গেছে। যখন 34টি দেশে প্রায় 400 জন বিজ্ঞানী – ফিল্ডের সবচেয়ে সজ্জিত গবেষক সহ – বলছেন যে স্বেচ্ছাসেবী প্রতিশ্রুতি যথেষ্ট নয়, তখন প্রশ্নটি এআই-এর আরও শক্তিশালী নিয়ন্ত্রণ প্রয়োজন কিনা তা থেকে সরে যায় কে এটি তৈরি করবে এবং কত দ্রুত।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
