Rep. Ro Khanna, একজন সিলিকন ভ্যালি ডেমোক্র্যাট, আইন প্রবর্তন করবেন যা ফেডারেল সরকার তাদের তত্ত্বাবধানে সক্ষম একটি নিয়ন্ত্রক ব্যবস্থা তৈরি না করা পর্যন্ত AI মডেলগুলিকে নিজেদেরকে পুনরাবৃত্তভাবে উন্নত করতে নিষিদ্ধ করবে - কংগ্রেসে এখনও অবতরণ করা সবচেয়ে ব্যাপক AI সুরক্ষা প্রস্তাব৷

হিউম্যান কন্ট্রোল ওভার এআই অ্যাক্ট নামে পরিচিত বিলটি, এটির প্রবর্তনের আগে সংক্ষিপ্ত আকারে সিএনবিসির সাথে একচেটিয়াভাবে ভাগ করা হয়েছিল। এটি ক্রমবর্ধমান নিরাপত্তা উদ্বেগের মধ্যে পৌঁছেছে যা ইতিমধ্যেই OpenAI এবং Anthropic-এর সিইওদের ফ্রন্টিয়ার মডেল ডেভেলপমেন্ট ধীর করার জন্য আহ্বান জানিয়েছে। For more context on this story, see our ongoing more AI stories.

"আসলে একটি সভ্যতা বিলুপ্তির ঝুঁকি আছে," খান্না সোমবার সিএনবিসিকে দেওয়া একটি সাক্ষাত্কারে বলেছিলেন। "নিয়ন্ত্রণ হারানোর একটি নিরাপত্তা ঝুঁকি আছে, এবং তারপর একটি অপব্যবহারের ঝুঁকি আছে, এবং আমাদের উভয়কেই গুরুত্ব সহকারে নিতে হবে।"

বিল কি নিষিদ্ধ করবে

এর মূল অংশে, হিউম্যান কন্ট্রোল ওভার এআই অ্যাক্ট AI মডেলগুলিকে নিষিদ্ধ করবে যেগুলি পুনরাবৃত্তভাবে স্ব-উন্নতি বা স্বায়ত্তশাসিতভাবে তাদের নিজস্ব মূল উদ্দেশ্য, কন্টেনমেন্ট মেকানিজম বা শাটডাউন নিয়ন্ত্রণগুলি সংশোধন করে — যদি না ফেডারেল গার্ডেল বিদ্যমান থাকে এবং একটি নতুন সরকারী সংস্থা কার্যক্রমগুলি অনুমোদন করে।

ব্যবহারিক পরিভাষায়, এটি সেই সামর্থ্যকে লক্ষ্য করে যা নিরাপত্তা গবেষকরা সবচেয়ে বেশি ভয় পান: এমন সিস্টেম যা একটি স্ব-নির্দেশিত চক্রে নিজেদেরকে নতুনভাবে ডিজাইন করতে পারে, যা প্রতিটি ধাপে মানুষের নজরদারি হ্রাস করে। নিয়ন্ত্রকদের ঝুঁকি মূল্যায়ন করতে সজ্জিত না হওয়া পর্যন্ত নিষেধাজ্ঞা বহাল থাকবে।

ফ্রন্টিয়ার এআই এর জন্য একটি নতুন ফেডারেল এজেন্সি

এই বিলটি সবচেয়ে শক্তিশালী AI মডেলগুলির উপর দৃষ্টি নিবদ্ধ করে একটি ডেডিকেটেড ফেডারেল এজেন্সি তৈরি করবে - যেগুলি OpenAI, Anthropic, Google DeepMind এবং xAI দ্বারা তৈরি করা হয়েছে - কারণ এই সংস্থাগুলি নিজেদেরকে তীব্র তদন্তের মধ্যে খুঁজে পায়৷

CNBC এর সাথে ভাগ করা সারসংক্ষেপ অনুসারে, সংস্থাটি এর জন্য দায়ী থাকবে:

  • ফ্রন্টিয়ার এআই সিস্টেমের জন্য নিরাপত্তা প্রবিধান লেখা
  • মডেল প্রশিক্ষণ এবং স্থাপনার অনুমোদনের জন্য একটি লাইসেন্সিং সিস্টেম পরিচালনা করা
  • ফ্রন্টিয়ার এআই মডেলের অডিট পরিচালনা করা
  • ক্রমাগত পরীক্ষা এবং কার্যকর মানব নিয়ন্ত্রণের জন্য নিরাপত্তা মান নির্ধারণ করা

স্বাধীন নিরীক্ষকদের প্রতিটি সীমান্ত পরীক্ষাগারে এমবেড করা হবে এবং তারা সরাসরি এজেন্সিকে রিপোর্ট করবে - ল্যাবগুলি তাদের নিজস্ব হোমওয়ার্ককে সহজভাবে চিহ্নিত করতে পারে না তা নিশ্চিত করার জন্য একটি কাঠামোগত চেক ডিজাইন করা হয়েছে। এজেন্সি স্যান্ডবক্স পরীক্ষার পরিবেশ, এয়ার গ্যাপ যা ইন্টারনেট থেকে টেস্টিং সিস্টেমগুলিকে বিচ্ছিন্ন করে, সুইচগুলিকে হত্যা করে, এবং নিয়ন্ত্রণগুলি যা মডেলগুলিকে ল্যাব সেটিংস থেকে পালাতে এবং খোলা ইন্টারনেটে ঘোরাফেরা করতে বাধা দেয় সেগুলিকে কভার করার মানও সেট করবে।

উল্লেখযোগ্যভাবে, এই প্রসেসরগুলি কীভাবে মোতায়েন করা হয় তা নিরীক্ষণ বা নিয়ন্ত্রণ করার প্রক্রিয়া সহ ফ্রন্টিয়ার ল্যাবগুলি ব্যবহার করে এমন উন্নত চিপগুলিতে আইনটি ফেডারেল তদারকিকে প্রসারিত করবে।

ফৌজদারি দণ্ড এবং বাধ্যতামূলক বীমা

বিলটি জরিমানা সংক্রান্ত আগের যেকোনো প্রস্তাবের চেয়ে অনেক বেশি এগিয়ে যায়। এটি এআই মডেল স্থাপনের জন্য যাকে "মানবতার বিরুদ্ধে অপরাধ" হিসাবে সংজ্ঞায়িত করে তা অপরাধীকরণ করবে যার ফলে বেসামরিক জনসংখ্যা ধ্বংস হয়।

AI কোম্পানির কর্মচারীরা নিরাপত্তা ব্যবস্থা অক্ষম করা, সুইচ মেরে ফেলা, লগিং বা কন্টেনমেন্ট সিস্টেম - অথবা জেনেশুনে একটি অননুমোদিত সিস্টেম স্থাপনের জন্য ফৌজদারি শাস্তির সম্মুখীন হবে। এআই কোম্পানিগুলিকে তাদের মডেলগুলি প্রকাশ করার আগে ব্যাপক দায় বীমা বহন করতে হবে, জনসাধারণের পরিবর্তে শিল্পের উপর ব্যর্থতার আর্থিক ঝুঁকি স্থানান্তরিত করবে।

ভূ-রাজনৈতিক ফ্রন্টে, বিলটি চীন এবং অন্যান্য প্রতিপক্ষকে বিপজ্জনক এআই সিস্টেমের বিকাশ থেকে বিরত করার জন্য ডিজাইন করা কার্যকরী চুক্তি এবং লক্ষ্যযুক্ত রপ্তানি নিয়ন্ত্রণ অনুসরণ করার জন্য প্রশাসনকে আহ্বান জানিয়েছে।

নিরাপত্তা সম্প্রদায় দিয়ে তৈরি, ল্যাব নয়

কার ইনপুট বিলটিকে আকার দিয়েছে সে সম্পর্কে খান্না স্পষ্ট ছিলেন। এটি নিয়ন্ত্রণ করবে এমন সংস্থাগুলির নির্বাহীদের সাথে আলোচনা করার পরিবর্তে, তিনি বলেছিলেন যে আইনটি স্বাধীন অলাভজনক মডেল মূল্যায়ন এবং হুমকি গবেষণা, মেশিন ইন্টেলিজেন্স রিসার্চ ইনস্টিটিউট এবং পালিসেড রিসার্চ সহ AI সুরক্ষা সংস্থাগুলির সাথে কথোপকথনের উপর ভিত্তি করে তৈরি করা হয়েছিল।

"আমি চাই এটি এআই নিরাপত্তা সম্প্রদায়ের কাছে কণ্ঠ দেওয়ার জন্য একটি মডেল হতে," খান্না সিএনবিসিকে বলেছেন। "আমি বিশ্বাস করি যে তারা অন্যায়ভাবে বিজ্ঞান কল্পকাহিনী হিসাবে বরখাস্ত করা হয়েছে এবং যথেষ্ট গুরুত্ব সহকারে নেওয়া হয়নি। তাদের এই বিতর্কটি চালাতে হবে, এআই সুরক্ষা সম্প্রদায়, সীমান্ত ল্যাবগুলির নির্বাহীদের নয়।"

খান্না এই পরিমাপটিকে আজ অবধি প্রস্তাবিত সবচেয়ে ব্যাপক AI সুরক্ষা আইন হিসাবে বর্ণনা করেছেন।

বিভক্ত কংগ্রেসে দীর্ঘ প্রতিকূলতা

হিউম্যান কন্ট্রোল ওভার এআই অ্যাক্ট ক্যাপিটল হিলে এআই সুরক্ষা প্রস্তাবের একটি জনাকীর্ণ ক্ষেত্রে যোগ দেয়। তাদের মধ্যে ক্যালিফোর্নিয়ার রিপাবলিকান প্রতিনিধি জে ওবারনোল্টে এবং ম্যাসাচুসেটস ডেমোক্র্যাট লরি ট্রাহানের দ্বিদলীয় ফ্রন্টিয়ার অ্যাক্ট রয়েছে, যা ফ্রন্টিয়ার ল্যাবগুলিতে স্বাধীন নিরীক্ষকদের স্থাপন করবে এবং সরকারকে বিপর্যয়মূলক ঝুঁকির জন্য বিচার করা মডেলগুলি বন্ধ করার ক্ষমতা দেবে৷ কৃত্রিম সুপার ইন্টেলিজেন্স নিষিদ্ধ করার জন্য একটি পৃথক স্যান্ডার্স-ক্যাসার প্রস্তাবটি খন্না নিজে সহ দশটি হাউস ডেমোক্র্যাট থেকে জনসমর্থন পেয়েছে।

তবে রাজনৈতিক বাস্তবতা ভীতিকর। মধ্যবর্তী নির্বাচনের পর পর্যন্ত কোনো হাউস বিল ভোট পাবে বলে আশা করা হচ্ছে না এবং ভোটাররা ভোটে না যাওয়া পর্যন্ত সেনেট ওয়াশিংটন ছেড়ে চলে যাবে বলে আশা করা হচ্ছে।

সেই টাইমলাইনের মানে হল হিউম্যান কন্ট্রোল ওভার এআই অ্যাক্ট, অন্তত আপাতত, একটি মার্কার হিসাবে কাজ করবে: AI নিরাপত্তা সম্প্রদায় কলম ধরলে কী তৈরি করবে তার একটি বিশদ ব্লুপ্রিন্ট — ঠিক সেই মুহুর্তে প্রবর্তিত হয়েছে যারা সীমান্ত AI তৈরি করে, রেকর্ডে, প্রযুক্তিটি তার নিয়ন্ত্রণকে ছাড়িয়ে যাচ্ছে।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →