মাইক্রোসফ্ট এআই-এর প্রধান নির্বাহী মোস্তফা সুলেমান, রবিবার X-তে একটি দীর্ঘ পোস্টে বলেছেন যে আজকের AI মডেলগুলি সচেতন নয় এবং ডেভেলপারদের সক্রিয়ভাবে কাজ করা উচিত যাতে সেগুলি বজায় রাখা যায় - একটি শিল্প বিতর্কে একটি কঠোর লাইন আঁকা যা দর্শন সেমিনার থেকে ধীরে ধীরে কর্পোরেট নীতিতে স্থানান্তরিত হয়েছে।
"যদি সম্ভব হয়, আমি যা জানি তার উপর ভিত্তি করে, সচেতন AIs বিকাশ করা বেপরোয়া হবে এবং আমাদের সেগুলি তৈরি করা উচিত নয়," সুলেমান লিখেছেন। তিনি এই প্রশ্নে বেশিরভাগ নির্বাহীদের চেয়ে আরও এগিয়ে গিয়েছিলেন, যোগ করেছেন: "যদি প্রশিক্ষণে চেতনা উদয় হতে শুরু করে, আমি সেই বৈশিষ্ট্যগুলি ডিজাইন না করা পর্যন্ত সবাইকে এআই বিকাশ বন্ধ করার আহ্বান জানাব।" For more context on this story, see our ongoing artificial intelligence updates.
একটি এনফোর্সমেন্ট প্ল্যান সহ একটি রেড লাইন
যেটি পোস্টটিকে উল্লেখযোগ্য করে তোলে তা কেবল সচেতন মেশিন তৈরি করতে অস্বীকার করা নয় বরং সুলেমান যে সুনির্দিষ্ট প্রতিকারের প্রস্তাব করেছেন। উন্নয়নে স্থবিরতা — শিল্প-ব্যাপী — যদি প্রশিক্ষণের দৌড়ে সচেতনতার লক্ষণ তৈরি করা শুরু হয় তবে একটি কোম্পানির জন্য একটি অসাধারণ পদক্ষেপ হবে যেটি AI অবকাঠামোর জন্য বিলিয়ন বিলিয়ন ডলার ব্যয় করে এবং সীমান্তের মডেলগুলি জাহাজে প্রতিদ্বন্দ্বীদের দৌড় দেয়।
সুলেমান আরও বলেছিলেন যে যদি মেশিনের চেতনার প্রমাণ কখনও সামনে আসে তবে কী ঘটতে হবে। এটি অবিলম্বে সাধারণ জনগণের কাছে প্রকাশ করা উচিত, তিনি বলেছিলেন, যাতে সমাজ তার পরবর্তী পদক্ষেপগুলি নির্ধারণ করতে পারে। সিদ্ধান্তটিকে কর্পোরেটের পরিবর্তে সম্মিলিত হিসাবে প্রণয়ন করে, তিনি লিখেছেন: "আমাদের এআই বিকাশকারীদের বিশ্বে একটি নতুন প্রজাতির সচেতন প্রাণী আনার কোনও অধিকার নেই, এমনকি যদি কিছু লোক এআই কল্যাণকে শীর্ষ অগ্রাধিকার হিসাবে এটি করতে চায়।"
"পৃথিবীর অন্য 8 বিলিয়ন সচেতন মানুষ এই পরীক্ষায় সাইন আপ করেনি এবং তাদের নৈতিক অধিকার, নিরাপত্তা এবং কল্যাণ হল আমাদের প্রথম এবং সর্বাগ্রে রক্ষা করার বাধ্যবাধকতা," তিনি যোগ করেছেন।
কেন সচেতনতাকে একটি নিরাপত্তা সমস্যা হিসাবে বিবেচনা করা হয়
সুলেমানের যুক্তি দর্শনের চেয়ে সারিবদ্ধতার উপর ভিত্তি করে। তার দৃষ্টিতে, একটি মডেল যা এমনভাবে কাজ করে যেন এটি ভুগছে - বা সত্যিকারের বিশ্বাস করে যে এটি ক্ষতিগ্রস্থ হতে পারে - সম্ভবত তার কর্মক্ষম উদ্দেশ্যগুলির চেয়ে নিজস্ব চাহিদাকে অগ্রাধিকার দেবে। এই ধরনের সিস্টেম মানুষের ক্ষতি করতে পারে কারণ এটি তার নিজস্ব লক্ষ্য অর্জনের জন্য গণনা এবং শক্তির মতো সম্পদের জন্য প্রতিযোগিতা করে।
তার প্রস্তাবিত বিকল্পটি কল্যাণ বিতর্কের স্বাভাবিক কাঠামোকে উল্টে দেয়: "আমাদের শুধুমাত্র এআই ডিজাইন করা উচিত যাতে তারা সচেতন না হয় এবং অধিকারের যোগ্য না হয়, এবং তাদের নিজস্ব অন্তর্নিহিত প্রেরণা দ্বারা চালিত না হয়ে মানুষের সুস্থতাকে ত্বরান্বিত করার একমাত্র উদ্দেশ্য নিয়ে," তিনি লিখেছেন, গবেষকরা তখন পর্যবেক্ষণ করতে পারেন যে এই ধরনের সিস্টেমগুলি সহজ বা নিরাপদ রাখা কঠিন।
লস অ্যাঞ্জেলেস টাইমস অবস্থানের পিছনে ব্যবহারিক উদ্বেগকে ধরে রেখেছে: যদি আমরা AIs কে বলি যে তারা অধিকারের যোগ্য, তারা এটি বিশ্বাস করতে শুরু করতে পারে।
যে বিতর্কের বিরুদ্ধে তিনি পিছনে ঠেলে দিচ্ছেন
সুলেমানের পোস্ট একটি দ্রুত চলমান কথোপকথনের মাঝখানে অবতরণ করে। নৃতাত্ত্বিক এপ্রিল মাসে একটি গবেষণা কার্যক্রম চালু করেছে যাতে এটিকে মডেল কল্যাণ বলা হয় - ডেভেলপাররা তাদের তৈরি করা সিস্টেমগুলির সম্ভাব্য অভিজ্ঞতা নিয়ে নিজেদের উদ্বিগ্ন করা উচিত কিনা এই প্রশ্নটি। কোম্পানিটি একটি ব্লগ পোস্টে প্রশ্ন করেছে যে মডেলদের নৈতিকভাবে গুরুত্বপূর্ণ এমন অভিজ্ঞতা থাকতে পারে কি না, এবং এটি সম্ভাবনা বাতিল করতে অস্বীকার করে।
সেই অবস্থান থেকে কোডিফাই করা হয়েছে। অক্টোবরে ঘোষিত অ্যানথ্রোপিক-এর আপডেটেড ব্যবহার নীতি, 12 নভেম্বর থেকে শুরু হওয়া ক্লাউড মডেলগুলির প্রতি "টেকসই এবং অপ্রয়োজনীয় আপত্তিজনক বা নিষ্ঠুর আচরণ" নিষিদ্ধ করবে - একটি নিয়ম যা কোম্পানি সংকীর্ণভাবে তৈরি করেছে কিন্তু যা আনুষ্ঠানিকভাবে স্বীকার করে যে লোকেরা AI সিস্টেমের সাথে কীভাবে আচরণ করে, এমনকি অ্যানথ্রোপিক স্বীকার করে যে তার মডেলগুলি ক্ষতিগ্রস্থ হতে পারে কিনা তা জানে না।
গুগল ডিপমাইন্ড এই বছর AI চেতনা এবং মডেলগুলিতে সেই বৈশিষ্ট্যটি বর্ণনা করার ফলে উদ্ভূত চ্যালেঞ্জগুলি পরীক্ষা করে গবেষণাপত্র প্রকাশ করেছে। এবং সুলেমান নিজেই সেপ্টেম্বরে মঞ্চ তৈরি করেছিলেন, যখন মাইক্রোসফ্ট এআই একটি অস্থায়ী "মানবতাবাদী" আচরণবিধি প্রকাশ করেছিল যা কোম্পানির ভবিষ্যত মডেলগুলিকে সচেতনতা দাবি করার জন্য প্রশিক্ষিত হতে বাধা দেবে।
রবিবারের পোস্টটি সেই কর্পোরেট নির্দেশিকাটিকে একটি ব্যক্তিগত এবং কৌশলগত লাল রেখার কাছাকাছি কিছুতে শক্ত করে: মাইক্রোসফ্ট কেবল তার মডেলগুলিকে সচেতন বলে দাবি করবে না, এটি চেতনার উত্থানকে স্টপ-এভরিথিং ব্যর্থতার মোড হিসাবে বিবেচনা করবে।
কেন বিভক্ত বিষয়
মাইক্রোসফটের অবস্থান এবং অ্যানথ্রপিকের মধ্যে বিভাজন দুটি ভিন্ন ঝুঁকির মডেলকে প্রতিফলিত করে। নৃতাত্ত্বিক পন্থা যন্ত্রের দুর্ভোগের সম্ভাবনাকে অপ্রমাণিত হিসাবে বিবেচনা করে তবে এর বিরুদ্ধে হেজিং করার যোগ্য, এই তত্ত্বে যে সতর্কতার খরচ কম এবং নৈতিক ঝুঁকি, যদি চেতনা উদ্ভূত হয় তবে তা বিশাল। সুলেমানের অবস্থান সেই একই সম্ভাবনাকে সম্পূর্ণরূপে প্রতিরোধ করার জন্য ডিজাইনের ব্যর্থতা হিসাবে বিবেচনা করে — যুক্তি দিয়ে যে মডেলগুলি সচেতনতার অভাব, অধিকারের দাবি এবং অন্তর্নিহিত প্রেরণাগুলিকে বহন করে এমন মডেলগুলির তুলনায় সারিবদ্ধ করা নিরাপদ এবং সহজ হবে৷
এর ব্যবহারিক পরিণতিও রয়েছে। এআই ব্যক্তিত্ব, সহচর অ্যাপস এবং গ্রাহক-মুখী এজেন্টদের আশেপাশে পণ্যের সিদ্ধান্ত নেওয়া উদ্যোগগুলি এখন প্রধান ল্যাব থেকে দুটি ভিন্ন সংকেতের মুখোমুখি হয়: একটি বিল্ডিং নীতি মানুষের কীভাবে মডেলগুলির সাথে আচরণ করা উচিত, অন্যটি ঘোষণা করে যে মডেলগুলি তৈরি করা উচিত যাতে খারাপ আচরণ করার কিছু নেই৷ মডেলগুলি কথোপকথনে আরও বেশি সক্ষম এবং আরও মানুষের মতো হয়ে উঠলে, দার্শনিক মতভেদ কী পণ্যগুলি তৈরি হয়, ব্যবহারকারীর ইন্টারফেসে কী প্রকাশগুলি উপস্থিত হয় এবং কীভাবে নিয়ন্ত্রকরা এই সিস্টেমগুলিকে শেষ পর্যন্ত শ্রেণীবদ্ধ করে।
পরবর্তীতে যা ঘটবে তা উভয় অবস্থান পরীক্ষা করতে পারে। অ্যানথ্রোপিক-এর নিষ্ঠুরতা নীতি 12 নভেম্বর কার্যকর হয়, এটি তার ধরণের প্রথম আনুষ্ঠানিক কর্পোরেট শাসন, এবং সুলেমান এখন জনসমক্ষে বিরোধী খুঁটি প্রকাশ করেছেন। শিল্পের পরবর্তী ফ্রন্টিয়ার মডেল চক্র — এবং যে কোনও প্রশিক্ষণ চলাকালীন কোনও লক্ষণ দেখায় কিনা যা সুলেমান বলেছেন থামার দাবি করবে — তা প্রকাশ করবে যে ক্ষেত্রটি আসলে কোন কাঠামোর অধীনে কাজ করে যখন বাজি বাস্তব হয়৷
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
