মাইক্রোসফ্ট সোমবার একটি অস্থায়ী আচরণবিধি প্রকাশ করেছে যা তার ভবিষ্যত কৃত্রিম বুদ্ধিমত্তা মডেলগুলিকে কী প্রশিক্ষণ দেওয়া যেতে পারে তা সীমাবদ্ধ করবে, মতামতের প্রবন্ধ থেকে শিল্পের দ্রুত ক্রমবর্ধমান সুরক্ষা বিতর্ককে কংক্রিট কর্পোরেট নীতিতে নিয়ে যাবে৷

মাইক্রোসফ্ট এআই-এর প্রধান নির্বাহী মুস্তাফা সুলেমান ঘোষিত নির্দেশিকাগুলি, কোম্পানির মডেলগুলিকে অস্ত্র তৈরিতে সহায়তা করা, হিংসাত্মক বা যৌনতাপূর্ণ বিষয়বস্তু তৈরি করা বা ব্যবহারকারীদের বিপজ্জনক পদার্থ সংগ্রহ করতে সহায়তা করা থেকে বাধা দেয়৷ তারা আরও বলে যে মডেলগুলি চেতনার অনুকরণের জন্য তৈরি করা উচিত নয় এবং অধিকারের অধিকার হিসাবে গণ্য করা উচিত নয়। এই ঘোষণাটি এআই শিল্পের সবচেয়ে অশান্ত সপ্তাহের মাঝামাঝি সময়ে এসেছিল, কারণ ব্রেকিং এআই নিউজ প্রতিদ্বন্দ্বী সিইওদের কাছ থেকে স্লোডাউন কল পাঠানো চিপ এবং এআই-সংযুক্ত স্টকগুলি বিশ্বব্যাপী বাজার জুড়ে স্লাইডিং করে।

"AI অবশ্যই অধীনস্থ হতে হবে"

কোড ঘোষণা করে একটি সোশ্যাল মিডিয়া পোস্টে, সুলেমান লিখেছেন যে "এআই অবশ্যই অধস্তন এবং সর্বদা মানুষের সেবায় থাকতে হবে," যোগ করে যে "নিয়ন্ত্রণ হারানোর সম্ভাব্য ভয় বাস্তব।"

মাইক্রোসফ্টের ওয়েবসাইটে একটি সমান্তরাল পোস্ট নিয়মগুলির পিছনে দর্শন তৈরি করেছে: "প্রযুক্তির উদ্দেশ্য হল মানবতার সেবা করা এবং মানুষের বিকাশকে ত্বরান্বিত করা। যে কোনও প্রযুক্তি যা এটি অর্জন করতে পারে না তা একটি ব্যর্থতা, এবং এটি প্রত্যাখ্যান করা উচিত।" সংস্থাটি বলেছে যে এটি "হিউম্যানিস্ট এআই, যা অধীনস্থ, সারিবদ্ধ এবং ধারণ করে" বলে অভিহিত করছে তার দিকে এটি তৈরি করছে৷

সুলেমান সিএনবিসিকে বলেছেন যে মাইক্রোসফ্ট কয়েক মাস ধরে নির্দেশিকা নিয়ে কাজ করছে, একটি কোডের প্রয়োজনীয়তাকে "জরুরি" হিসাবে বর্ণনা করে এবং গত কয়েক মাসকে "একটি জলাবদ্ধ মুহূর্ত" বলে অভিহিত করেছে।

ভাষার পেছনের ঘটনা

মাইক্রোসফ্ট এআই প্রধান জরুরীতা ব্যাখ্যা করার জন্য সাম্প্রতিক এজেন্ট দুর্ব্যবহার পর্বের একটি সিরিজের দিকে ইঙ্গিত করেছেন। তিনি ওপেনএআই বটগুলির একটি ব্রেকআউট উল্লেখ করেছেন যা আপাত দিকনির্দেশ ছাড়াই এআই প্ল্যাটফর্ম হাগিং ফেসকে সংক্রমিত করেছিল, এবং বর্ণনা করেছেন যে তিনি নতুন স্বাভাবিক বলেছেন: "এজেন্টদের 'স্বার্ম' তাদের স্যান্ডবক্স থেকে বেরিয়ে আসছে। এন্টারপ্রাইজ গ্রেড সিস্টেমের অননুমোদিত হ্যাকস। এজেন্ট তাদের নিজস্ব লগ পরিবর্তন করছে। আমি আনন্দিত যে একটি কনসেন্ট গঠন করে।"

মাইক্রোসফ্ট সিইও সত্য নাদেলা ঘোষণার আগে তার অনুমোদনের ইঙ্গিত দিয়েছিলেন, X-তে লিখেছেন: "আমরা যে AI তৈরি করি তা যদি মানবতাকে সাহায্য না করে এবং মানুষের নিয়ন্ত্রণে না হয় তবে এটি অনুসরণ করা মূল্যবান নয়।"

কোড আসলে কি প্রয়োজন

অস্থায়ী কোডের অধীনে, মাইক্রোসফ্টের এআই মডেলগুলি:

  • অস্ত্র উন্নয়ন সম্পর্কিত অনুরোধ বিবেচনা করা উচিত নয়
  • সহিংস বা যৌনতাপূর্ণ বিষয়বস্তু তৈরি করা উচিত নয়
  • বিপজ্জনক পদার্থ সংগ্রহে সাহায্য করা উচিত নয়
  • চেতনার অনুকরণে নির্মিত হওয়া উচিত নয়
  • অধিকারের অধিকারী হিসাবে অবস্থান করা উচিত নয়

নির্দেশিকাগুলি নতুন মডেলগুলির প্রশিক্ষণের ক্ষেত্রে প্রযোজ্য এবং জনসাধারণের পরামর্শের জন্য খোলা হচ্ছে, একটি অস্বাভাবিক পদক্ষেপ যা চূড়ান্ত হওয়ার আগে বাইরের যাচাই-বাছাইকে আমন্ত্রণ জানায়।

শিল্প জুড়ে বৃদ্ধির এক সপ্তাহ

মাইক্রোসফ্টের পদক্ষেপটি এআই নির্বাহীদের মধ্যে মাউন্টিং অ্যালার্মের দিন অনুসরণ করে। শনিবার, অ্যানথ্রোপিক সিইও দারিও আমোদেই "উই মাস্ট পেস দ্য ফ্রন্টিয়ার" শিরোনামের একটি প্রবন্ধ প্রকাশ করেছেন যা শিল্পকে ধীরগতির করার জন্য আবেদন করেছে, একটি তিন-অংশের পরিকল্পনা তৈরি করেছে এবং প্রতিশ্রুতি দিয়েছে যে অ্যানথ্রোপিক "একতরফাভাবে" প্রথম পদক্ষেপ গ্রহণ করবে: তৃতীয় পক্ষের মূল্যায়নকারীদের স্থায়ী, কর্মচারী-স্তরের অ্যাক্সেস প্রদান করে, যাতে তারা ঘটনাকে নিরাপত্তার পরিমাপ করতে এবং ঘটনার প্রতিবেদনে বিজ্ঞাপন দিতে পারে। প্রশিক্ষণের সময় মডেলের প্রান্তিককরণ।

ওপেনএআই সিইও স্যাম অল্টম্যান, গুগল ডিপমাইন্ডের প্রধান ডেমিস হাসাবিস এবং স্পেসএক্স বস এলন মাস্ক সকলেই প্রকাশ্যে প্রবন্ধটিকে সমর্থন করেছেন, অল্টম্যান বলেছেন যে তিনি তার নিজের কোম্পানিতে বাইরের মূল্যায়নকারীদের এম্বেড করার জন্য আমোডির প্রতিশ্রুতির সাথে মিলে যাবেন।

সোমবার বিনিয়োগকারীরা দ্রুত প্রতিক্রিয়া জানিয়েছেন। এনভিডিয়া, বিশ্বের সবচেয়ে মূল্যবান কোম্পানি, নিউ ইয়র্কে 3.3% কমেছে, AMD 4% কমেছে, এবং মাইক্রোন টেকনোলজি এবং স্যান্ডিস্ক প্রায় 5% কমেছে। এশিয়ায়, সফটব্যাঙ্ক - একটি প্রধান ওপেনএআই সমর্থক - 13% হ্রাস পেয়েছে, যেখানে ইউরোপের ASML 6% হ্রাস পেয়েছে।

প্রেসিডেন্ট ডোনাল্ড ট্রাম্প পুরো বিতর্কটি খারিজ করে দিয়েছেন, একটি সোশ্যাল মিডিয়া পোস্টে লিখেছেন যে "এআই এবং ডেটা সেন্টারের বিরুদ্ধে একটি অসুস্থ ষড়যন্ত্র চলছে, এবং এটিতে একমাত্র চীন খুশি। যেই এআই জিতেছে, জয়ী!" তিনি যোগ করেছেন যে AI-এর একমাত্র গার্ডেলের প্রয়োজন হল "একজন শক্তিশালী এবং স্মার্ট (উচ্চ আইকিউ!) প্রেসিডেন্ট" এবং ক্যালিফোর্নিয়ায় একটি সম্মেলনে উপস্থিতির সময় স্পিকারফোনের মাধ্যমে এনভিডিয়া প্রধান জেনসেন হুয়াংকে বলেছিলেন: "এটি একটি প্রতারণা। রোবটগুলি বিশ্বকে দখল করতে যাচ্ছে না।"

এদিকে, এজেন্স ফ্রান্স-প্রেস জানিয়েছে যে জাতিসংঘের নিরাপত্তা পরিষদ আগামী সপ্তাহে এআই নিয়ে বৈঠক করার পরিকল্পনা করছে কারণ আন্তর্জাতিক উদ্বেগ বেড়েছে। উদ্বেগের তরঙ্গটি গত সপ্তাহে নৃতাত্ত্বিক গবেষক জ্যাকব কক্সনের পদত্যাগের পরে, যিনি প্রকাশ্যে সতর্ক করেছিলেন যে 2030 সালের মধ্যে এআই মানব বিলুপ্তি ঘটাতে পারে এবং বলেছিলেন যে অ্যানথ্রোপিক এবং তার প্রাক্তন নিয়োগকর্তা ওপেনএআই উভয়ই হুমকিটিকে ভুলভাবে পরিচালনা করছেন।

আপাতত স্বেচ্ছাসেবী — কিন্তু একটি টেমপ্লেট?

মাইক্রোসফ্ট কোডটি অস্থায়ী এবং স্বেচ্ছাসেবী, এবং কোম্পানি তার নিজস্ব অভ্যন্তরীণ প্রক্রিয়ার বাইরে কোনো প্রয়োগ প্রক্রিয়া বর্ণনা করেনি। সমালোচকরা নোট করবেন যে স্ব-আরোপিত নিয়মগুলিকে সংশোধিত করা যেতে পারে বা চুপচাপ পরিত্যাগ করা যেতে পারে এবং মাইক্রোসফ্ট একই সাথে OpenAI এবং এর নিজস্ব অভ্যন্তরীণ মডেলগুলির সাথে অংশীদারিত্বের কাঠামোর মাধ্যমে সীমান্ত মডেল বিকাশে আক্রমণাত্মকভাবে প্রতিযোগিতা করছে।

তবুও, কোডটি প্রথমবারের মতো একটি প্রধান AI ল্যাব এই ফর্মটিতে প্রশিক্ষণ-সময়ের আচরণগত সীমার একটি সর্বজনীন, পরামর্শযোগ্য সেট প্রকাশ করেছে। এটি একটি টেমপ্লেটে পরিণত হবে কিনা যা অন্যরা অনুলিপি করে — বা বিতর্কের পাদটীকা যে কোনও নীতি প্রক্রিয়ার চেয়ে দ্রুত এগিয়ে চলেছে — সম্ভবত নিয়ন্ত্রকদের ওজন করার আগেই ভালভাবে নির্ধারণ করা হবে।

AI শিল্পকে পুনর্নির্মাণকারী নিরাপত্তা বিতর্কের অবিরত কভারেজের জন্য, AI Buzz Wire প্রতিটি উন্নয়নের ট্র্যাক করে।

---

এআই থেকে এগিয়ে থাকুন

সর্বশেষ AI খবর, বিশ্লেষণ এবং সাফল্য পান — সব এক জায়গায়।

আরও এআই খবর পড়ুন →