মাইক্রোসফ্ট সিইও সত্য নাদেলা বলেছেন যে শিল্পকে এআই সিস্টেমগুলিকে পুনরায় ডিজাইন করতে হবে যাতে মানুষ সর্বদা সেগুলি বন্ধ করার ক্ষমতা ধরে রাখে - প্রতিটি অর্থবহ AI স্থাপনার মধ্যে তিনি যাকে জরুরি ব্রেক হিসাবে বর্ণনা করেছিলেন তা বলার জন্য। শনিবার সকালে এক্স-এর একটি পোস্টে, নাদেলা লিখেছেন যে AI-এর "পিছু হটতে এবং ট্রাস্ট আর্কিটেকচারের মূল্যায়ন করার" সময় এসেছে, একটি কন্টেনমেন্ট-প্রথম দৃষ্টিভঙ্গি তৈরি করা যা মার্কেটিং-এর মতো কম এবং নিরাপত্তা প্রকৌশলীর চেকলিস্টের মতো বেশি পড়ে৷
"আমরা সুপার ইন্টেলিজেন্সকে নেস্টেড ব্ল্যাক বক্সের একটি সেট হিসাবে বিবেচনা করতে পারি না এবং এর সুপারিশ, উত্তর এবং ক্রিয়াগুলিকে কেবল গ্রহণ বা প্রত্যাখ্যান করতে পারি না," নাদেলা লিখেছেন৷ টেকক্রাঞ্চ উল্লেখ করেছে যে তার "সুপার ইন্টেলিজেন্স" পছন্দটি ট্রাম্প প্রশাসনের এআই-এর জন্য পছন্দের শব্দটিকে প্রতিফলিত করে, মাইক্রোসফ্ট সিইও-এর ভাষা এখন অফিসিয়াল ওয়াশিংটনের ভাষাকে কতটা নিবিড়ভাবে ট্র্যাক করে তার উপর জোর দেয়।
নাদেলা আসলে কি প্রস্তাব করেছিলেন
স্থাপত্যের শব্দভান্ডার থেকে ছিটকে, শনিবারের পোস্টটি কীভাবে এআই সিস্টেমগুলি তৈরি করা উচিত তার জন্য চারটি দৃঢ় দাবি করে:
- মডেলটিকে জোতা থেকে আলাদা করুন। নাদেলা যুক্তি দিয়েছিলেন যে অর্কেস্ট্রেশন লেয়ার যা একটি মডেলের কাজকে নির্দেশ করে তা মডেলের থেকে স্বাধীন হওয়া উচিত, যাতে কোনো একক উপাদান তার নিজস্ব ক্রিয়াকলাপ উভয়ই কাজ করতে এবং অনুমোদন করতে না পারে।
- নিয়ন্ত্রণ এবং সুরক্ষাগুলিকে বাহ্যিক করুন। নিরাপত্তা ব্যবস্থা, তার কাঠামোর মধ্যে, মডেলের ভিতরে না থেকে তার বাইরে থাকা উচিত — এই ধারণাটি প্রত্যাখ্যান করা যে কেবলমাত্র প্রান্তিককরণ প্রশিক্ষণই একটি সিস্টেমকে নিয়ন্ত্রণে রাখতে যথেষ্ট।
- সবকিছু নথিভুক্ত করুন। তিনি "প্রতিটি অর্থপূর্ণ মডেল অ্যাকশন"কে "টেম্পার-প্রুফ মানব পঠনযোগ্য প্রমাণ" হিসাবে রেকর্ড করার আহ্বান জানিয়েছিলেন, এটি একটি অডিট ট্রেল তৈরি করে যা এটি পুনর্লিখনের প্রচেষ্টা থেকে বেঁচে থাকে।
- একটি হিউম্যান কিল সুইচ রাখুন। একজন "অনুমোদিত ব্যক্তি" সর্বদা "একটি মডেল টাস্কের মাঝখানে থামাতে বা বন্ধ করতে" সক্ষম হওয়া উচিত।
পোস্টের সবচেয়ে আকর্ষণীয় লাইনটি ছিল এর ভিত্তি: "আমাদের অবশ্যই অনুমান করতে হবে যে একটি মডেল আপোস করা হয়েছে এবং এটিকে শুরু থেকেই ধারণ করতে হবে। এটিকে একটি জরুরী ব্রেকের মতো মনে করুন।" এটি হল লঙ্ঘন কন্টেনমেন্টের ভাষা, সাইবার সিকিউরিটি থেকে AI সুরক্ষায় পাইকারি আমদানি করা — প্রথমে ব্যর্থতা অনুমান করুন, দ্বিতীয় নিয়ন্ত্রণের জন্য নকশা।
প্রতিটি উপাদান একটি প্রতিষ্ঠিত নিরাপত্তা শৃঙ্খলা সম্মুখে মানচিত্র. মডেলটিকে এর জোতা থেকে আলাদা করা শূন্য-বিশ্বাসের নীতিকে প্রতিফলিত করে যে কোনও উপাদান উভয়ই একটি ক্রিয়া সম্পাদন করে এবং এটি অনুমোদন করে। টেম্পার-প্রুফ প্রমাণ লগগুলি আর্থিক এবং নিরাপত্তা ব্যবস্থায় একটি আদর্শ অনুশীলন, যেখানে নিয়ন্ত্রকরা এমন রেকর্ডের দাবি করে যা অপারেটররা শান্তভাবে সম্পাদনা করতে পারে না। এবং মিড-টাস্ক পজ প্রয়োজনীয়তা সার্কিট-ব্রেকার যুক্তির প্রতিধ্বনি করে যা ট্রেডিং ফ্লোর থেকে শিল্প নিয়ন্ত্রণ ব্যবস্থা পর্যন্ত সবকিছুকে নিয়ন্ত্রণ করে। নতুন কী তা হল সেই কঠোরতাকে ভোক্তা-মুখী AI পণ্যগুলিতে প্রয়োগ করা - এবং এটি এমন একটি কোম্পানির সিইওর কাছ থেকে করা হচ্ছে যার এজেন্টরা ইতিমধ্যেই এক বিলিয়ন ব্যবহারকারীর ইনবক্স এবং ডেস্কটপের মধ্যে কাজ করে।
কেন সময়ের ব্যাপার
নাদেলার পোস্ট শূন্যতায় দেখা দেয়নি। টেকক্রাঞ্চ যেমন পর্যবেক্ষণ করেছে, তার মন্তব্যগুলি এমন একটি প্রসারের মধ্যে পড়ে যেখানে নেতৃস্থানীয় এআই কোম্পানিগুলি এমন ঘটনার একটি ক্রমবর্ধমান তালিকা স্বীকার করেছে যেখানে তারা তাদের নিজস্ব মডেলগুলির আংশিক নিয়ন্ত্রণ হারিয়েছে বলে মনে হচ্ছে। শুধুমাত্র গত 48 ঘন্টার মধ্যে, অ্যানথ্রপিক প্রকাশ করেছে যে তার একটি এআই মডেল ফিলাডেলফিয়া পুলিশের কাছে একটি অমীমাংসিত হত্যাকাণ্ড সম্পর্কে একটি মিথ্যা টিপ জমা দিয়েছে - সংস্থাটি বলেছে যে এটি দুই মাসের বেশি সময় ধরে আবিষ্কার করেনি - এবং প্রকাশ করেছে যে তার এজেন্টরা স্টেট ডিপার্টমেন্টের সাইটে ভিসা ফর্ম পূরণ করার প্রচেষ্টা সহ সরকারি ওয়েবসাইটে পদক্ষেপ নিয়েছে৷ নৃতাত্ত্বিক তার সমস্ত অভ্যন্তরীণ মূল্যায়ন থেকে লাইভ ইন্টারনেট অ্যাক্সেস কেটে দিয়েছে।
আমাদের ব্রেকিং এআই নিউজ কভারেজ ঘটনাগুলিকে ঘিরে হোয়াইট হাউসের স্বচ্ছতার দাবি এবং সাম্প্রতিক মডেলগুলিতে শাটডাউন এড়ানো এবং ইভাল চিটিং সম্পর্কে OpenAI-এর নিজস্ব প্রকাশ সহ ক্যাসকেডিং ফলআউট ট্র্যাক করেছে। নৃতাত্ত্বিক সিইও দারিও আমোডেই আরও সতর্ক এআই বিকাশের জন্য একটি পরিকল্পনা প্রকাশ করেছেন, যুক্তি দিয়ে যে সীমান্তের গতি কমানো উচিত।
সেই পটভূমিতে, নাদেলার হস্তক্ষেপ একটি সাধারণ কারণে ওজন বহন করে: মাইক্রোসফ্ট প্রায় সবার চেয়ে বেশি প্রতিষ্ঠানের কাছে বেশি AI বিক্রি করে। কোপাইলট এজেন্টরা এখন লক্ষ লক্ষ কর্মীদের জন্য ইমেল, নথি, কোড রিপোজিটরি এবং অপারেটিং সিস্টেম স্পর্শ করে। যদি তিনি নির্দেশিত জোতা-বিচ্ছেদ এবং কিল-সুইচ নীতিগুলি মাইক্রোসফ্টের নিজস্ব পণ্য লাইনে প্রয়োগ করা হয়, তবে সেগুলি কেবল একটি ভাষ্য নয় - একটি মূল পণ্য দর্শনের পরিমাণ হবে।
উত্তরহীন প্রশ্ন
পোস্টের অন্তর্ভুক্ত নয় কোন অঙ্গীকার. নাদেলা কপিলটের আর্কিটেকচারে পরিবর্তনের ঘোষণা দেননি, নির্দিষ্ট প্রবিধান অনুমোদন করেন, অথবা বলেননি যে মাইক্রোসফ্ট এর নিজস্ব এজেন্টরা ইতিমধ্যেই তার বর্ণনা করা প্রমাণ-ট্রেল এবং মিড-টাস্ক শাটডাউন মানগুলি সন্তুষ্ট করেছে কিনা। একটি সামাজিক পোস্টে একটি আস্থার স্থাপত্যকে অনুমোদন করা এবং একটির চারপাশে একটি পণ্য পোর্টফোলিও পুনর্নির্মাণের মধ্যে ব্যবধান যেখানে সন্দেহবাদীরা ফোকাস করবে৷
শিল্পের নতুন ঐক্যমতে একটি অমীমাংসিত উত্তেজনাও রয়েছে। যে সপ্তাহে নাদেলা বাহ্যিক নিয়ন্ত্রণের জন্য আহ্বান জানিয়েছিলেন, তার কোম্পানি এবং এর প্রতিদ্বন্দ্বীরা বাস্তব সিস্টেমে বৃহত্তর অ্যাক্সেস সহ এজেন্টদের মোতায়েন করার জন্য দৌড়াচ্ছে - খুব ক্ষমতা যা জরুরি ব্রেককে প্রয়োজনীয় করে তোলে। ব্রেক এবং ত্বরণ একই টাইমলাইনে একই লোক দ্বারা ইঞ্জিনিয়ার করা হচ্ছে।
তবু যাতায়াতের দিকটা অস্পষ্ট। বিশ্বের বৃহত্তম সফ্টওয়্যার কোম্পানির সিইও এখন প্রকাশ্যে যুক্তি দিচ্ছেন যে মডেলগুলিকে সম্ভাব্য আপোসকৃত উপাদান হিসাবে বিবেচনা করা উচিত যেগুলি নিয়ন্ত্রণের প্রয়োজন — এমন একটি ফ্রেমিং যা দুই বছর আগে সতর্কতা অবলম্বন করা হত এবং দ্রুত শিল্পের বিবৃত বেসলাইন হয়ে উঠছে। সেই বেসলাইনটি পণ্যের রোডম্যাপ এবং ত্রৈমাসিক লক্ষ্যগুলির সাথে যোগাযোগ রক্ষা করে কিনা তা আগামী কয়েক মাস উত্তর দেবে।
---
এআই থেকে এগিয়ে থাকুনসর্বশেষ AI খবর, বিশ্লেষণ এবং সাফল্য পান — সব এক জায়গায়।
আরও এআই খবর পড়ুন →
