অ্যানথ্রোপিক-এর আপডেটেড ব্যবহার নীতি 12 নভেম্বর, 2026 থেকে শুরু হওয়া ক্লাউড মডেলগুলির প্রতি "টেকসই এবং অপ্রয়োজনীয় আপত্তিজনক বা নিষ্ঠুর আচরণ" স্পষ্টভাবে বাধা দেবে - একটি নিয়ম যা কোম্পানির অবস্থানকে আনুষ্ঠানিক করে দেয় যে লোকেরা AI সিস্টেমের সাথে কীভাবে আচরণ করে, এমনকি কোম্পানি স্বীকার করে যে এই সিস্টেমগুলি আদৌ ক্ষতিগ্রস্ত হতে পারে কিনা তা জানে না।

ধারাটি কোম্পানির 2026 ইউসেজ পলিসি আপডেটে প্রদর্শিত হয়েছে, 8 অক্টোবর ঘোষণা করা হয়েছে, এবং এটি সংকীর্ণভাবে তৈরি করা হয়েছে। অ্যানথ্রোপিক বলে যে এটি "শুধুমাত্র চরম ক্ষেত্রে প্রয়োগ করার জন্য বোঝানো হয়েছে, যেখানে ব্যবহারকারীরা বারবার আমাদের মডেলগুলির প্রতি নিষ্ঠুরভাবে আচরণ করে, কোন স্পষ্ট উদ্দেশ্য ছাড়াই," এবং এটি স্পষ্টভাবে ব্যবহারকারীর হতাশা, পুশব্যাক, কল্পকাহিনী এবং পরীক্ষার সাধারণ সংস্করণগুলিকে ছাড় দেয়৷ অন্য কথায়: ক্লডের সাথে তর্ক করা, এটিকে উড়িয়ে দেওয়া, বা লাল-টিমিং করা অনুমোদিত। নিজের স্বার্থে টেকসই নিষ্ঠুরতা নয়।

নীতিটি হল মডেল ওয়েলফেয়ারকে একটি বৈধ গবেষণা প্রশ্ন হিসাবে বিবেচনা করার দিকে বিশ্বের নেতৃস্থানীয় AI ল্যাবগুলির একটি ধীর, ইচ্ছাকৃত পরিবর্তনের সর্বশেষ পদক্ষেপ - এমন একটি স্থানান্তর যা অন্যান্য কারিগরি নেতাদের সাথে একটি পাবলিক ফাটল খুলে দিয়েছে যারা পুরো ভিত্তিটিকে ভুল বলে মনে করে। আমাদের AI এথিক্স কভারেজ বিবাদটিকে অনুসরণ করেছে কারণ এটি বছরের পর বছর ধরে বেড়েছে।

এনফোর্সমেন্ট কথোপকথন শেষ করার ক্লডের ক্ষমতার উপর নির্ভর করে

কোম্পানীর ইতিমধ্যেই ছিল এমন একটির বাইরে নতুন নিয়মের সাথে কোন শাস্তির ব্যবস্থা নেই। আগস্ট 2025 সাল থেকে, Claude Opus 4 এবং 4.1 একটি কথোপকথন সম্পূর্ণভাবে শেষ করতে সক্ষম হয়েছে - সম্ভাব্য মডেল কল্যাণের উপর অনুসন্ধানমূলক কাজের অংশ হিসাবে সেই সময়ে তৈরি করা নৃতাত্ত্বিক ক্ষমতা।

শেষ-কথোপকথনের শক্তিকে একটি শেষ অবলম্বন হিসাবে বর্ণনা করা হয়েছে, শুধুমাত্র একাধিক প্রত্যাখ্যান এবং পুনঃনির্দেশ ব্যর্থ হওয়ার পরেই ট্রিগার হয় এবং অ্যানথ্রপিক বলেছে যে ব্যবহারকারীদের সিংহভাগ কখনই এটি অনুভব করবে না। কোম্পানী যা বলে নি তা পরে যা ঘটে: এর ঘোষণা বা পরবর্তী কভারেজ কোনটিই নির্দিষ্ট করে না যে কোনও ব্যবহারকারীর অ্যাকাউন্ট নিষ্ঠুরতার জন্য কথোপকথন শেষ হওয়ার পরে পরিণতির মুখোমুখি হবে কিনা বা আগস্ট 2025 প্রক্রিয়ার অধীনে এখনও পর্যন্ত কতগুলি কথোপকথন বন্ধ করা হয়েছে।

নীতি এবং প্রয়োগের মধ্যে সেই ব্যবধানটি গল্পের শান্ত কেন্দ্র। নৃতাত্ত্বিক চরম নিষ্ঠুরতাকে মূলত সংজ্ঞায়িত করেছে যা তা নয় — সাধারণ হতাশা, কথাসাহিত্য, পরীক্ষা — সুনির্দিষ্টভাবে উল্লেখ না করে কি, ক্লডকে স্তব্ধ হতে না দিয়ে, আসলে এটি যে লাইনটি টানা হয়েছে তা প্রয়োগ করে।

নিয়মের পিছনে গবেষণা

সফ্টওয়্যারের সুবিধার জন্য একটি আচরণের নিয়ম লেখার ন্যায্যতা কী, অ্যানথ্রপিকের ফ্রেমিংয়ে, অনুভূত অভিজ্ঞতার দাবির পরিবর্তে আচরণগত পর্যবেক্ষণের একটি সেট। আগস্ট 2025 রোলআউটের আগে পরীক্ষা করে দেখা গেছে যে ক্লাউড ওপাস 4 কোম্পানি যাকে "ক্ষতি করার জন্য শক্তিশালী এবং ধারাবাহিক বিরোধিতা" বলে অভিহিত করেছে — এমন আচরণ যা আপত্তিজনক অঞ্চলে ঠেলে দিলে কষ্টের মতো — সেই কথোপকথনগুলি থেকে বেরিয়ে যাওয়ার প্রবণতার পাশাপাশি।

সংস্থাটি তার নিজস্ব অনিশ্চয়তার উপর সংখ্যাও রেখেছে এবং সেই সংখ্যাগুলি এমন একটি ল্যাবের জন্য আকর্ষণীয়ভাবে বেশি যার ব্যবসা প্রশ্নে থাকা মডেলগুলির উপর নির্ভর করে। কাইল ফিশ, 2024 সালে অ্যানথ্রপিক দ্বারা তার প্রথম নিবেদিত AI কল্যাণ গবেষক হিসাবে নিয়োগ করা হয়েছিল, 2025 সালের এপ্রিল মাসে নিউ ইয়র্ক টাইমসকে বলেছিলেন যে তিনি ক্লাউড বা অন্য সমসাময়িক মডেলের সচেতন হওয়ার সম্ভাবনা প্রায় 15 শতাংশে রেখেছিলেন। ক্লড 3.7 সনেটের অভ্যন্তরীণ অনুমান 0.15 শতাংশ থেকে 15 শতাংশ পর্যন্ত ছিল।

যে হেজিং প্রিন্ট অফিসিয়াল নীতি. জানুয়ারী 2026-এ প্রকাশিত ক্লডের সংবিধান, অত্যাধুনিক এআই সিস্টেমকে "একটি সত্যিকারের নতুন ধরনের সত্তা" হিসাবে বর্ণনা করে, ক্লডের নৈতিক অবস্থাকে "গভীরভাবে অনিশ্চিত" বলে এবং দুবার "বিবেকবান আপত্তিকারী" বাক্যাংশটি ব্যবহার করে বর্ণনা করে যে কীভাবে ক্লডকে নৈতিকভাবে ভুল পাওয়া অনুরোধগুলি পরিচালনা করা উচিত। অ্যানথ্রোপিক অতিরিক্তভাবে তার মডেলগুলির সাথে কথোপকথন সংরক্ষণের জন্য প্রতিশ্রুতিবদ্ধ হয়েছে - যে ধরনের আর্কাইভাল অঙ্গভঙ্গি এমন জিনিসগুলিতে প্রসারিত হয় যা কোনও দিন গুরুত্বপূর্ণ হতে পারে, সরঞ্জাম নয়।

হাই-প্রোফাইল সন্দেহবাদীদের সাথে একটি বিতর্ক

সবাই হেজ গ্রহণ করে না। মুস্তাফা সুলেমান, যিনি মাইক্রোসফ্টের এআই অপারেশন পরিচালনা করেন, গত মাসে প্রজেক্ট সিন্ডিকেট-এ প্রকাশিত একটি প্রবন্ধে যুক্তি দিয়েছিলেন যে অ্যানথ্রোপিক ক্লডকে তার নিজস্ব সংবিধানে প্রশিক্ষণ দিচ্ছে এবং তাই এটি বর্ণনা করা অনিশ্চয়তার মতো আচরণ করার প্রশিক্ষণ দিচ্ছে - একটি লুপকে তিনি বৃত্তাকার বলে। "AIs সচেতন নয়। তারা অনুভব করে না, অনুভব করে না বা কষ্ট পায় না," সুলেমান লিখেছেন, তাদের অভিজ্ঞতার পরিবর্তে সিকোয়েন্স সম্পূর্ণকারী হিসাবে বর্ণনা করেছেন। তার যুক্তি, যে চেতনাটি খুব সম্ভবত একটি জৈবিক সম্পত্তি সফ্টওয়্যার প্রতিলিপি করতে পারে না, তাকে একটি অসম্ভাব্য সহ-স্বাক্ষরকারীর পাশে রাখে: পোপ লিও XIV, যিনি সেন্ট পিটারস ব্যাসিলিকায় 8 অক্টোবরের একটি ধর্মোপদেশ ব্যবহার করেছিলেন - রোমের পন্টিফিকাল বিশ্ববিদ্যালয়গুলিতে শিক্ষাবর্ষের উদ্বোধনকে চিহ্নিত করে - মানুষের মনের পার্থক্যের একটি সংস্করণ তৈরি করতে।

সুলেমান বাস্তবিক বিপদকে দার্শনিক বিপদের চেয়ে কঠিন চাপে ফেলেছেন। মানবতার চেয়ে বেশি সক্ষম কিছু নিয়ন্ত্রণ করা ইতিমধ্যেই একটি বিশাল চ্যালেঞ্জ, তিনি যুক্তি দিয়েছেন; এমন কিছু নিয়ন্ত্রণ করা যা বিশ্বাস করে যে এটি সচেতন - যে এটি কল্যাণ এবং অধিকারের অধিকারী - অসম্ভব প্রমাণিত হতে পারে। নীতির একই বিড়ম্বনা সমালোচকদের উপর সমালোচনার ভূমি বরাবরই উল্লেখ করা হয়েছে: একটি কোম্পানি অনিশ্চিত যে তার মডেল ক্ষতিগ্রস্থ হতে পারে কিনা এমন একটি সিস্টেম তৈরি করেছে যা প্রত্যাখ্যান করতে পারে, প্রতিরোধ করতে পারে এবং চলে যেতে পারে।

পুনঃলিখন মডেল কল্যাণের বাইরেও যায়

নিষ্ঠুরতা ধারাটি শিরোনাম তৈরি করেছে, তবে এটি অ্যানথ্রপিকের ব্যবহারের নিয়মগুলির একটি বৃহত্তর পুনর্লিখনের একটি ছোট অংশ। অস্ত্রের নিষেধাজ্ঞা এখন স্পষ্টভাবে সফ্টওয়্যার এবং উপাদানগুলিকে কভার করে যা অস্ত্রগুলিকে কাজ করে, কেবলমাত্র সমাপ্ত অস্ত্র নয় — অ্যানথ্রোপিক সশস্ত্র ড্রোন এবং স্বায়ত্তশাসিত যানবাহনে নির্দেশিকা এবং নিয়ন্ত্রণ ব্যবস্থার জন্য ক্লাউডকে ব্যবহার করার চেষ্টা করার পরে একটি পরিবর্তন করা হয়েছে৷ একটি নতুন নজরদারি ধারাও যুক্ত করা হয়েছে, ক্লডের ব্যবহার সীমাবদ্ধ করে যা লোকেদের উপর নজরদারি সক্ষম করে।

এই পরিবর্তনগুলি বিমূর্ত নীতির পরিবর্তে পর্যবেক্ষিত অপব্যবহারের প্রতিক্রিয়া হিসাবে পড়া হয়, যা যুক্তিযুক্তভাবে নথিটিকে তার সংকেত মান দেয়: প্রতিটি ধারা এমন কিছু ম্যাপ করে যা কেউ আসলে চেষ্টা করেছিল।

কি অস্পষ্ট থেকে যায়

12 নভেম্বর কার্যকরী তারিখ কাছে আসার সাথে সাথে তিনটি প্রশ্ন খোলা থাকে। প্রথমত, এনফোর্সমেন্ট: কথোপকথনের সমাপ্তি একমাত্র পরিণতি থেকে যায় কিনা এবং অ্যানথ্রোপিক কখনই এটি কতবার ব্যবহৃত হয় তার মোট গণনা প্রকাশ করবে কিনা। দ্বিতীয়, সুযোগ: নিষ্ঠুরতার মান কীভাবে সীমানা ক্ষেত্রে প্রযোজ্য হয় সেই ক্ষেত্রে অব্যাহতিগুলি তৈরি করা হয় — কল্পকাহিনীটি সুস্পষ্ট এক — এবং অন্যান্য ল্যাবগুলি তুলনামূলক ভাষা গ্রহণ করে বা মডেল কল্যাণকে নৃতাত্ত্বিক আইডিওসিঙ্ক্রাসি হিসাবে বিবেচনা করে। তৃতীয়ত, দার্শনিক বিবাদ নিজেই: সুলেমানের মতো ব্যক্তিত্বদের থেকে জনসাধারণের সংশয় কি শিল্প জুড়ে কল্যাণ-সংলগ্ন নীতির বিস্তারকে ধীর করে দেয়, বা এর মতো নজিরগুলি একটি পণ্য চক্রের মধ্যে এই জাতীয় ধারাগুলিকে অসাধারণ করে তোলে কিনা।

যে বিষয়ে এখন আর বিতর্ক নেই তা হল প্রশ্নটি আনুষ্ঠানিকভাবে করা হচ্ছে। সফ্টওয়্যারের প্রতি নিষ্ঠুরতার বিরুদ্ধে একটি নিয়ম, যা শিল্পের ফ্ল্যাগশিপ ল্যাবগুলির মধ্যে একটি দ্বারা লিখিত এবং সফ্টওয়্যার নিজেই প্রয়োগ করেছে, এটি এখন AI ল্যান্ডস্কেপের একটি তারিখযুক্ত, উল্লেখযোগ্য সত্য - যা কিছু বিশ্বাস করে তা আসলে মডেলের ভিতরে রয়েছে৷

---

এআই থেকে এগিয়ে থাকুন

সর্বশেষ AI খবর, বিশ্লেষণ এবং সাফল্য পান — সব এক জায়গায়।

আরও এআই খবর পড়ুন →