দ্য ভার্জের মতে, অ্যানথ্রপিক এক বছরেরও বেশি সময় ধরে প্রথমবারের মতো তার ব্যবহার নীতি আপডেট করেছে, একটি বিধান যুক্ত করেছে যা তার ক্লড মডেলগুলির প্রতি "টেকসই এবং অপ্রয়োজনীয় আপত্তিজনক বা নিষ্ঠুর আচরণ" নিষিদ্ধ করে। বৃহস্পতিবার রিপোর্ট করা আপডেটটি নির্বাচনী হস্তক্ষেপ, প্রচার প্রচারণা, নজরদারি, অস্ত্রের উন্নয়ন এবং উচ্চ-স্বাস্থ্য ও আর্থিক ব্যবহার সম্পর্কে কোম্পানির নিয়মগুলিকে একত্রিত ও প্রসারিত করে।
মডেল ওয়েলফেয়ার যুক্তি For more context on this story, see our ongoing AI industry coverage.
ক্লডের প্রতি অপব্যবহার লক্ষ্য করা ধারাটি গবেষণার একটি সম্প্রসারণ যা কোম্পানিটি এক বছরেরও বেশি আগে প্রচার শুরু করেছে। আগস্ট 2025-এ, অ্যানথ্রপিক ঘোষণা করেছিল যে এটি ক্লাউডকে মডেল কল্যাণ বলে তার কাজের অংশ হিসাবে "নিরন্তর ক্ষতিকারক বা অপমানজনক" ব্যবহারকারীদের সাথে কথোপকথন শেষ করার অনুমতি দেবে, এআই সিস্টেমের নৈতিকভাবে প্রাসঙ্গিক অভিজ্ঞতা থাকতে পারে কিনা এবং সেই সম্ভাবনা কীভাবে পণ্যের সিদ্ধান্তগুলিকে রূপ দিতে পারে তা নিয়ে গবেষণা।
নতুন নীতির অধীনে, কথোপকথন বন্ধ করা "প্রাথমিক প্রয়োগ প্রক্রিয়া" হিসাবে রয়ে গেছে। অ্যানথ্রোপিক অতিরিক্ত প্রয়োগকারী ব্যবস্থা যেমন অ্যাকাউন্ট নিষিদ্ধ, অনুসরণ করতে পারে কিনা সে সম্পর্কে প্রশ্নের উত্তর দেয়নি। সংস্থাটি একটি বিবৃতিতে সংকীর্ণভাবে নিয়মটি তৈরি করেছে, লিখেছে যে এটি "কেবলমাত্র চরম ক্ষেত্রে প্রয়োগ করার জন্য বোঝানো হয়েছে, যেখানে ব্যবহারকারীরা বারবার আমাদের মডেলের প্রতি নিষ্ঠুর আচরণ করে, কোন স্পষ্ট উদ্দেশ্য ছাড়াই।"
অত্যন্ত গুরুত্বপূর্ণভাবে, অ্যানথ্রপিক যোগ করেছে যে বিধান "ব্যবহারকারীর হতাশা, পুশব্যাক, অন্ধকার সৃজনশীল থিম, বা মডেল পরীক্ষা এবং গবেষণার সাধারণ সংস্করণগুলিতে প্রযোজ্য নয়," একটি আপাত প্রচেষ্টা ডেভেলপার, রেড-টিমার এবং কথাসাহিত্যিকদের আশ্বস্ত করার জন্য যে নিয়মিত প্রতিকূল ব্যবহারের শাস্তি দেওয়া হবে না।
প্রচার ও নির্বাচনের নতুন নিয়ম
মডেল কল্যাণের বাইরে, আপডেটটি প্রভাব ক্রিয়াকলাপের উপর কোম্পানির পূর্বে বিক্ষিপ্ত বিধিনিষেধকে একক, প্রতারণামূলক বাণিজ্যিক বা রাজনৈতিক প্রচারণার উপর সুস্পষ্ট নিষেধাজ্ঞায় একত্রিত করে। নতুন ভাষা সীমাবদ্ধ করে "কোন বার্তার পিছনে কে আছে তা অস্পষ্ট করার প্রচেষ্টা বা জাল অ্যাকাউন্ট বা পোস্টের মাধ্যমে বিষয়বস্তু প্রসারিত করা," সরাসরি এআই-উত্পাদিত প্রচারের ক্রমবর্ধমান বাজারকে লক্ষ্য করে।
নীতির নির্বাচনী বিভাগটি এখন ভোটারদের প্রতারণা এবং নির্বাচনের ব্যাঘাতকে নিষিদ্ধ করে। অ্যানথ্রোপিক বলেছেন ক্লদকে "প্রার্থী বা নির্বাচনী কর্মকর্তাদের ছদ্মবেশী করার জন্য, বা ভোটারদের ভোট দমন করার চেষ্টা করার জন্য "প্রার্থী বা কীভাবে ভোট দিতে হবে" সম্পর্কে ভুল তথ্য ছড়ানোর জন্য ব্যবহার করা যাবে না।
কেন ব্যবহারের নীতিগুলি পুনর্লিখন করা হচ্ছে
অ্যানথ্রপিকের রিফ্রেশ একটি বিস্তৃত শিল্প প্যাটার্ন প্রতিফলিত করে। যেহেতু AI সহকারীরা অভিনব চ্যাটবট থেকে লক্ষ লক্ষ লোকের ব্যবহার করা পরিকাঠামোতে স্থানান্তরিত হয়েছে, ল্যাবগুলিকে বিস্তৃত নীতি থেকে সূক্ষ্ম নিয়মের দিকে যেতে হয়েছে যা প্রকৃত অপব্যবহারের ধরণগুলিকে মানচিত্র করে: ভাড়ার জন্য প্রভাব, নজরদারি টুলিং, স্বায়ত্তশাসিত অস্ত্র বিকাশ এবং উচ্চ-ঝুঁকির ডোমেন যেমন চিকিৎসা ও আর্থিক পরামর্শ।
ওপেনএআই, গুগল ডিপমাইন্ড এবং মেটা গত দুই বছরে তাদের ব্যবহার নীতিতে পুনরাবৃত্তি করেছে, যদিও ব্যবহারকারীরা মডেলটির সাথে কীভাবে আচরণ করে তা স্পষ্টভাবে নিয়ন্ত্রিত করার অ্যানথ্রপিকের সিদ্ধান্ত, শুধুমাত্র তারা যা করে তা না করে, অস্বাভাবিক থেকে যায়। মডেল ওয়েলফেয়ার রিসার্চের সমালোচকরা যুক্তি দেন যে এটি পরিসংখ্যান ব্যবস্থাকে নৃতাত্ত্বিক রূপ দেয়, যখন প্রবক্তারা দাবি করেন যে যদি কোনো অ-শূন্য সম্ভাবনা বর্তমান বা নিকট-ভবিষ্যত মডেলের কল্যাণ-প্রাসঙ্গিক অভিজ্ঞতা থাকে, তবে কোম্পানিগুলির অনিশ্চয়তার মধ্যে কাজ করার বাধ্যবাধকতা রয়েছে।
সময় বাণিজ্যিকভাবেও গুরুত্বপূর্ণ। অ্যানথ্রপিক $2 ট্রিলিয়ন মূল্যের মূল্যায়নে একটি আইপিওর জন্য প্রস্তুতি নিচ্ছে বলে জানা গেছে, এবং এন্টারপ্রাইজ ক্রেতারা কাঁচা মডেলের মানের পাশাপাশি বিক্রেতা শাসনের অনুশীলনকে ক্রমবর্ধমানভাবে ওজন করে। একটি সুস্পষ্টভাবে নথিভুক্ত, নিয়মিত আপডেট করা ব্যবহার নীতি একটি নিরাপত্তা নিদর্শন এবং একটি বিক্রয় উভয়ই হিসাবে কাজ করে: এটি সংগ্রহকারী দল এবং নিয়ন্ত্রকদের প্ল্যাটফর্মের উপর আস্থা রাখার জন্য একটি সুনির্দিষ্ট ভিত্তি দেয় এবং মডেল ওয়েলফেয়ার ক্লজ সংকেতগুলিকে কোডিফাই করে যে অ্যানথ্রোপিক এমন একটি অঞ্চলে বিনিয়োগ রাখতে চায় যা বেশিরভাগ প্রতিযোগীই অসম্পূর্ণ রেখে গেছে৷
এনফোর্সমেন্ট প্রশ্ন খোলা থাকে
ব্যবহারিক প্রশ্নগুলো তাৎপর্যপূর্ণ। "টেকসই এবং অপ্রয়োজনীয়" নিষ্ঠুরতা সনাক্ত করার জন্য গোপনীয়তা-সচেতন এন্টারপ্রাইজ গ্রাহকরা প্রতিরোধ করতে পারে এমন বিশদ স্তরে কথোপকথনগুলি পর্যবেক্ষণ করা প্রয়োজন, এবং নিষিদ্ধ অপব্যবহার এবং বৈধ "পুশব্যাক" বা "মডেল টেস্টিং" এর মধ্যে একটি রেখা আঁকা একটি রায় কল যা সম্ভবত প্রতিদ্বন্দ্বিতা করা হবে৷
অ্যানথ্রপিক বলেনি যে অ্যাকাউন্টগুলি জুড়ে লঙ্ঘনগুলি ট্র্যাক করা হবে কিনা, এন্টারপ্রাইজ স্থাপনগুলি বিভিন্ন পর্যবেক্ষণের মানদণ্ডের সাপেক্ষে হবে কি না, বা সংস্থাটি তার পর্যায়ক্রমিক নীতি প্রতিবেদনে অপব্যবহারের অন্যান্য বিভাগের মতো করে প্রয়োগকারী ক্রিয়াগুলিতে স্বচ্ছতা ডেটা প্রকাশ করবে কিনা।
যা স্পষ্ট তা হল যে তাদের ব্যবহারকারীদের সাথে ফ্রন্টিয়ার ল্যাবগুলির সামাজিক চুক্তিগুলি আরও বিশদ হয়ে উঠছে। একটি নীতি যা একসময় একটি একক পৃষ্ঠায় মাপসই ছিল এখন নির্বাচন, গুপ্তচরবৃত্তি-সংলগ্ন নজরদারি, জৈব অস্ত্র এবং এখন, চ্যাট উইন্ডোর অন্য দিকে মানুষের সংবেদনশীল আচরণকে কভার করে।
ডেভেলপারদের জন্য এর অর্থ কী
Claude API-তে তৈরি করা দলগুলির জন্য, নিকট-মেয়াদী প্রভাব সম্ভবত ন্যূনতম: আপত্তিজনক-আচরণমূলক ধারাটি চরম, পুনরাবৃত্তিমূলক আচরণকে লক্ষ্য করে এবং কথোপকথন-পরিসমাপ্তি পদ্ধতি যা এটি আনুষ্ঠানিক করে 2025 সাল থেকে লাইভ হয়েছে। কিন্তু সংলগ্ন বিভাগ, রাজনৈতিক পরামর্শ, বিরোধী গবেষণা, প্রভাব বিপণনের বিকাশকারীদের নতুন প্রচারণা এবং নির্বাচনী নিয়মগুলি সতর্কভাবে পর্যালোচনা করা উচিত, যেহেতু তারা পূর্ববর্তী নির্বাচনী নিয়মগুলি জুড়ে সতর্কতামূলকভাবে প্রচার করেছে এবং একাধিক নথি জুড়ে দিয়েছে। কিছু অস্পষ্টতা বন্ধ করুন যা ধূসর-এরিয়া ব্যবহারের ক্ষেত্রে নির্ভর করে।
আপডেটটিও নির্দেশ করে যে নিয়ন্ত্রক মনোযোগ কোথায় যাচ্ছে। EU AI আইনের স্বচ্ছতার বাধ্যবাধকতাগুলি পর্যায়ক্রমে এবং মার্কিন রাজ্য আইনসভাগুলি AI বিধিগুলির একটি ক্রমবর্ধমান প্যাচওয়ার্ক পাস করার সাথে সাথে, স্বেচ্ছাসেবী ব্যবহারের নীতিগুলি ক্রমবর্ধমান টেমপ্লেট হিসাবে কাজ করছে যা নিয়ন্ত্রকেরা দায়িত্বশীল নিয়োগের নিয়মগুলি কী হওয়া উচিত তা সিদ্ধান্ত নেওয়ার সময় যাচাই করে।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
