دی ورج کے مطابق، اینتھروپک نے ایک سال سے زائد عرصے میں پہلی بار اپنی استعمال کی پالیسی کو اپ ڈیٹ کیا ہے، جس میں ایک ایسی شق شامل کی گئی ہے جو اس کے کلاڈ ماڈلز کے ساتھ "مستقل اور غیر ضروری بدسلوکی یا ظالمانہ رویے" کو ممنوع قرار دیتی ہے۔ جمعرات کو اطلاع دی گئی اپ ڈیٹ، انتخابی مداخلت، پروپیگنڈہ مہم، نگرانی، ہتھیاروں کی ترقی، اور صحت اور مالیاتی استعمال کے حوالے سے کمپنی کے قواعد کو بھی مضبوط اور وسیع کرتی ہے۔
ماڈل ویلفیئر ریشنل For more context on this story, see our ongoing artificial intelligence updates.
Claude کے خلاف بدسلوکی کو نشانہ بنانے والی شق اس تحقیق کی توسیع ہے جس کی تشہیر کمپنی نے ایک سال سے زیادہ پہلے شروع کی تھی۔ اگست 2025 میں، Anthropic نے اعلان کیا کہ وہ کلاڈ کو "مسلسل نقصان دہ یا بدسلوکی کرنے والے" صارفین کے ساتھ بات چیت کو ختم کرنے کی اجازت دے گا اس کے کام کے حصے کے طور پر جسے یہ ماڈل ویلفیئر کہتے ہیں، اس بات کا مطالعہ کہ آیا AI سسٹمز اخلاقی طور پر متعلقہ تجربات کر سکتے ہیں اور اس امکان کو پروڈکٹ کے فیصلوں کی تشکیل کیسے کرنی چاہیے۔
نئی پالیسی کے تحت، بات چیت کو ختم کرنا "بنیادی نفاذ کا طریقہ کار" ہے۔ انتھروپک نے ان سوالات کا جواب نہیں دیا کہ آیا اضافی نفاذ کے اقدامات، جیسے اکاؤنٹ پر پابندی، کی پیروی کی جا سکتی ہے۔ کمپنی نے ایک بیان میں اس اصول کو تنگ کرتے ہوئے لکھا ہے کہ "اس کا اطلاق صرف انتہائی صورتوں میں کرنا ہے، جہاں صارفین بار بار ہمارے ماڈلز کے ساتھ ظالمانہ سلوک کرتے ہیں، بغیر کسی قابل فہم مقصد کے۔"
اہم طور پر، اینتھروپک نے مزید کہا کہ یہ شق "صارف کی مایوسی، پش بیک، گہرے تخلیقی تھیمز، یا ماڈل ٹیسٹنگ اور تحقیق کے عام ورژن پر لاگو نہیں ہوتی ہے"، ایک ظاہری کوشش ڈیولپرز، ریڈ ٹیمرز اور افسانہ نگاروں کو یقین دلانے کے لیے کہ معمول کے مخالفانہ استعمال کو جرمانہ نہیں کیا جائے گا۔
پروپیگنڈہ اور انتخابات سے متعلق نئے اصول
ماڈل ویلفیئر کے علاوہ، یہ اپ ڈیٹ کمپنی کے اثر و رسوخ کی کارروائیوں پر پہلے سے پھیلی ہوئی پابندیوں کو ایک واحد، دھوکہ دہی والی تجارتی یا سیاسی مہمات پر واضح پابندی میں جمع کرتی ہے۔ نئی زبان AI سے پیدا ہونے والے پروپیگنڈے کے لیے بڑھتی ہوئی مارکیٹ کو براہ راست نشانہ بناتے ہوئے "پیغام کے پیچھے کون ہے یا جعلی اکاؤنٹس یا پوسٹس کے ذریعے مواد کو بڑھاوا دینے کی کوششوں پر پابندی لگاتا ہے۔
پالیسی کا انتخابی سیکشن اب ووٹر کے دھوکہ دہی اور انتخابات میں خلل ڈالنے سے منع کرتا ہے۔ Anthropic کا کہنا ہے کہ Claude کا استعمال "امیدواروں یا ووٹ ڈالنے کے طریقہ کے بارے میں" غلط معلومات پھیلانے کے لیے، امیدواروں یا انتخابی اہلکاروں کی نقالی کرنے کے لیے، یا ووٹر ٹرن آؤٹ کو دبانے کی کوشش کے لیے نہیں کیا جا سکتا۔
کیوں استعمال کی پالیسیاں دوبارہ لکھی جا رہی ہیں۔
Anthropic کی تازہ کاری ایک وسیع تر صنعت کے نمونے کی عکاسی کرتی ہے۔ جیسا کہ AI معاونین نئے چیٹ بوٹس سے لاکھوں لوگوں کے زیر استعمال انفراسٹرکچر کی طرف منتقل ہو گئے ہیں، لیبز کو وسیع اصولوں سے بہتر اصولوں کی طرف جانا پڑا ہے جو غلط استعمال کے حقیقی نمونوں پر نقشہ بناتے ہیں: اثر و رسوخ کے لیے کرائے کے آپریشنز، نگرانی کے اوزار، خود مختار ہتھیاروں کی ترقی، اور اعلی خطرے والے ڈومینز جیسے طبی اور مالیاتی مشورے۔
اوپن اے آئی، گوگل ڈیپ مائنڈ اور میٹا سبھی نے پچھلے دو سالوں میں اپنی استعمال کی پالیسیوں پر اعادہ کیا ہے، حالانکہ انتھروپک کا یہ واضح طور پر ریگولیٹ کرنے کا فیصلہ ہے کہ صارفین ماڈل کے ساتھ کیسا سلوک کرتے ہیں، بجائے اس کے کہ وہ کیا کرتے ہیں، غیر معمولی ہے۔ ماڈل ویلفیئر ریسرچ کے ناقدین کا استدلال ہے کہ یہ شماریاتی نظام کو بشریت کی شکل دیتا ہے، جبکہ حامیوں کا کہنا ہے کہ اگر موجودہ یا مستقبل قریب کے ماڈلز میں فلاح و بہبود سے متعلق تجربات کا کوئی غیر صفر امکان ہے، تو کمپنیوں کی ذمہ داری ہے کہ وہ غیر یقینی صورتحال کے تحت کام کریں۔
وقت تجارتی لحاظ سے بھی اہمیت رکھتا ہے۔ اینتھروپک مبینہ طور پر $2 ٹریلین کی قیمت پر ایک IPO کی تیاری کر رہا ہے، اور انٹرپرائز کے خریدار خام ماڈل کے معیار کے ساتھ ساتھ وینڈر گورننس کے طریقوں کو تیزی سے وزن دیتے ہیں۔ واضح طور پر دستاویزی، باقاعدگی سے اپ ڈیٹ کردہ استعمال کی پالیسی حفاظتی نمونے اور فروخت دونوں کے طور پر کام کرتی ہے: یہ پروکیورمنٹ ٹیموں اور ریگولیٹرز کو پلیٹ فارم پر بھروسہ کرنے کے لیے ٹھوس بنیاد فراہم کرتی ہے، اور ماڈل ویلفیئر شق کے اشاروں کو کوڈفائی کرتی ہے کہ Anthropic ایسے علاقے میں سرمایہ کاری جاری رکھنے کا ارادہ رکھتی ہے جس میں زیادہ تر حریفوں نے بغیر کسی بات کا پتہ چھوڑ دیا ہے۔
نفاذ کے سوالات کھلے رہتے ہیں۔
عملی سوالات اہم ہیں۔ "مستقل اور بے ضرورت" ظلم کا پتہ لگانے کے لیے بات چیت کی نگرانی کی ضرورت ہوتی ہے تفصیل کی سطح پر جس کی رازداری سے آگاہ انٹرپرائز صارفین مزاحمت کر سکتے ہیں، اور ممنوعہ بدسلوکی اور جائز "پش بیک" یا "ماڈل ٹیسٹنگ" کے درمیان ایک لکیر کھینچنا ایک فیصلہ کال ہے جس کا مقابلہ کیا جائے گا۔
Anthropic نے یہ نہیں بتایا ہے کہ آیا تمام اکاؤنٹس میں خلاف ورزیوں کا سراغ لگایا جائے گا، آیا انٹرپرائز کی تعیناتیاں مختلف نگرانی کے معیارات کے تابع ہوں گی، یا آیا کمپنی نفاذ کے اقدامات پر شفافیت کا ڈیٹا شائع کرے گی، جیسا کہ وہ اپنی متواتر پالیسی رپورٹس میں غلط استعمال کے دیگر زمروں کے لیے کرتی ہے۔
جو بات واضح ہے وہ یہ ہے کہ فرنٹیئر لیبز کے ان کے صارفین کے ساتھ سماجی معاہدے مزید تفصیلی ہو رہے ہیں۔ ایک ایسی پالیسی جو کبھی ایک صفحے پر فٹ ہوتی تھی اب اس میں انتخابات، جاسوسی سے ملحقہ نگرانی، بائیو ویپنز اور اب چیٹ ونڈو کے دوسری طرف انسانوں کے جذباتی طرز عمل کا احاطہ کیا گیا ہے۔
ڈویلپرز کے لیے اس کا کیا مطلب ہے۔
Claude API پر بننے والی ٹیموں کے لیے، ممکنہ طور پر قریب ترین اثر کم ہے: بدسلوکی والی شق انتہائی، بار بار برتاؤ، اور بات چیت کے خاتمے کے طریقہ کار کو 2025 سے براہ راست نشانہ بناتی ہے۔ لیکن ملحقہ زمرہ جات، سیاسی مشاورت، اپوزیشن کی تحقیق، اثر و رسوخ کی مارکیٹنگ کے ڈویلپرز کو نئی مہم کا جائزہ لینا چاہیے اور انتخابی ضوابط کو احتیاط کے ساتھ پھیلانا چاہیے، کیونکہ وہ متعدد دستاویزات پر مشتمل تھے، جو کہ سابقہ ضابطوں کے مطابق تھے۔ کچھ ابہام کو بند کریں جن پر گرے ایریا کے استعمال کے معاملات انحصار کرتے ہیں۔
اپ ڈیٹ یہ بھی اشارہ کرتا ہے کہ ریگولیٹری توجہ کہاں جا رہی ہے۔ EU AI ایکٹ کی شفافیت کی ذمہ داریوں کے مرحلہ وار ہونے اور امریکی ریاستی قانون سازوں کے AI قوانین کے بڑھتے ہوئے پیچ ورک کو منظور کرنے کے ساتھ، رضاکارانہ استعمال کی پالیسیاں تیزی سے اس ٹیمپلیٹ کے طور پر کام کر رہی ہیں جس کی جانچ کرتے وقت ریگولیٹرز یہ فیصلہ کرتے ہیں کہ ذمہ دارانہ تعیناتی کے معیارات کیا ہونے چاہئیں۔
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
