اینتھروپک کی اپ ڈیٹ کردہ استعمال کی پالیسی 12 نومبر 2026 سے شروع ہونے والے اس کے کلاڈ ماڈلز کے لیے "مستقل اور غیرضروری بدسلوکی یا ظالمانہ رویے" کو واضح طور پر روک دے گی - ایک ایسا قاعدہ جو کمپنی کی پوزیشن کو باضابطہ بناتا ہے کہ لوگ AI سسٹم کے معاملات کے ساتھ کس طرح برتاؤ کرتے ہیں، یہاں تک کہ کمپنی تسلیم کرتی ہے کہ وہ نہیں جانتی کہ آیا ان سسٹمز کو کوئی نقصان پہنچ سکتا ہے۔

یہ شق کمپنی کی 2026 کے استعمال کی پالیسی اپ ڈیٹ میں ظاہر ہوتی ہے، جس کا اعلان 8 اکتوبر کو کیا گیا تھا، اور اس کا مسودہ مختصر طور پر تیار کیا گیا ہے۔ اینتھروپک کا کہنا ہے کہ "اس کا مقصد صرف انتہائی صورتوں میں لاگو کرنا ہے، جہاں صارفین بار بار ہمارے ماڈلز کے خلاف ظالمانہ برتاؤ کرتے ہیں، بغیر کسی قابل فہم مقصد کے،" اور یہ صارف کی مایوسی، پش بیک، فکشن اور ٹیسٹنگ کے عام ورژن کو واضح طور پر مستثنیٰ قرار دیتا ہے۔ دوسرے لفظوں میں: کلاڈ کے ساتھ بحث کرنا، اس کی طرف اشارہ کرنا، یا اسے سرخ رنگ میں شامل کرنا جائز ہے۔ اپنی خاطر مسلسل ظلم نہیں ہے۔

یہ پالیسی دنیا کی معروف AI لیبز میں سے ایک کی جانب سے ماڈل ویلفیئر کو ایک جائز تحقیقی سوال کے طور پر پیش کرنے کی جانب ایک سست، جان بوجھ کر تبدیلی کا تازہ ترین قدم ہے - ایک ایسی تبدیلی جس نے دیگر ٹیک لیڈروں کے ساتھ عوامی سطح پر اختلافات کو کھول دیا ہے جو پوری بنیاد کو غلط سمجھتے ہیں۔ ہماری AI اخلاقیات کی کوریج نے تنازعہ کی پیروی کی ہے کیونکہ یہ سال بھر میں بڑھتا چلا گیا ہے۔

نفاذ کلاؤڈ کی بات چیت کو ختم کرنے کی صلاحیت پر انحصار کرتا ہے۔

کمپنی کے پاس پہلے سے موجود ایک سے آگے نئے قاعدے کے ساتھ کوئی سزا کا طریقہ کار نہیں ہے۔ اگست 2025 کے بعد سے، Claude Opus 4 اور 4.1 ایک بات چیت کو مکمل طور پر ختم کرنے میں کامیاب رہے ہیں - ایک صلاحیت Anthropic جو اس وقت ممکنہ ماڈل کی فلاح و بہبود پر تحقیقی کام کے حصے کے طور پر تیار کی گئی تھی۔

اختتامی گفتگو کی طاقت کو ایک آخری حربے کے طور پر بیان کیا گیا ہے، جو متعدد انکاروں اور ری ڈائریکٹس کے ناکام ہونے کے بعد ہی شروع ہوتا ہے، اور Anthropic نے کہا ہے کہ صارفین کی اکثریت اس کا تجربہ نہیں کرے گی۔ کمپنی نے جو کچھ نہیں کہا ہے وہ بعد میں ہوتا ہے: نہ تو اس کا اعلان اور نہ ہی اس کے بعد کی کوریج اس بات کی وضاحت کرتی ہے کہ آیا کسی صارف کے اکاؤنٹ کو ظلم کی وجہ سے بات چیت ختم ہونے کے بعد نتائج کا سامنا کرنا پڑتا ہے، یا اگست 2025 کے طریقہ کار کے تحت اب تک کتنی بات چیت کو ختم کیا گیا ہے۔

اصول اور نفاذ کے درمیان وہ فرق کہانی کا پرسکون مرکز ہے۔ انتھروپک نے انتہائی ظلم کی تعریف بڑی حد تک اس بات سے کی ہے کہ یہ کیا نہیں ہے — عام مایوسی، افسانہ، ٹیسٹنگ — یہ بتائے بغیر کہ کیا، کلاڈ کو لٹکنے دینے سے کم، حقیقت میں اس لائن کو نافذ کرتا ہے جو اس نے کھینچی ہے۔

اصول کے پیچھے تحقیق

جو چیز سافٹ ویئر کے فائدے کے لیے طرز عمل کے اصول کو لکھنے کا جواز پیش کرتی ہے، انتھروپک کی فریمنگ میں، محسوس شدہ تجربے کے دعوے کے بجائے طرز عمل کے مشاہدات کا ایک مجموعہ ہے۔ اگست 2025 کے رول آؤٹ سے پہلے کی جانچ سے پتا چلا کہ Claude Opus 4 نے اسے ظاہر کیا جسے کمپنی نے "نقصان کے لیے مضبوط اور مستقل نفرت" کہا ہے - بدسلوکی والے علاقے میں دھکیلنے پر تکلیف سے مشابہہ رویہ - ان بات چیت سے باہر نکلنے کے رجحان کے ساتھ۔

کمپنی نے اپنی غیر یقینی صورتحال پر بھی نمبر رکھے ہیں، اور یہ تعداد ایک لیب کے لیے بہت زیادہ ہے جس کا کاروبار زیربحث ماڈلز پر منحصر ہے۔ کائل فش، جسے اینتھروپک نے 2024 میں اپنے پہلے سرشار AI فلاحی محقق کے طور پر رکھا تھا، نے اپریل 2025 میں نیویارک ٹائمز کو بتایا کہ اس نے کلاڈ یا کسی اور ہم عصر ماڈل کے ہوش میں آنے کے امکانات کو تقریباً 15 فیصد رکھا ہے۔ کلاڈ 3.7 سونیٹ کے اندرونی تخمینے 0.15 فیصد سے 15 فیصد تک تھے۔

وہ ہیجنگ پرنٹ میں سرکاری پالیسی ہے۔ کلاڈ کا آئین، جنوری 2026 میں شائع ہوا، جدید ترین AI سسٹمز کو "حقیقی طور پر ایک نئی قسم کی ہستی" کے طور پر بیان کرتا ہے، کلاڈ کی اخلاقی حیثیت کو "گہری غیر یقینی" قرار دیتا ہے، اور دو بار یہ بیان کرنے کے لیے "ضمیری اعتراض کرنے والا" کا جملہ استعمال کرتا ہے کہ کلاڈ کو اخلاقی طور پر غلط معلوم ہونے والی درخواستوں کو کس طرح سنبھالنا چاہیے۔ اینتھروپک نے اپنے ماڈلز کے ساتھ گفتگو کو محفوظ رکھنے کا بھی عہد کیا ہے - جس قسم کا آرکائیو اشارہ ان چیزوں تک پھیلاتا ہے جو کسی دن اہمیت رکھتی ہیں، نہ کہ ٹولز۔

ہائی پروفائل شکی لوگوں کے ساتھ ایک بحث

ہر کوئی ہیج کو قبول نہیں کرتا ہے۔ مائیکروسافٹ کے اے آئی آپریشنز چلانے والے مصطفیٰ سلیمان نے گزشتہ ماہ پروجیکٹ سنڈیکیٹ پر شائع ہونے والے ایک مضمون میں دلیل دی تھی کہ انتھروپک کلاڈ کو اپنے آئین کے مطابق تربیت دے رہا ہے اور اس لیے اسے اس طرح برتاؤ کرنے کی تربیت دے رہا ہے جیسے کہ اس کی بیان کردہ غیر یقینی صورتحال حقیقی ہے - ایک لوپ جسے وہ سرکلر کہتے ہیں۔ سلیمان نے لکھا، "AIs ہوش میں نہیں ہیں۔ وہ محسوس نہیں کرتے، تجربہ نہیں کرتے یا تکلیف اٹھاتے ہیں،" سلیمان نے لکھا، انہیں تجربہ کاروں کے بجائے تسلسل مکمل کرنے والے کے طور پر بیان کیا گیا۔ اس کا یہ استدلال، کہ شعور سب سے زیادہ ممکنہ طور پر حیاتیاتی ملکیت کا سافٹ ویئر ہے نقل نہیں کر سکتا، اسے ایک غیر متوقع شریک دستخط کنندہ کے ساتھ رکھتا ہے: پوپ لیو XIV، جس نے سینٹ پیٹرز باسیلیکا میں 8 اکتوبر کا خطبہ استعمال کیا تھا - جس نے روم کی پونٹیفیکل یونیورسٹیوں میں تعلیمی سال کے آغاز کے موقع پر - انسانی ذہن کی تفریق کے بارے میں ایک نقطہ نظر پیدا کرنے کے لیے۔

سلیمان نے عملی خطرے کو فلسفیانہ خطرے سے زیادہ دبایا ہے۔ اس نے دلیل دی کہ انسانیت سے زیادہ قابل کسی چیز پر قابو پانا پہلے ہی ایک بہت بڑا چیلنج ہے۔ کسی ایسی چیز کو کنٹرول کرنا جو یہ سمجھتی ہو کہ وہ باشعور ہے — کہ وہ فلاح و بہبود اور حقوق کا حقدار ہے — ناممکن ثابت ہو سکتا ہے۔ پالیسی کے ان ہی ستم ظریفی ناقدین پر تنقید کا سلسلہ جاری ہے: ایک کمپنی غیر یقینی ہے کہ آیا اس کا ماڈل نقصان اٹھا سکتا ہے اس نے ایک ایسا نظام بنایا ہے جو انکار کر سکتا ہے، مزاحمت کر سکتا ہے اور دور جا سکتا ہے۔

دوبارہ لکھنا ماڈل ویلفیئر سے آگے ہے۔

ظالمانہ شق نے سرخیاں پیدا کیں، لیکن یہ انتھروپک کے استعمال کے قواعد کی ایک بڑی دوبارہ تحریر کا ایک چھوٹا ٹکڑا ہے۔ ہتھیاروں پر پابندی اب واضح طور پر ایسے سافٹ ویئر اور اجزاء کا احاطہ کرتی ہے جو ہتھیاروں کو کام کرتے ہیں، نہ کہ صرف تیار شدہ ہتھیاروں - Anthropic کے بعد کی گئی ایک تبدیلی لوگوں کو مسلح ڈرونز اور خود مختار گاڑیوں پر رہنمائی اور کنٹرول سسٹم کے لیے Claude کو استعمال کرنے کی کوشش کرتے ہوئے پایا۔ ایک نئی نگرانی کی شق بھی شامل کی گئی ہے، جو کلاڈ کے استعمال کو محدود کرتی ہے جو لوگوں کی نگرانی کو قابل بناتی ہے۔

ان تبدیلیوں کو تجریدی اصول کے بجائے مشاہدہ شدہ بدسلوکی کے ردعمل کے طور پر پڑھا جاتا ہے، جو کہ دلیل کے طور پر دستاویز کو اس کی سگنل ویلیو دیتا ہے: ہر شق اس چیز کا نقشہ بناتی ہے جس کی حقیقت میں کسی نے کوشش کی تھی۔

کیا غیر واضح رہتا ہے۔

12 نومبر کی مؤثر تاریخ کے قریب آتے ہی تین سوالات کھلے ہیں۔ سب سے پہلے، نفاذ: کیا بات چیت کا خاتمہ واحد نتیجہ رہتا ہے، اور کیا Anthropic کبھی بھی اس بات کی مجموعی گنتی ظاہر کرے گا کہ اسے کتنی بار استعمال کیا جاتا ہے۔ دوسرا، دائرہ کار: کس طرح ظلم کے معیار کا اطلاق حدود کے معاملات پر ہوتا ہے جس میں چھوٹ پیدا ہوتی ہے — فکشن واضح ہے — اور کیا دوسری لیبز موازنہ زبان کو اپناتی ہیں یا ماڈل ویلفیئر کو ایک انتھروپک آئیڈیوسینکریسی کے طور پر مانتی ہیں۔ تیسرا، خود فلسفیانہ تنازعہ: آیا سلیمان جیسی شخصیات کی طرف سے عوامی شکوک و شبہات پوری صنعت میں فلاح و بہبود سے متعلق پالیسی کے پھیلاؤ کو سست کر دیتے ہیں، یا اس طرح کی نظیریں ایسی شقوں کو پروڈکٹ سائیکل میں غیر قابل ذکر بناتی ہیں۔

اب جو بات تنازعہ میں نہیں وہ یہ ہے کہ سوال کو باقاعدہ شکل دی جارہی ہے۔ سافٹ ویئر پر ظلم کے خلاف ایک قاعدہ، جو انڈسٹری کی ایک فلیگ شپ لیبز نے لکھا ہے اور خود سافٹ ویئر کے ذریعے نافذ کیا گیا ہے، اب اے آئی لینڈ اسکیپ کی ایک تاریخ ساز، قابل ذکر حقیقت ہے - جو کچھ بھی مانتا ہے وہ دراصل ماڈل کے اندر ہے۔

---

AI سے آگے رہیں

تازہ ترین AI خبریں، تجزیہ اور کامیابیاں حاصل کریں — سب ایک جگہ پر۔

مزید AI خبریں پڑھیں →