اینتھروپک لینڈ مارک انڈیپنڈنٹ AI سیفٹی آڈٹ ڈیل میں METR ملازم کی سطح تک رسائی دیتا ہے

Anthropic نے METR سے ایک ٹیم دینا شروع کر دی ہے، جو کہ فرنٹیئر AI ماڈلز کا جائزہ لیتی ہے، اپنے اندرونی سسٹمز تک "ملازمین کی طرح رسائی" - کمپنی کے ہارڈویئر، آفس اسپیس، اور ٹولز تقریباً اس کے برابر جو کہ اس کی اپنی رسک اسیسمنٹ ٹیمیں استعمال کرتی ہیں — تاکہ بیرونی گروپ آزادانہ طور پر انتھروپک کے فرنٹیئر کے خطرات کا اندازہ لگا سکے اور اسے شائع کیا جا سکے۔

بدھ کے روز اینتھروپک کے بلاگ پر اعلان کردہ انتظام، AI کمپنیوں کے آڈٹ طرز کے تعلقات سے کہیں زیادہ ہے جو عام طور پر برداشت کرتے ہیں، اور یہ ایک ایسی شق کے ساتھ آتا ہے جو نمایاں ہے: METR اپنے خطرے کی تشخیص کے نتائج شائع کرے گا، اور Anthropic اشاعت کو ویٹو نہیں کر سکتا۔

"ملازمین کی طرح رسائی" کا اصل مطلب کیا ہے۔

METR کے چھ ملازمین کو کمپنی کے ہارڈویئر، دفتری جگہ، اور اندرونی ٹولز اور سسٹمز تک رسائی کے ساتھ آن بورڈ کیا گیا ہے جسے Anthropic بیان کرتا ہے کہ اس کی اپنی رسک اسیسمنٹ ٹیموں کو ملنے والی رقم کے برابر ہے۔ واضح طور پر متعین کیٹیگریز کی ایک چھوٹی تعداد سے باہر — صارفین کے بارے میں ڈیٹا، اٹارنی کلائنٹ کی مراعات یافتہ معلومات، اور ماڈل آرکیٹیکچرز کے بارے میں معلومات — Anthropic کا کہنا ہے کہ اس کے ملازمین کو METR ٹیم کے ساتھ معلومات کا اشتراک کرنے کی ترغیب دی جاتی ہے جس طرح وہ الائنمنٹ رسک پر کام کرنے والے ساتھی ملازم کے ساتھ کرتے ہیں۔

مصروفیت جان بوجھ کر تنگ ہے۔ یہ قابل عمل معاہدوں کے تحت کام کرنے والی ایک چھوٹی ٹیم کا احاطہ کرتا ہے، اور METR کے دیگر ملازمین کو اس ٹیم کے کام سے خاموش کر دیا جاتا ہے - بشمول وہ محققین جو Anthropic کے ساتھ دوسرے منصوبوں پر تعاون کرتے ہیں۔ اینتھروپک نوٹ کرتا ہے کہ سیٹ اپ چند اہل لوگوں کو فراہم کرتا ہے، جو اینتھروپک کے حفاظتی معیارات کے تحت کام کرتے ہیں، کمپنی کے کام کرنے کے طریقے کا قریبی نظریہ۔ یہ دوسری تنظیموں کے لیے اینتھروپک یا اس کے صارفین کی معلومات حاصل کرنے کا چینل نہیں ہے۔

اشاعت کے حقوق، گارڈریلز کے ساتھ

معاہدے کے تحت، METR Anthropic کے خطرے کی سطح، واقعات، یا طریقوں کا اپنا تجزیہ شائع کرے گا۔ انتھروپک اشاعت کو روک نہیں سکتا، لیکن جب معلومات اوپر بیان کی گئی پہلے سے طے شدہ زمروں میں آتی ہے تو اس میں ترمیم کی ضرورت پڑسکتی ہے - اور اینتھروپک خود فیصلہ کرتا ہے کہ ان زمروں میں کیا آتا ہے یا نہیں۔ METR، اپنے حصے کے لیے، حاصل کردہ رسائی اور معلومات کی سطح کے بارے میں کچھ بیانات دینے کا حق محفوظ رکھتا ہے، ایک کاؤنٹر ویٹ جو ریڈیکشن پاور کو خاموش بٹن بننے سے روکنے کے لیے ڈیزائن کیا گیا ہے۔

انتھروپک کیوں کھل رہا ہے۔

یہ اقدام انتھروپک کے اپنے ماڈلز اور حفاظتی طریقوں کے مضبوط آزاد، تیسرے فریق کے جائزے، اور سپر انٹیلی جنس پر وائٹ ہاؤس کے معاہدے پر دستخط کرنے کے لیے پچھلے مہینے کیے گئے وعدے کے بعد کیا گیا ہے، جس میں AI کمپنیوں نے آزاد بیرونی آڈیٹرز یا تشخیص کاروں کے ساتھ شراکت داری کا وعدہ کیا تھا۔ یہ ایک موجودہ تعلق کو بھی بڑھاتا ہے: پچھلے سال کے دوران، اینتھروپک نے اپنی رسک رپورٹس کے کئی جائزوں پر METR کے ساتھ کام کیا۔

METR پورٹ فولیو میں اکیلا نہیں ہے۔ Anthropic کا کہنا ہے کہ وہ SecureBio اور Accenture کے ساتھ بطور تشخیص کار بھی کام کر رہا ہے - Accenture's Faculty کو ستمبر میں کمپنی کا پہلا ایمبیڈڈ ایویلیویٹر نامزد کیا گیا تھا - اور وہ کئی دیگر تنظیموں کے ساتھ ابتدائی بات چیت میں ہے، بشمول Hugging Face۔ وہ پہلے مرحلے کی شراکتیں زیادہ محدود معلومات تک رسائی اور اشاعت کے حقوق کے ساتھ آتی ہیں جبکہ کمپنی یہ سیکھتی ہے کہ کس قسم کی شراکت داری کام کرتی ہے۔

بینک کی نگرانی کی تشبیہ

انتھروپک کی اپنی فریمنگ فنانس سے قرض لیتی ہے۔ بینک اپنے خطرے کی پوزیشنوں کے بارے میں باہر کے لوگوں کی نسبت زیادہ جانتے ہیں، اس لیے ریگولیٹرز سب سے بڑے بینکوں کے اندر کام کرنے کے لیے رہائشی معائنہ کاروں کو تفویض کرتے ہیں۔ اگر کسی بینک کا خطرہ مول لینے سے عوام کو خطرہ ہو سکتا ہے تو فریق ثالث اسے پہلے سے دیکھنے کی کوشش کرتے ہیں۔ کمپنی ایمبیڈڈ تشخیص کو اس منطق کے AI انڈسٹری کے ورژن کے طور پر رکھتی ہے - ایک ایسے شعبے میں مضبوط حفاظتی نگرانی کی طرف ایک قدم جہاں بلڈر ہمیشہ واچ ڈاگ سے زیادہ جانتا ہے۔

یہ سب ایک بیان کردہ مقصد ہے: فرنٹیئر AI کمپنی کے سسٹمز کے بارے میں آزاد جائزہ کاروں کی سمجھ میں آنے والے فرق کو ختم کرنا اور کمپنی خود کیا سمجھتی ہے۔

تشخیص کاروں کی کیا ضرورت ہے۔

اعلان یہ بھی بتاتا ہے کہ اینتھروپک کے خیال میں بامعنی تشخیص کی کیا ضرورت ہے: فرنٹیئر ماڈل کی صلاحیتوں کا اندازہ لگانے میں مہارت، بشمول یہ سمجھنا کہ الائنمنٹ فیکنگ جیسے مظاہر کے ذریعے تشخیص کیسے غلط ہو سکتا ہے۔ آزادی، یعنی جس کمپنی کا جائزہ لیا جا رہا ہے اس پر کوئی ایکویٹی یا مالی یا آپریشنل انحصار نہیں؛ خطرات کا بامعنی جائزہ لینے کے لیے کافی رسائی، جدید ترین ماڈلز سے آگے بڑھ کر ان کی تربیت کیسے کی گئی اور حفاظتی اقدامات کیسے کام کرتے ہیں۔ اور کسی ماڈل یا عمل کے مشاہدات اور جائزوں کو شائع کرنے کی آزادی۔

پوری صنعت کے لیے ایک ٹیسٹ کیس

ترتیب کو اس کی پیداوار سے پرکھا جائے گا۔ نئی رسائی کے نظام کے تحت METR کا پہلا شائع شدہ جائزہ یہ ظاہر کرے گا کہ آیا ملازم جیسی رسائی حقیقی دانتوں کے ساتھ نتائج پیدا کرتی ہے یا رپورٹس کو ترمیم کے زمرے کے ذریعے تراشی جاتی ہے جن کی وضاحت کمپنی خود کرتی ہے۔ شک کرنے والے نوٹ کریں گے کہ انتھروپک زمرے کی حدود کو کنٹرول کرتا ہے اور یہ کہ پائلٹ ٹیم چھوٹی ہے۔ حامی نوٹ کریں گے کہ ایک اشاعت حق انتھروپک ویٹو نہیں کر سکتا فرنٹیئر لیبز کے درمیان حقیقی طور پر ناول ہے۔

کسی بھی طرح، صنعت دیکھ رہی ہے. اگر METR کی ایمبیڈڈ رسائی مواد کے نتائج کو منظر عام پر لاتی ہے اور انہیں بغیر کسی خرابی کے شائع کرتی ہے، تو ماڈل ہر لیب کے لیے واضح ٹیمپلیٹ بن جاتا ہے جس نے وائٹ ہاؤس کے معاہدے پر دستخط کیے — اور پالیسی سازوں کے لیے ایک بینچ مارک جو اس بات پر غور کرتا ہے کہ آیا رضاکارانہ نگرانی لازمی آڈٹ کا متبادل بن سکتی ہے۔ AI سیفٹی پالیسی کی جاری کوریج اور AI انڈسٹری نیوز جو اسے شکل دیتی ہے، AI Buzz Wire ہر ترقی کے ٹوٹتے ہی اس کی پیروی کرتا ہے۔

---

AI سے آگے رہیں

تازہ ترین AI خبریں، تجزیہ اور کامیابیاں حاصل کریں — سب ایک جگہ پر۔

مزید AI خبریں پڑھیں →