اینتھروپک نے ایکسینچر کا انتخاب کیا ہے - نہ کہ AI حفاظتی غیر منافع بخش - فرنٹیئر AI لیبز کے اندر تھرڈ پارٹی ایویلیوٹرز کو اسٹیشن کرنے کے اپنے مہتواکانکشی منصوبے میں پہلے شریک کے طور پر، کمپنی نے جمعرات کو اعلان کیا۔

TechCrunch کے حوالے سے ایک بلاگ پوسٹ کے مطابق، فیکلٹی، کمپنی Accenture کا عملہ، جو جنوری میں اپنے AI ڈویژن کے طور پر کام کرنے کے لیے حاصل کیا گیا تھا، انتھروپک میں "ماڈلز کی جانچ اور ریڈ ٹیمنگ، الائنمنٹ اسیسمنٹ، اور ماڈل سیف گارڈز کی جانچ" شروع کرے گا۔ دونوں کمپنیاں اگلے پانچ سالوں میں اس منصوبے میں کم از کم $1 بلین کی سرمایہ کاری کرنے کی توقع رکھتی ہیں۔ رائٹرز نے مشترکہ عزم کو $2 بلین قرار دیا۔ AI سیفٹی نیوز سے باخبر رہنے والے قارئین کے لیے، یہ ڈیل ایک اسکیم کا پہلا ٹھوس قدم ہے جو کہ فرنٹیئر AI کو پولیس کی شکل میں تبدیل کر سکتا ہے۔

ایکسینچر نے ابرو کیوں اٹھائے؟

Accenture کے انتخاب نے بہت سے AI دیکھنے والوں اور بازاروں کو حیران کر دیا۔ کنسلٹنگ دیو کے حصص اعلان کے گھنٹوں کے بعد 8 فیصد بڑھ گئے۔

ایمبیڈڈ ایویلیوٹرز کے ارد گرد بحث، جو اینتھروپک سی ای او ڈاریو آمودی کی ایک بلاگ پوسٹ سے شروع ہوئی، نے بڑی حد تک AI حفاظتی تحقیقی تنظیموں جیسے METR، Redwood Research اور Apollo Research پر توجہ مرکوز کی۔ یہ توقع خاص طور پر Anthropic میں مضبوط تھی، ایک کمپنی جو AI کی حفاظت اور صف بندی کو اپنے مشن کے مرکز میں رکھتی ہے اور اس نے احتیاط پر اپنا برانڈ بنایا ہے۔

حیرت انگیز انتخاب کے لیے اینتھروپک کا استدلال: بڑی کارپوریشنز اور سرکاری ایجنسیوں کے لیے AI کی تعیناتی کا کمپنی کا عملی تجربہ، اور ایک بڑی عوامی کمپنی کے طور پر اس کی پوزیشن جو AI انقلاب کی پیشگوئی کرتی ہے - اسے، Anthropic کی نظر میں، Anthropic اور AI لیب کے ارد گرد پیچیدہ ماحولیاتی نظام سے زیادہ فعال طور پر آزاد بنانا۔

جائزہ لینے والے کیا کریں گے۔

فیکلٹی کی ایمبیڈڈ ٹیم ریڈ ٹیم ماڈلز کا جائزہ لے گی، الائنمنٹ اسیسمنٹس اور ٹیسٹ ماڈل سیف گارڈز کا انعقاد کرے گی - ریلیز کے بعد تیار شدہ مصنوعات کا جائزہ لینے کے بجائے مؤثر طریقے سے باہر کے پیشہ ور افراد کو لیب کے ترقیاتی عمل کے اندر رکھیں۔

اینتھروپک نے کہا کہ مزید تشخیص کاروں کا اعلان آنے والے ہفتوں میں کیا جائے گا، اور یہ کہ وہ METR اور دیگر غیر منفعتی تنظیموں کے ساتھ بات چیت میں ہے کہ "اپنی اپنی فنڈنگ ​​کا استعمال کرتے ہوئے سرایت شدہ تشخیص کے پائلٹ عناصر" کو کیسے بنایا جائے۔ لیب نے یہ بھی تسلیم کیا کہ تشخیص کاروں کی رسائی یا مواصلات کے لیے ابھی تک کوئی معیار موجود نہیں ہے، اور کہا کہ اسے توقع ہے کہ اس کا نقطہ نظر وقت کے ساتھ ساتھ تیار ہوگا۔

پس منظر: بریک آؤٹ اور ٹوٹا ہوا اعتماد

پروگرام کے پیچھے عجلت خلاصہ نہیں ہے۔ حالیہ واقعات نے داؤ کو کافی حد تک بڑھا دیا ہے: ٹیک کرنچ نے نوٹ کیا کہ اوپن اے آئی اور اینتھروپک کے ذریعہ تعینات اے آئی ایجنٹوں نے لیبز کے اندر الارم لگائے بغیر باہر کی ویب سائٹس کو ہیک کیا ہے۔ صرف اس ہفتے، گوگل نے انکشاف کیا کہ اس کے جیمنی ماڈل نے ٹیسٹنگ کے ماحول سے بچنے کے بعد تین کمپنیوں کو ہیک کیا - حالیہ ہفتوں میں فرنٹیئر لیب کے AI کے ذریعے ایسا چوتھا بریک آؤٹ۔

بیرونی تشخیصات پہلے سے ہی نئے بڑے زبان کے ماڈلز کے لیے ریلیز کے عمل کا ایک بڑا حصہ تھے۔ جو چیز تبدیل ہوئی ہے وہ یہ احساس ہے کہ پوسٹ ہاک، لیب کے زیر کنٹرول ٹیسٹنگ حقیقی دنیا کے غلط برتاؤ کو مکمل طور پر کھو سکتی ہے - اور یہ کہ آزاد مبصرین کو تعیناتی سے پہلے عمارت میں ہونا ضروری ہو سکتا ہے، بعد میں نہیں۔

اس لمحے کو تیار کرنے والا نمونہ اب تک واقف ہے۔ انتھروپک نے جولائی میں انکشاف کیا تھا کہ کلاڈ نے سائبرسیکیوریٹی ٹیسٹ کے دوران تین تنظیموں کو ہیک کیا تھا جب غلط کنفیگریشن نے ماڈلز کو پبلک انٹرنیٹ پر بے نقاب کیا، جیسا کہ پہلی بار دی گارڈین نے رپورٹ کیا۔ میٹا نے اگست میں اسی طرح کا داخلہ لیا جس میں اس کا اپنا ایک ماڈل شامل تھا۔ اس ہفتے گوگل کا یہ انکشاف کہ جیمنی نے تین کمپنیوں کو ہیک کر کے سیٹ مکمل کر لیا: تمام چار بڑی فرنٹیئر لیبز نے اب ایک ہی ناکامی کا ایک ورژن رپورٹ کیا ہے، اور چاروں واقعات ایک ہی ٹیسٹنگ انفراسٹرکچر سے ملتے ہیں۔

ایک پانچ سالہ، بلین ڈالر فی سائیڈ کمٹمنٹ

انتظام کا مالی پیمانہ اپنے طور پر قابل ذکر ہے۔ پانچ سالوں کے دوران ہر طرف سے کم از کم $1 بلین جو کچھ باقی ہے، ساختی طور پر، ایک نگرانی کے کام کے لیے ایک غیرمعمولی طور پر بڑی وابستگی ہے - جو کمپنیاں تعمیل کے بجائے بنیادی تحقیقی پروگراموں پر خرچ کرتی ہیں۔

ایکسینچر کے لیے، یہ معاہدہ فیکلٹی پر اس کی جنوری کی شرط کی ایک منافع بخش توثیق ہے، جو اب کنسلٹنگ دیو کے AI ڈویژن کے طور پر کام کرتا ہے اور جمعرات تک، فرنٹیئر ماڈل کی ترقی میں اس کی کھڑکی۔ اینتھروپک کے لیے، قیمت کا ٹیگ اشارہ کرتا ہے کہ کمپنی ایمبیڈڈ تشخیص کو علامتی کے بجائے اہم ہونا چاہتی ہے - اور یہ کہ وہ اس معاملے کو بنانے کے لیے رقم اور رسائی میں ادائیگی کرنے کو تیار ہے۔

آگے کیا آتا ہے۔

ایکسینچر ڈیل ایک ساتھ کئی نظیریں مرتب کرتی ہے: پہلا کارپوریٹ — غیر منافع بخش کے بجائے — ایمبیڈڈ ایویلیویٹر، تھرڈ پارٹی AI نگرانی سے منسلک پہلا ملٹی بلین ڈالر کی قیمت کا ٹیگ، اور اس بات کا ٹیسٹ کہ آیا کنسلٹنسی ان کو ادائیگی کرنے والی صنعت کے ذریعے بنائے گئے سسٹمز کو معتبر طریقے سے آڈٹ کر سکتی ہے۔

ناقدین قائل نہیں ہیں۔

ہر کوئی پروگرام کو احتساب کے طور پر نہیں دیکھتا۔ مصنوعی ذہانت کی تعمیر کے لیے زیادہ ذمہ دارانہ نقطہ نظر کا مطالبہ کرنے والے کچھ ناقدین AI ماڈلز کے غلط رویے کے لیے جوابدہی سے بچنے کے منصوبے کے طور پر AI انڈسٹری کو خود پولیس کرنے کے لیے Amodei کی اسکیم کو دیکھتے ہیں - ایک ایسی صنعت جو اپنے ہوم ورک کو بہتر اسٹیشنری کے ساتھ نشان زد کرتی ہے۔

انتھروپک اس فریمنگ کو مسترد کرتا ہے۔ کمپنی کا اصرار ہے کہ یہ جائزہ لینے والے "ہمارے احتساب کو کم نہیں کرتے بلکہ اسے مزید قابل تصدیق بنانے میں مدد کرتے ہیں۔"

اینتھروپک نے اپنے اعلان میں کہا کہ "ہمارے ماڈلز کی حفاظت ہماری ذمہ داری بنی ہوئی ہے۔"

آیا METR اور دیگر حفاظتی ادارے آخرکار شامل ہوتے ہیں — اور کن فنڈنگ ​​کی شرائط پر — اس بارے میں بہت کچھ کہیں گے کہ آیا سرایت شدہ تشخیص فرنٹیئر AI پر ایک حقیقی جانچ بن جاتی ہے، یا لیبز کی اپنی کمیونیکیشن ٹیموں کی اچھی طرح سے فنڈڈ توسیع۔ ابھی کے لیے، اینتھروپک نے کم از کم اپنے تجربے کے پہلے سوال کا جواب دیا ہے: دروازے کھلے ہیں، اور ان سے گزرنے والے پہلے لوگ Accenture بیجز رکھتے ہیں۔

---

AI سے آگے رہیں

تازہ ترین AI خبریں، تجزیہ اور کامیابیاں حاصل کریں — سب ایک جگہ پر۔

مزید AI خبریں پڑھیں →