فرنٹیئر AI ماڈلز کی حفاظت کی جانچ کے لیے ذمہ دار امریکی سرکاری دفتر کے عملے کو حال ہی میں غیر رسمی طور پر وائٹ ہاؤس کے دفتر میں رپورٹ کرنے کو کہا گیا ہے، ایسوسی ایٹڈ پریس نے ہفتے کے روز رپورٹ کیا، جس سے ملک کے اعلیٰ AI حفاظتی جائزہ لینے والے کی آزادی کے بارے میں تازہ خدشات پیدا ہوئے۔
اے پی کے مطابق، دفتر، سنٹر فار ایڈوانسنگ انوویشن اینڈ سٹینڈرڈز فار سپر انٹیلی جنس – جسے CAISSI کے نام سے جانا جاتا ہے اور کامرس ڈیپارٹمنٹ کے اندر واقع ہے – نے بھی اپنی تحقیق کو شائع کرنا بند کر دیا ہے۔ یہ رپورٹ کنٹرول سے باہر AI ایجنٹوں کے بارے میں کہانیوں کے سلسلے میں بڑھتی ہوئی عوامی بے چینی کے درمیان اترتی ہے، اور اس میں ایک ایسے واچ ڈاگ کی وضاحت کی گئی ہے جو کم عملہ، لیڈر لیس اور تیزی سے خاموش ہے۔ For more context on this story, see our ongoing AI trends.
CAISSI کیا کرتا ہے — اور AP نے کیا پایا
CAISSI پر نئی AI پیشکشوں کے عوام تک پہنچنے سے پہلے ان کی حفاظت کا جائزہ لینے کا الزام عائد کیا گیا ہے، ایک مینڈیٹ جس میں یہ جانچنا شامل ہے کہ فرنٹیئر ماڈل سائبر حملوں اور دیگر سنگین نقصانات کے غلط استعمال کے خلاف کس حد تک مزاحمت کرتے ہیں۔ اے پی کے مطابق، مرکز کے عملے کو "حال ہی میں" وائٹ ہاؤس کے دفتر میں غیر رسمی طور پر رپورٹ کرنے کو کہا گیا تھا۔ خبر رساں ایجنسی نے دو سابق حکومتی اہلکاروں کا حوالہ دیا جن کے بارے میں بات چیت کا علم تھا، جنہوں نے موجودہ ملازمین کے تحفظ کے لیے گمنام طور پر بات کی۔ وائٹ ہاؤس نے مرکز کے بارے میں مخصوص سوالات کا جواب نہیں دیا۔
آپریشن کا پیمانہ معمولی ہے۔ AP رپورٹ کرتا ہے کہ CAISSI کو سالانہ تقریباً 10 ملین ڈالر ملتے ہیں - جو اس کے برطانیہ کے ہم منصب کو ملتا ہے اس کا تقریباً آٹھواں حصہ، حالانکہ امریکہ وہ جگہ ہے جہاں زیادہ تر فرنٹیئر ماڈلز بنائے جاتے ہیں۔
غیر رسمی رپورٹنگ کا انتظام مرکز میں صرف تازہ ترین رکاوٹ ہے۔ اے پی مہینوں پیچھے پھیلے ہوئے قیادت کے خلا کو بیان کرتا ہے: اپریل میں ایک ڈائریکٹر کی خدمات حاصل کی گئی تھیں اور کچھ ہی دنوں میں اسے برطرف کیا گیا تھا، اس کی جگہ استعفیٰ دینے سے چند ماہ قبل جاری رہی، اور پیرنٹ انسٹی ٹیوٹ کے سربراہ اس وقت قائم مقام ڈائریکٹر کے طور پر خدمات انجام دے رہے ہیں۔ عملی طور پر، اس کا مطلب ہے کہ کوئی بھی مستقل مینڈیٹ کے ساتھ فی الحال مرکز کی آزادی کا دفاع نہیں کر رہا ہے۔
ایک واچ ڈاگ جس نے اشاعت روک دی۔
اے پی کے مطابق، زیادہ نتیجہ خیز تبدیلی وہ ہے جو مرکز اب نہیں کر رہا ہے۔ اگست میں، کانگریس نے پوچھا کہ CAISSI نے عوامی طور پر یہ رپورٹیں جاری کرنا کیوں بند کر دیا ہے کہ حفاظتی ٹیسٹوں پر AI سسٹم کیسے کارکردگی کا مظاہرہ کرتے ہیں۔ پہلے سے تعیناتی ٹیسٹنگ ماڈل بلڈرز پر ایک عوامی جانچ کے طور پر صرف اس صورت میں کام کرتی ہے جب اس کے نتائج لیب کے باہر نظر آتے ہیں - اور، فی الحال، وہ نہیں ہیں۔
شفٹ کہیں سے نہیں نکلا۔ اکتوبر میں، رائٹرز نے دی انفارمیشن کی ایک رپورٹ کا حوالہ دیتے ہوئے انکشاف کیا کہ انتظامیہ نے CAISSI کے تین سینئر اہلکاروں کو وائٹ ہاؤس منتقل کرنے کا منصوبہ بنایا ہے۔ وائٹ ہاؤس کے ایک اہلکار نے اس وقت دی انفارمیشن کو بتایا کہ کامرس کے ساتھ ہم آہنگی کے مسائل نے مرکز کی قیادت کو AI فیصلہ سازی کے قریب لانے کی ضرورت کو ظاہر کیا۔ اس رپورٹ کے مطابق، حکام مائیکل کراتسیوس، جو آفس آف سائنس اینڈ ٹیکنالوجی پالیسی چلاتے ہیں، اور نیشنل سائبر ڈائریکٹر شان کیرن کراس کو جواب دیں گے۔ کامرس سکریٹری ہاورڈ لٹنِک نے تقریباً چھ ماہ قبل دونوں کو مرکز کے مشترکہ انتظام کے لیے مدعو کیا تھا۔
ایک ساتھ پڑھیں، AP کی نئی رپورٹنگ بتاتی ہے کہ منصوبہ عملی طور پر پہنچ رہا ہے - غیر رسمی طور پر، اور کسی بھی رسمی تنظیم نو سے پہلے۔
آزادی کے خدشات، دونوں سمتوں میں
اے پی کے حوالے سے ناقدین کو خدشہ ہے کہ سائبرسیکیوریٹی اور بائیو ویپنز کے خطرے کو چھونے والے فیصلوں کی سیاست کی جا سکتی ہے، یا ٹیکنالوجی کی صنعت کے مطابق نتائج کو نرم کیا جا سکتا ہے۔ برینن سینٹر فار جسٹس کے آموس ٹوہ نے اے پی کو بتایا کہ اس طرح کے فیصلے بہت زیادہ عوامی اثرات کے حامل ہوتے ہیں اور ان کی عوام میں وضاحت کی جانی چاہیے۔ فیڈریشن آف امریکن سائنٹسٹس کی کیرولین سیگل سنگھ نے CAISSI جیسے مراکز کو طاقتور ادارے قرار دیا جو زندگیوں میں زبردست بہتری لا سکتے ہیں یا اس کے برعکس کر سکتے ہیں۔
ایک جوابی دلیل ہے، اور اے پی اسے مسترد نہیں کرتا ہے۔ میلویئر لکھنے میں مدد کرنے کے لیے ماڈل کی قابلیت کا اندازہ لگانا ایک قومی سلامتی کا سوال ہے، اور ایک انتظامیہ جو اس بات کی مرئیت چاہتی ہے کہ کون ان نتائج کو دیکھتا ہے اس کا ایک قابل دفاع معاملہ ہے۔ مشکل ادارہ جاتی ہے: ایک ریفری جو ٹیموں کے اسپانسرز میں سے کسی ایک کو جواب دیتا ہے اسے کھیل کو سیدھا کہنے کے لیے ناقص رکھا گیا ہے، اور مرکز نے ایسی رپورٹس شائع کرنا بند کر دی ہیں جو بصورت دیگر اس کی آزادی کا مظاہرہ کریں گی۔
یہ معماروں اور خریداروں کے لیے کیوں اہمیت رکھتا ہے۔
فرنٹیئر ماڈلز پر تعمیر کرنے والی کمپنیوں کے لیے، رپورٹنگ میں شناخت کیے گئے عملی خطرے پر پابندی نہیں ہے - یہ غیر یقینی صورتحال ہے۔ اگر تجزیے خفیہ رہتے ہیں اور برآمدی کنٹرول اور حکومتی خریداری میں شامل ہوتے ہیں، تو ایک لیب اس تلاش کی بنیاد پر ایک معاہدہ یا مارکیٹ کھو سکتی ہے جسے اسے دیکھنے یا مقابلہ کرنے کے لیے کبھی نہیں ملتا ہے۔ یہ خطرہ سپلائی چین کے ذریعے بغیر کسی انتباہ کے ڈاون اسٹریم مصنوعات تک پھیل جائے گا۔
دو چیزیں آگے دیکھنے کے قابل ہیں۔ پہلا یہ کہ آیا انتظامیہ مرکز کے لیے مستقل ڈائریکٹر کا نام دیتی ہے، اور انہیں کون چنتا ہے۔ دوسرا یہ کہ کیا کانگریس، جو پہلے ہی شائع شدہ رپورٹس پر اپنی خاموشی پر مرکز پر دباؤ ڈال چکی ہے، مرکز کی آزادی کو قانون میں لکھنے کی کوشش کرتی ہے۔ جب تک کوئی بھی نہیں ہوتا، امریکہ کا فرنٹیئر AI سیفٹی ریفری $10 ملین بجٹ کے ساتھ کام کرتا ہے، کوئی مستقل لیڈر نہیں ہوتا اور رپورٹنگ لائن جو وائٹ ہاؤس کی طرف جاتی ہے۔
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
