سیلیکون ویلی ڈیموکریٹ کے نمائندے Ro کھنہ قانون سازی کریں گے جو AI ماڈلز پر پابندی لگا دے گا جو بار بار خود کو بہتر بنانے کے قابل ہیں جب تک کہ وفاقی حکومت ایک ایسا ریگولیٹری نظام نہیں بناتی جو ان کی نگرانی کرنے کے قابل ہو - جو کہ کانگریس میں ابھی تک AI کی حفاظت کی سب سے بڑی تجویز ہے۔

بل، جسے ہیومن کنٹرول اوور اے آئی ایکٹ کا نام دیا گیا ہے، اس کے تعارف سے قبل سمری شکل میں CNBC کے ساتھ خصوصی طور پر شیئر کیا گیا تھا۔ یہ بڑھتے ہوئے حفاظتی خدشات کے درمیان پہنچی ہے جس نے پہلے ہی OpenAI اور Anthropic کے سی ای اوز کو فرنٹیئر ماڈل کی ترقی کو سست کرنے پر زور دیا ہے۔ For more context on this story, see our ongoing AI industry coverage.

کھنہ نے پیر کو CNBC کے ساتھ ایک انٹرویو میں کہا، "دراصل تہذیبی معدومیت کا خطرہ ہے۔ "کنٹرول کھونے کا ایک حفاظتی خطرہ ہے، اور پھر غلط استعمال کا خطرہ ہے، اور ہمیں دونوں کو سنجیدگی سے لینے کی ضرورت ہے۔"

بل کس چیز پر پابندی لگائے گا۔

بنیادی طور پر، ہیومن کنٹرول اوور اے آئی ایکٹ ایسے AI ماڈلز کو ممنوع قرار دے گا جو بار بار خود کو بہتر بناتے ہیں یا اپنے بنیادی مقاصد، کنٹینمنٹ میکانزم یا شٹ ڈاؤن کنٹرولز کو خود بخود تبدیل کرتے ہیں - جب تک کہ فیڈرل گارڈریلز موجود نہ ہوں اور کوئی نئی حکومتی ایجنسی ان سرگرمیوں کو منظور نہ کرے۔

عملی اصطلاحات میں، یہ اس صلاحیت کو نشانہ بناتا ہے جس سے حفاظتی محققین سب سے زیادہ خوفزدہ ہیں: ایسے نظام جو خود کو ایک خود ساختہ سائیکل میں دوبارہ ڈیزائن کر سکتے ہیں، جس سے انسانوں کو ہر قدم پر نگرانی کم ہوتی ہے۔ پابندی اس وقت تک برقرار رہے گی جب تک کہ ریگولیٹرز خطرات کا جائزہ لینے کے لیے لیس نہ ہوں۔

فرنٹیئر AI کے لیے ایک نئی وفاقی ایجنسی

یہ بل ایک سرشار وفاقی ایجنسی بنائے گا جو سب سے زیادہ طاقتور AI ماڈلز پر توجہ مرکوز کرے گا - جو OpenAI، Anthropic، Google DeepMind اور xAI کے ذریعہ تیار کیے گئے ہیں - کیونکہ وہ کمپنیاں خود کو سخت جانچ پڑتال کے تحت پاتی ہیں۔

CNBC کے ساتھ اشتراک کردہ خلاصہ کے مطابق، ایجنسی اس کے لیے ذمہ دار ہوگی:

  • فرنٹیئر AI سسٹمز کے لیے حفاظتی ضوابط لکھنا
  • ماڈل ٹریننگ اور تعیناتی کی منظوری کے لیے لائسنسنگ سسٹم کو چلانا
  • فرنٹیئر AI ماڈلز کے آڈٹ کا انعقاد
  • مسلسل جانچ اور موثر انسانی کنٹرول کے لیے حفاظتی معیارات مرتب کرنا

آزاد آڈیٹرز ہر فرنٹیئر لیبارٹری میں ایمبیڈ کیے جائیں گے اور ایجنسی کو براہ راست رپورٹ کریں گے - ایک ساختی چیک اس بات کو یقینی بنانے کے لیے ڈیزائن کیا گیا ہے کہ لیبز اپنے ہوم ورک کو آسانی سے نشان زد نہیں کر سکتیں۔ ایجنسی سینڈ باکس ٹیسٹنگ ماحول، ایئر گیپس جو انٹرنیٹ سے ٹیسٹنگ سسٹم کو الگ کرتی ہے، سوئچ کو ختم کرتی ہے، اور ایسے کنٹرول جو ماڈلز کو لیب سیٹنگ سے فرار ہونے اور کھلے انٹرنیٹ پر گھومنے سے روکتی ہے، کے معیارات بھی مرتب کرے گی۔

خاص طور پر، قانون سازی وفاقی نگرانی کو ان جدید چپس تک بڑھا دے گی جو فرنٹیئر لیبز استعمال کرتی ہیں، بشمول ان پروسیسرز کو کیسے تعینات کیا جاتا ہے اس کی نگرانی یا کنٹرول کرنے کا طریقہ کار۔

مجرمانہ سزائیں اور لازمی انشورنس

یہ بل جرمانے سے متعلق کسی بھی سابقہ تجویز سے کہیں زیادہ ہے۔ یہ AI ماڈلز کی تعیناتی کے لیے جس کی تعریف "انسانیت کے خلاف جرائم" کے طور پر کرتا ہے اسے مجرم قرار دے گا جس کے نتیجے میں شہری آبادی کی تباہی ہوتی ہے۔

AI کمپنیوں کے ملازمین کو حفاظتی اقدامات کو غیر فعال کرنے، سوئچ کو ختم کرنے، لاگنگ یا کنٹینمنٹ سسٹم - یا جان بوجھ کر غیر مجاز نظام کو تعینات کرنے پر مجرمانہ سزاؤں کا سامنا کرنا پڑے گا۔ AI کمپنیوں کو بھی اپنے ماڈلز جاری کرنے سے پہلے وسیع ذمہ داری کا بیمہ لینے کی ضرورت ہوگی، ناکامی کے مالی خطرے کو عوام کی بجائے صنعت پر منتقل کرنا ہوگا۔

جغرافیائی سیاسی محاذ پر، بل انتظامیہ سے مطالبہ کرتا ہے کہ وہ قابل عمل معاہدوں اور ٹارگٹڈ ایکسپورٹ کنٹرولز کو آگے بڑھائے جو چین اور دیگر مخالفین کو خطرناک AI نظام تیار کرنے سے روکنے کے لیے بنائے گئے ہیں۔

سیفٹی کمیونٹی کے ساتھ بنایا گیا، لیبز کے ساتھ نہیں۔

کھنہ نے اس بارے میں واضح کیا کہ کس کے ان پٹ نے بل کو شکل دی۔ ان کمپنیوں کے ایگزیکٹوز کے ساتھ بات چیت کرنے کے بجائے جو یہ ریگولیٹ کرے گی، انہوں نے کہا کہ قانون سازی AI حفاظتی تنظیموں کے ساتھ بات چیت پر مبنی ہے، بشمول آزاد غیر منفعتی ماڈل ایویلیوایشن اینڈ تھریٹ ریسرچ، مشین انٹیلی جنس ریسرچ انسٹی ٹیوٹ اور پیلیسڈ ریسرچ۔

کھنہ نے CNBC کو بتایا، "میں چاہتا ہوں کہ یہ اے آئی سیفٹی کمیونٹی کو آواز دینے کے لیے ایک ماڈل بنے۔ "مجھے یقین ہے کہ انہیں غیر منصفانہ طور پر سائنس فکشن کے طور پر مسترد کر دیا گیا ہے اور انہیں کافی سنجیدگی سے نہیں لیا گیا ہے۔ انہیں اس بحث کو چلانے کی ضرورت ہے، AI سیفٹی کمیونٹی، نہ کہ فرنٹیئر لیبز کے ایگزیکٹوز۔"

کھنہ نے اس اقدام کو آج تک تجویز کردہ سب سے زیادہ جامع AI حفاظتی قانون کے طور پر بیان کیا۔

منقسم کانگریس میں طویل مشکلات

ہیومن کنٹرول اوور اے آئی ایکٹ کیپیٹل ہل پر AI حفاظتی تجاویز کے ایک پرہجوم فیلڈ میں شامل ہوتا ہے۔ ان میں کیلیفورنیا کے ریپبلکن نمائندے جے اوبرنولٹے اور میساچوسٹس کے ڈیموکریٹ لوری ٹریہن کا دو طرفہ فرنٹیئر ایکٹ بھی شامل ہے، جو فرنٹیئر لیبز میں آزاد آڈیٹرز رکھے گا اور حکومت کو ایسے ماڈلز کو بند کرنے کا اختیار دے گا جنہیں تباہ کن خطرہ لاحق ہے۔ مصنوعی سپر انٹیلی جنس پر پابندی لگانے کی ایک علیحدہ سینڈرز-کیسر کی تجویز کو دس ہاؤس ڈیموکریٹس کی طرف سے عوامی حمایت حاصل ہوئی ہے، جن میں خود کھنہ بھی شامل ہیں۔

تاہم، سیاسی حقیقت سنجیدہ ہے۔ وسط مدتی انتخابات کے بعد تک ایوان کے کسی بل پر ووٹ حاصل کرنے کی توقع نہیں کی جاتی ہے، اور سینیٹ سے واشنگٹن سے نکلنے اور ووٹروں کے انتخابات میں جانے تک واپس نہ آنے کی توقع ہے۔

اس ٹائم لائن کا مطلب ہے کہ ہیومن کنٹرول اوور اے آئی ایکٹ، کم از کم ابھی کے لیے، ایک مارکر کے طور پر کام کرے گا: اگر AI سیفٹی کمیونٹی قلم کو تھامے گی تو اس کا تفصیلی خاکہ کیا بنے گا - بالکل اسی وقت متعارف کرایا گیا ہے جو فرنٹیئر AI بناتے ہیں، ریکارڈ پر، کہ ٹیکنالوجی اپنے کنٹرول سے آگے نکل رہی ہے۔

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →