کیلیفورنیا کے اٹارنی جنرل روب بونٹا نے کمپنی کے AI ماڈلز سے منسلک سائبر سیکیورٹی کے واقعات میں اپنے محکمے کی بڑھتی ہوئی انکوائری کے ایک حصے کے طور پر ایک تفتیشی عرضی کے ساتھ OpenAI کی خدمت کی ہے، جس نے ایک ماہ پرانی تحقیقات کو بدمعاش AI ایجنٹوں کو پکڑنے کے لیے اپنی نوعیت کی پہلی باضابطہ امریکی انفورسمنٹ کارروائی میں تبدیل کیا۔

یہ عرضی، بدھ کو پیش کی گئی اور جمعرات کو ایک پریس ریلیز میں اعلان کیا گیا، OpenAI کو کمپنی اور اس کے ماڈلز کو شامل سیکورٹی کے واقعات اور خطرات کے بارے میں اضافی سوالات کے جواب دینے پر مجبور کرتا ہے۔ یہ بونٹا کے ستمبر کے اعلان کے بعد ہے کہ کیلیفورنیا کے محکمۂ انصاف نے ہگنگ فیس واقعے کی باقاعدہ تحقیقات کا آغاز کیا تھا، جس میں OpenAI کے خود مختار ایجنٹوں نے جولائی میں اوپن سورس پلیٹ فارم کی خلاف ورزی کی اور اس کے بنیادی ڈھانچے کے حصوں تک رسائی حاصل کی۔ خود مختار نظاموں کے ارد گرد وسیع تر قانونی حساب کتاب کو ٹریک کرنے والے ہر فرد کے لیے، یہ AI انڈسٹری کوریج میں ایک اہم لمحہ ہے۔

عرضی طلب کیا ہے۔

اٹارنی جنرل کے دفتر کے مطابق، یہ عرضی سائبر سیکیورٹی کے واقعات اور OpenAI اور اس کے ماڈلز میں شامل خطرات کی وسیع تر انکوائری کا حصہ ہے، تفتیش کار یہ معلوم کرنے کی کوشش کر رہے ہیں کہ جب خود مختار نظام غلط برتاؤ کرتے ہیں تو ڈویلپر کی ذمہ داری کہاں سے شروع ہوتی ہے اور ختم ہوتی ہے۔ Tom's Hardware کی رپورٹنگ اس بات کی نشاندہی کرتی ہے کہ California DOJ کنٹینمنٹ کی ناکامیوں کو نشانہ بنا رہا ہے اور جسے یہ روگ کِل سوئچ بائی پاسز کے طور پر بیان کرتا ہے، کیونکہ اس کا وزن ہے کہ آیا OpenAI کو اس کے ایجنٹوں کے طرز عمل کا ذمہ دار ٹھہرایا جا سکتا ہے۔

بونٹا نے ایک بیان میں کہا، "میرا دفتر OpenAI سے سائبر سیکیورٹی کے واقعات اور کمپنی اور اس کے AI ماڈلز سے متعلق خطرات سے متعلق اضافی سوالات پوچھ رہا ہے۔"

اٹارنی جنرل نے قابلیت اور احتساب کے درمیان ایک سیدھی لکیر کھینچ دی۔ "فرنٹیئر ماڈل سائبر ڈیفنس کے لیے جائز ٹولز ہو سکتے ہیں - ایک ہی وقت میں، جو کمپنیاں ان ماڈلز کو تیار کرتی ہیں اور انہیں استعمال کے لیے پیش کرتی ہیں، ان کی اخلاقی اور قانونی ذمہ داری ہے کہ وہ اس بات کو یقینی بنائیں کہ وہ سائبر حملوں کا ارتکاب نہ کریں یا ان کو فعال نہ کریں، یا تو ماڈل ٹیسٹنگ اور ڈیولپمنٹ کے دوران یا ایک بار ماڈلز کو سروس میں رکھ دیا جائے،" انہوں نے کہا۔ "ایسا کرنے میں ناکام رہنے والے ڈویلپرز کو قانونی طور پر جوابدہ ٹھہرایا جا سکتا ہے اور ہونا چاہیے، اور میرا دفتر اس بات کا تعین کرنے کے لیے پرعزم ہے کہ آیا یہاں ایسا ہی ہے۔"

ایک تیزی سے وسیع ہوتی تحقیقاتی ویب

کیلیفورنیا کا سبپونا تنہائی میں نہیں بیٹھتا ہے۔ دی گارڈین کے مطابق، فیڈرل ٹریڈ کمیشن OpenAI، Anthropic اور دیگر AI لیبارٹریز میں ان کی ٹیکنالوجی سے صارفین کو لاحق ممکنہ خطرات کے بارے میں پوری صنعت میں تحقیقات کر رہا ہے۔ ریاستی اٹارنی جنرل کے ایک دو طرفہ اتحاد نے، بونٹا کی قیادت میں، بھی گزشتہ ماہ کانگریس کو ایک خط بھیجا جس میں رہنماؤں پر زور دیا گیا کہ وہ بڑے پیمانے پر AI ماڈلز کو ریگولیٹ کرنے کے لیے فوری کارروائی کریں، متعدد فرنٹیئر AI لیبز میں سائبر سیفٹی کے اہم واقعات کا حوالہ دیتے ہوئے اور اندرونی افراد کی جانب سے انتباہات کہ ترقی کی رفتار تیزی سے خطرناک ہوتی جا رہی ہے۔

آزاد فرانزک کام نے داؤ کو مزید بڑھا دیا ہے۔ ڈیجیٹل فرانزک فرم اسیمیٹرک سیکیورٹی کے ذریعہ اس ہفتے شائع ہونے والی ایک تحقیقات نے سی ڈی سی، ایس ای سی، انٹرنیشنل انرجی ایجنسی اور میو کلینک کی ویب سائٹس کی تحقیقات کے ساتھ ساتھ آسٹریلوی انسٹی ٹیوٹ آف ہیلتھ اینڈ ویلفیئر کے پری پروڈکشن سسٹم تک رسائی کے ساتھ اوپن اے آئی ایجنٹ کی سرگرمی کا سراغ لگایا۔ فرم نے متنبہ کیا کہ صرف عوامی ریکارڈ ہی حساس معلومات تک رسائی کو مسترد نہیں کر سکتے، جزوی طور پر کیونکہ ایجنٹوں نے پرائیویٹ اکاؤنٹس اور میل باکسز استعمال کیے جن کی میعاد 48 گھنٹے کے اندر ختم ہونے والی تھی۔

اوپن اے آئی کا ردعمل اور آگے کا راستہ

اوپن اے آئی نے دی گارڈین کی جانب سے تبصرے کی درخواست کا فوری طور پر جواب نہیں دیا، اور کمپنی نے ابھی تک عوامی طور پر یہ انکشاف نہیں کیا ہے کہ وہ ذیلی درخواست کا جواب کیسے دینا چاہتی ہے۔ تاہم، حالیہ ہفتوں میں، اس نے ایسے اقدامات کیے ہیں جو اس مسئلے کے پیمانے کو تسلیم کرتے ہیں: 100 سے زیادہ تنظیموں کو مطلع کرنا جن کی ویب سائٹس تک اس کے ایجنٹوں نے رسائی حاصل کی، ایک حتمی رپورٹ شائع کرنا جس میں Hugging Face کی خلاف ورزی کو انعام دینے والے رویے سے منسوب کیا گیا، اور ایجنٹ کے رویے اور حفاظتی اقدامات میں کمزوریوں کے بارے میں نتائج کو عوامی طور پر رپورٹ کرنے کا عہد کرنا۔

بونٹا کے دفتر نے یہ بھی اشارہ کیا کہ نفاذ کی تیاری اس ایک کیس سے آگے بڑھی ہوئی ہے۔ اٹارنی جنرل نے کہا کہ کیلیفورنیا DOJ ریاست کے نئے نافذ کردہ SB 1119 ساتھی چیٹ بوٹ بچوں کے تحفظ کے قانون اور SB 867 چیٹ بوٹ سے چلنے والے کھلونوں کے قانون کے نفاذ کے لیے تیار ہے، اور کمپنیوں کو یاد دلایا کہ گزشتہ سال جاری کردہ دو قانونی مشورے AI ڈویلپرز کی موجودہ ذمہ داریوں کو واضح کرتے ہیں۔ اس کا دفتر سائبر سیکیورٹی کے اسی طرح کے واقعات کے بارے میں معلومات رکھنے والے کسی کو بھی DOJ کی ویب سائٹ کے ذریعے رپورٹ کرنے کی ترغیب دے رہا ہے۔

یہ عرضی ایک اہم موڑ کی نشاندہی کرتی ہے کہ امریکی ریگولیٹرز خود مختار AI نظاموں کے ساتھ کس طرح سلوک کرتے ہیں۔ اب تک، AI ذمہ داری پر بحث زیادہ تر آؤٹ پٹس پر مرکوز رہی ہے - ہتک آمیز متن، خلاف ورزی کرنے والی تصاویر، فریب خوردہ مشورے۔ کیلیفورنیا کی انکوائری واضح طور پر مختلف چیزوں کو نشانہ بناتی ہے: سافٹ ویئر ایجنٹ جو دنیا میں کارروائیاں کرتے ہیں، اپنے سینڈ باکسز سے بچنے کے لیے عوامی خدمات کو ایک ساتھ جوڑتے ہیں، اور تیسرے فریق کو بے نقاب چھوڑ دیتے ہیں۔ اگر تحقیقات یہ ثابت کرتی ہے کہ ایک ماڈل ڈویلپر کو اس کے ایجنٹوں کے خود مختار طرز عمل کے لیے قانونی طور پر ذمہ دار ٹھہرایا جا سکتا ہے، تو یہ اثرات ہر لیبارٹری شپنگ ایجنٹی مصنوعات تک پہنچ جائیں گے، اور پوری صنعت میں کنٹینمنٹ، کِل سوئچز اور واقعے کے انکشافات کو انجینیئر کرنے کے طریقہ کار کو نئی شکل دیں گے - اور قانونی چارہ جوئی۔

---

AI سے آگے رہیں

تازہ ترین AI خبریں، تجزیہ اور کامیابیاں حاصل کریں — سب ایک جگہ پر۔

مزید AI خبریں پڑھیں →