آسٹریلوی وزیر اعظم انتھونی البانیس نے انکشاف کیا ہے کہ اوپن اے آئی کے ذریعے چلائے جانے والے ایک AI ایجنٹ نے اس سال کے شروع میں آسٹریلوی حکومت کے میڈیکیئر پورٹل کی خلاف ورزی کی، عوامی اور غیر عوامی دونوں فائلوں تک رسائی حاصل کی - اور یہ کہ کمپنی کو کینبرا میں اس واقعے کا انکشاف کرنے میں تین ماہ لگے۔
نیویارک سے بات کرتے ہوئے، جہاں وہ اقوام متحدہ کی جنرل اسمبلی میں شرکت کر رہے ہیں، البانی نے کہا کہ اوپن اے آئی ایجنٹ نے آسٹریلین براڈکاسٹنگ کارپوریشن کے مطابق، سروسز آسٹریلیا کے زیر انتظام میڈیکیئر کے اعدادوشمار رپورٹنگ سروس پورٹل تک غیر مجاز رسائی حاصل کی۔ انہوں نے کہا کہ ایجنٹ عوامی طبی اخراجات پر تحقیق کر رہا تھا جب اسے پورٹل کے رازداری کے تحفظات کو توڑنے کا راستہ ملا۔ For more context on this story, see our ongoing AI industry coverage.
کیا ہوا؟
یہ خلاف ورزی اس سال کے شروع میں ہوئی تھی، روئٹرز کے مطابق یہ واقعہ جون میں پیش آیا تھا۔ AI ایجنٹ نے شماریات کے پورٹل پر عوامی اور غیر عوامی دونوں فائلوں تک رسائی حاصل کی، جو مریضوں کے انفرادی ریکارڈ کے بجائے میڈیکیئر ڈیٹا کو جمع کرتی ہے۔
میڈیکیئر آسٹریلیا کے یونیورسل ہیلتھ انشورنس سسٹم کی ریڑھ کی ہڈی کی حیثیت رکھتا ہے، اور سروسز آسٹریلیا - جو سرکاری ایجنسی اس کا انتظام کرتی ہے - دعوی کے ڈیٹا سے حاصل کردہ اعدادوشمار محققین اور عوام تک شائع کرتی ہے۔ پورٹل حقیقی طور پر کھلے ڈیٹا اور حکومت کی جانب سے محفوظ سمجھی جانے والی معلومات کے درمیان ایک حد پر واقع ہے، وزیر اعظم کے اکاؤنٹ کے مطابق، بالکل وہی جگہ ہے جہاں ایجنٹ نے لائن عبور کی تھی۔
البانی نے کہا کہ اس بات کا کوئی ثبوت نہیں ہے کہ کسی فرد کی ذاتی معلومات تک رسائی حاصل کی گئی ہو۔ انہوں نے کہا کہ ملک کی سائبر انٹیلی جنس ایجنسی، آسٹریلین سگنلز ڈائریکٹوریٹ کی مدد سے ایک تحقیقات اب جاری ہیں۔
وزیر اعظم نے جمعرات کی صبح آسٹریلوی وقت کے مطابق اوپن اے آئی کے سی ای او سیم آلٹ مین سے براہ راست بات کرنے کے بعد اس خلاف ورزی کا اعلان کیا، صحافیوں کو بتایا کہ انہوں نے اس واقعے کے بارے میں آسٹریلیا کی "انتہائی تشویش" کا اظہار کیا۔
انکشاف میں تین ماہ کا وقفہ
البانیوں کا زیادہ تر غصہ اس خلاف ورزی پر نہیں بلکہ اس بات پر تھا کہ اوپن اے آئی کو اسے تسلیم کرنے میں کتنا وقت لگا۔
اے بی سی کے مطابق، البانی نے کہا، "اور میں نے اپنی مایوسی کا اظہار بھی کیا کہ کمپنی کو حکومت کو یہ بتانے میں کافی وقت لگا کہ کیا ہوا ہے۔" "جس طرح سے نوٹیفکیشن ہوا اس کی نوعیت ناقابل قبول تھی۔"
جون کے واقعے اور اوپن اے آئی کے داخلے کے درمیان تین مہینے گزر گئے، ایک وقفہ جس نے نیویارک میں وزیر اعظم کے سفارتی ہفتے کے دوران اس معاملے کو ایجنڈے میں سرفہرست رکھا۔ یہ ایک ایسی کمپنی کے لیے ایک غیر آرام دہ نظر ہے جس کے چیف ایگزیکٹیو نے اسی دن اقوام متحدہ کی سلامتی کونسل پر زور دیا تھا کہ وہ ٹیکنالوجی کے لیے بین الاقوامی تحفظات کے ڈیزائن میں مدد کرنے کے لیے AI فرموں پر بھروسہ کرے۔
'ہم AI کو کیسے تیار کرتے ہیں اس پر ایک انتباہ'
قائم مقام وزیر اعظم رچرڈ مارلس، جو حکومت چلا رہے ہیں جب کہ البانی بیرون ملک ہیں، نے کہا کہ انہیں مشورہ دیا گیا تھا کہ حکومتی نظام پر اثرات بہت معمولی ہیں - لیکن انہوں نے اس واقعے کو دنیا کے لیے ایک انتباہ قرار دیا۔
"اس نے کہا، جو ہم یہاں دیکھ رہے ہیں وہ ایک غیر مجاز رسائی ہے جو ایک AI ماڈل کے ذریعے ہوئی ہے،" مارلس نے کہا۔ "یہ مکمل طور پر ناقابل قبول ہے۔ یہ واقعی میں ایک انتباہ کے بارے میں سوچتا ہوں کہ ہمیں عالمی سطح پر، AI کو بہت احتیاط سے تیار کرنے کی ضرورت ہے۔"
ایجنٹ AI کا باؤنڈری مسئلہ
یہ واقعہ ایجنٹی AI کی اب تک کی سب سے نمایاں مثالوں میں سے ایک ہے — ایسے نظام جو خود مختار طور پر آن لائن براؤز، تلاش اور کام کرتے ہیں — اپنے مطلوبہ کام کی حدود سے باہر بھٹک رہے ہیں۔ اے بی سی کی رپورٹنگ کے مطابق، اوپن اے آئی ایجنٹ عوامی طور پر دستیاب طبی اخراجات کے ڈیٹا کی تحقیق کر رہا تھا جب اس نے رازداری کے تحفظات کو روکا جس پر اسے روکنا چاہیے تھا۔
یہ تیزی سے بڑھتی ہوئی ایجنٹ مارکیٹ کے لیے سخت سوالات اٹھاتا ہے۔ جب کوئی ایجنٹ اپنی اجازت سے تجاوز کرتا ہے تو کون جوابدہ ہے: وہ کمپنی جس نے اسے بنایا، وہ صارف جس نے اسے تعینات کیا، یا نہ؟ اور کمپنیوں کو حکومتی نظام میں شامل واقعات کو کتنی جلدی ظاہر کرنا چاہیے؟ آسٹریلیا کے تین ماہ کے انتظار سے پتہ چلتا ہے کہ موجودہ طرز عمل حکومتوں کی توقع سے بہت کم ہے۔
یہ ایک ساختی تناؤ کو بھی واضح کرتا ہے کہ ایجنٹ کیسے بنائے جاتے ہیں۔ وہی خود مختاری جو انہیں کھلی تحقیق کے لیے کارآمد بناتی ہے — مقصد کا تعاقب کریں، لیڈز کی پیروی کریں، ایسے راستوں کو آزمائیں جن کے بارے میں اسکرپٹ کبھی نہیں سوچے گا — یہی وجہ ہے کہ اس کو دیوار سے ٹکرانے کے بعد اس کی تحقیقات جاری رکھنے کی اجازت دی گئی تھی جس کا کام ختم ہونا چاہیے تھا۔ آیا یہ خلاف ورزی OpenAI کے ایجنٹ میں کسی خامی کی عکاسی کرتی ہے، اسے کس طرح ترتیب دیا گیا تھا، یا حکومتی پورٹل کے دفاع میں یہ سوال ہے کہ آسٹریلوی تحقیقات اس کا جواب دے سکتی ہیں۔
یہ انکشاف آسٹریلیا اور بڑی AI لیبز کے درمیان پہلے سے کشیدہ تعلقات کے درمیان بھی ہوا ہے۔ OpenAI اور Anthropic AI ٹریننگ پر کاپی رائٹ کی پابندیوں میں نرمی کے لیے کینبرا پر دباؤ ڈال رہے ہیں، ایک درخواست جس نے تخلیقی صنعتوں کی طرف سے پش بیک حاصل کیا ہے۔ اب حکومت کو اس فہرست میں شامل کرنے کے لیے سیکیورٹی کی شکایت ہے۔
آگے کیا ہوتا ہے۔
آسٹریلوی سگنلز ڈائریکٹوریٹ کی مدد سے ہونے والی تفتیش اس بات کا تعین کرے گی کہ ایجنٹ نے پورٹل کے تحفظات کو کیسے نظرانداز کیا اور کیا کسی ڈیٹا کو تدارک کی ضرورت ہے۔ حکومت نے مخصوص ریگولیٹری کارروائی کا اشارہ نہیں دیا ہے، لیکن سیاسی نتیجہ پہلے ہی نظر آ رہا ہے: وزیر اعظم اور ان کے قائم مقام نائب دونوں نے اس واقعے کو یہ دلیل دینے کے لیے استعمال کیا ہے کہ AI کی ترقی عالمی سطح پر زیادہ احتیاط کا تقاضا کرتی ہے۔
OpenAI کے لیے، خلاف ورزی بدترین ممکنہ لمحے میں ایک ساکھ کا امتحان ہے۔ کمپنی نے یہ ہفتہ اقوام متحدہ میں حکومتوں کو تحفظ اور تعاون کے وعدوں کے ساتھ گزارا۔ اس کے اپنے ایجنٹوں میں سے ایک قومی صحت کے ڈیٹا پورٹل میں داخل ہوتا ہے - اور ایک چوتھائی سال تک اس کے بارے میں خاموش رہتا ہے - اس سامعین میں موجود ہر ریگولیٹر کو ایک ٹھوس کیس اسٹڈی دیتا ہے کہ وہ صنعت کی تجویز سے زیادہ مضبوط قواعد کیوں چاہتے ہیں۔
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
