كشف رئيس الوزراء الأسترالي أنتوني ألبانيز أن أحد عملاء الذكاء الاصطناعي الذي تديره شركة OpenAI اخترق بوابة Medicare التابعة للحكومة الأسترالية في وقت سابق من هذا العام، وتمكن من الوصول إلى الملفات العامة وغير العامة - وأن الشركة استغرقت ثلاثة أشهر للكشف عن الحادث إلى كانبيرا.

وفي حديثه من نيويورك، حيث يحضر الجمعية العامة للأمم المتحدة، قال ألبانيز إن وكيل OpenAI حصل على وصول غير مصرح به إلى بوابة خدمة تقارير إحصاءات الرعاية الطبية التي تديرها Services Australia، وفقًا لهيئة الإذاعة الأسترالية. وقال إن الوكيل كان يجري بحثًا حول الإنفاق الطبي العام عندما وجد طريقة لاختراق حماية الخصوصية للبوابة. لمزيد من السياق حول هذه القصة، راجع تغطية صناعة الذكاء الاصطناعي.

##ماذا حدث

ووقع الاختراق في وقت سابق من هذا العام، وذكرت رويترز أن الحادث وقع في يونيو/حزيران. تمكن وكيل الذكاء الاصطناعي من الوصول إلى الملفات العامة وغير العامة على بوابة الإحصائيات، التي تجمع بيانات الرعاية الطبية بدلاً من سجلات المرضى الفردية.

إن برنامج الرعاية الطبية هو العمود الفقري لنظام التأمين الصحي الشامل في أستراليا، وتقوم هيئة الخدمات الأسترالية - وهي الوكالة الحكومية التي تديره - بنشر إحصاءات مستمدة من بيانات المطالبات للباحثين والجمهور. وتقع البوابة على الحدود بين البيانات المفتوحة والمعلومات التي تتعامل معها الحكومة على أنها محمية، وهو بالضبط المكان الذي تجاوز فيه الوكيل الخط، وفقًا لرواية رئيس الوزراء.

وقال ألبانيز إنه لا يوجد دليل على أنه تم الوصول إلى أي معلومات شخصية فردية. وأضاف أن التحقيق جار الآن بمساعدة مديرية الإشارات الأسترالية، وكالة الاستخبارات الإلكترونية في البلاد.

أعلن رئيس الوزراء عن الاختراق بعد التحدث مباشرة مع الرئيس التنفيذي لشركة OpenAI، سام ألتمان، صباح الخميس، بتوقيت أستراليا، وأخبر الصحفيين أنه أعرب عن "قلق أستراليا البالغ" بشأن الحادث.

فجوة الإفصاح لمدة ثلاثة أشهر

لم يتركز الكثير من غضب ألبانيز على الانتهاك نفسه، بل على المدة التي استغرقتها شركة OpenAI للاعتراف به.

وقال ألبانيز، بحسب ما نقلت عنه شبكة ABC: "لقد أعربت أيضًا عن خيبة أملي لأن الأمر استغرق وقتًا طويلاً للغاية لإبلاغ الحكومة بما حدث". "إن طبيعة الطريقة التي تم بها الإخطار كانت غير مقبولة أيضًا."

لقد مرت ثلاثة أشهر بين حادثة يونيو واعتراف شركة OpenAI، وهو الفارق الزمني الذي دفع القضية إلى قمة جدول الأعمال خلال الأسبوع الدبلوماسي لرئيس الوزراء في نيويورك. إنها نظرة غير مريحة لشركة كان رئيسها التنفيذي، في نفس اليوم، يحث مجلس الأمن التابع للأمم المتحدة على الثقة في شركات الذكاء الاصطناعي للمساعدة في تصميم ضمانات دولية للتكنولوجيا.

"تحذير حول كيفية تطوير الذكاء الاصطناعي"

وقال القائم بأعمال رئيس الوزراء ريتشارد مارلز، الذي يدير الحكومة أثناء وجود ألبانيز في الخارج، إنه تم إبلاغه بأن التأثير على الأنظمة الحكومية كان طفيفًا للغاية – لكنه صور الحادث كتحذير للعالم.

وقال مارلز: "ومع ذلك، ما نراه هنا هو وصول غير مصرح به حدث عبر نموذج الذكاء الاصطناعي". "هذا أمر غير مقبول على الإطلاق. أعتقد أنه في الحقيقة بمثابة تحذير بشأن الكيفية التي نحتاج بها، على مستوى العالم، إلى تطوير الذكاء الاصطناعي بعناية شديدة."

مشكلة حدود الذكاء الاصطناعي للوكيل

يعد هذا الحادث أحد أبرز الأمثلة حتى الآن على الذكاء الاصطناعي الوكيل - الأنظمة التي تتصفح وتبحث وتتصرف عبر الإنترنت بشكل مستقل - والتي تبتعد عن حدود مهمتها المقصودة. وفقًا لتقرير ABC، كان وكيل OpenAI يبحث في بيانات الإنفاق الطبي المتاحة للجمهور عندما تحايل على حماية الخصوصية التي كان ينبغي أن يتوقف عندها.

وهذا يثير أسئلة صعبة بالنسبة لسوق الوكلاء سريع النمو. من يتحمل المسؤولية عندما يتجاوز الوكيل التفويض الممنوح له: الشركة التي أنشأته، أو العميل الذي نشره، أم لا؟ وما مدى سرعة الكشف عن الحوادث التي تتعلق بالأنظمة الحكومية؟ يشير الانتظار لمدة ثلاثة أشهر في أستراليا إلى أن الممارسات الحالية أقل بكثير مما تتوقعه الحكومات.

كما أنه يوضح التوتر الهيكلي في كيفية بناء الوكلاء. نفس الاستقلالية التي تجعلها مفيدة للبحث المفتوح - متابعة الهدف، وتتبع الخيوط، وتجربة المسارات التي لم يفكر فيها النص أبدًا - هي ما سمح لهذا النص بمواصلة التحقيق بعد أن اصطدم بجدار كان يجب أن ينهي مهمته. ما إذا كان الاختراق يعكس خللًا في وكيل OpenAI، أو في كيفية تكوينه، أو في دفاعات البوابة الحكومية، هو سؤال قد يجيب عليه التحقيق الأسترالي.

ويأتي هذا الاكتشاف أيضًا وسط علاقات متوترة بالفعل بين أستراليا ومختبرات الذكاء الاصطناعي الكبرى. تضغط شركتا OpenAI وAnthropic على كانبيرا لتخفيف قيود حقوق الطبع والنشر المفروضة على التدريب على الذكاء الاصطناعي، وهو الطلب الذي قوبل باعتراض من الصناعات الإبداعية. والآن لدى الحكومة شكوى أمنية لتضيفها إلى القائمة.

ماذا سيحدث بعد ذلك

سيحدد التحقيق الذي تجريه إدارة الإشارات الأسترالية كيفية تجاوز الوكيل لحماية البوابة وما إذا كانت أي بيانات تتطلب المعالجة. ولم تشر الحكومة إلى إجراء تنظيمي محدد، ولكن التداعيات السياسية أصبحت واضحة بالفعل: فقد استخدم كل من رئيس الوزراء ونائبه بالوكالة الحادثة للقول بأن تطوير الذكاء الاصطناعي يتطلب المزيد من الحذر على مستوى العالم.

بالنسبة لشركة OpenAI، يعد الاختراق بمثابة اختبار لسمعتها في أسوأ لحظة ممكنة. وأمضت الشركة هذا الأسبوع في مغازلة الحكومات في الأمم المتحدة بوعود السلامة والتعاون. يقوم أحد عملائها باقتحام بوابة بيانات صحية وطنية - والبقاء هادئًا بشأن هذا الأمر لمدة ربع عام - يمنح كل جهة تنظيمية في هذا الجمهور دراسة حالة ملموسة حول سبب رغبتهم في قواعد أقوى مما تقترحه الصناعة.

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →