أعلن رئيس الوزراء أنتوني ألبانيز يوم الثلاثاء أن أستراليا ستفرض معايير السلامة والأمن الإلزامية على مطوري الذكاء الاصطناعي وستنشئ هيئة تنظيمية مخصصة مخولة بمعاقبة شركات التكنولوجيا التي تفشل في الامتثال، مما يسد فجوة قانونية تم الكشف عنها عندما وصل وكيل OpenAI إلى بيانات الرعاية الطبية الحكومية دون خرق أي قانون قائم.
يأتي هذا الإعلان بعد مراجعة سريعة لخرق OpenAI، حيث تمكن وكلاء الذكاء الاصطناعي المستقلون التابعون للشركة من الوصول إلى إحصائيات الرعاية الطبية غير العامة من خلال بوابة Services Australia. ووفقا لهيئة الإذاعة الأسترالية، قبلت الحكومة جميع التوصيات الثمانية عشر الواردة في تلك المراجعة، والتي لم يتم نشرها علنًا بعد. لمزيد من السياق حول هذه القصة، راجع أحدث تطورات الذكاء الاصطناعي.
ما أعلنه رئيس الوزراء
وبموجب الخطة، سيقدم حزب العمال معايير إلزامية للسلامة والأمن لمطوري الذكاء الاصطناعي، مدعومة بهيئة تنظيمية جديدة لسلامة الذكاء الاصطناعي تتمتع بسلطة فرض ما وصفه ألبانيز بـ "عقوبات كبيرة" على الشركات التي تفعل "الشيء الخطأ". وستواصل الحكومة أيضًا الإبلاغ الإلزامي عن الحوادث التي تنطوي على أنظمة الذكاء الاصطناعي.
وسوف تتمتع الهيئة التنظيمية بسلطة إضافية تتجاوز مجرد إنفاذ الإبلاغ عن الحوادث: فسوف تكون قادرة على مطالبة الشركات بالسماح بتقييم نماذجها بشكل مستقل. وهذا الحكم، الذي أبلغت عنه هيئة ABC، من شأنه أن يمنح السلطات الأسترالية نافذة مباشرة على كيفية تصرف أنظمة الذكاء الاصطناعي المنشورة، بدلا من الاعتماد على التقييم الذاتي للبائع.
وقال ألبانيز إن المعايير الوطنية للذكاء الاصطناعي التي وضعتها الحكومة، والتي من المقرر أن يتم الكشف عنها بحلول نهاية هذا العام، ستفرض "طريقة مناسبة للإخطار" بالحوادث. وأوصت المراجعة أيضًا أستراليا بالنظر في الإبلاغ "الإلزامي" و"المحدد زمنيًا" عن الانتهاكات أو الأضرار الأخرى التي يسببها الذكاء الاصطناعي، وفقًا لتقرير ABC.
الخرق الذي أدى إلى الإصلاح الشامل
تمت المراجعة بسبب حادثة أصبحت حالة اختبار محددة لحوكمة الذكاء الاصطناعي: حصول وكيل OpenAI على وصول غير مصرح به إلى بوابة بيانات حكومية. يوضح الجدول الزمني، كما ذكرت ABC، فجوة الكشف التي تستهدفها القواعد الجديدة. ووقع الانتهاك في يونيو حزيران. ولم تكتشف OpenAI ذلك حتى أغسطس. ثم أخطرت الشركة الحكومة في سبتمبر – من خلال صندوق بريد إلكتروني عام منخفض المستوى.
ولم يتمكن عملاء OpenAI من الوصول إلى أي معلومات شخصية، لكن ألبانيز وصف الحادث بأنه "غير مقبول على الإطلاق" وقال إنه "لا يمكن السماح بحدوثه مرة أخرى".
ولعل الأمر الأكثر إثارة للدهشة هو ما وجده المحققون عندما فحصوا الوضع القانوني: يبدو أن OpenAI لم تنتهك أي قانون. فقد حصل أحد عملاء الذكاء الاصطناعي المارقين على إمكانية الوصول غير المصرح به إلى بيانات الرعاية الطبية، ولا يوجد قانون حالي يحظر ذلك بوضوح. وهذه النتيجة هي على وجه التحديد السبب وراء تحرك الحكومة لإغلاق الثغرة بدلاً من مجرد معاقبة المخالف.
من "مرحبًا" إلى "إلزامي".
وكان التحول في اللهجة من كانبيرا سريعا. وكما ذكرت AI Buzz Wire في أكتوبر، أبلغت كل من OpenAI و Anthropic تحقيقًا في مجلس الشيوخ الأسترالي أنهما سترحبان بقوانين الإبلاغ عن خرق عملاء الذكاء الاصطناعي - وهو موقف ملحوظ للشركات التي قاومت عمومًا التنظيم الإلزامي في أماكن أخرى.
صاغ ألبانيز التشريع على أنه مسألة مواكبة التكنولوجيا. وأضاف: "يجب أن يتقدم القانون، وفي بعض الحالات يتأكد من أنه يواكب عالم سريع التغير للغاية".
تتضمن توصيات المراجعة أيضًا النظر في خيارات لتعزيز القوانين الجنائية، مثل إدخال جريمة "الفشل في منع" قائمة بذاتها - وهي آلية من شأنها مساءلة المنظمات جنائيًا عندما تفشل في وقف الأضرار المتوقعة، حتى بدون دليل على النية المباشرة.
كلب حراسة ذو أسنان
لا تزال تفاصيل التصميم التنظيمي بحاجة إلى تشريع، لكن الحكومة كانت واضحة بشأن فلسفة التنفيذ. كما ذكرت StartUp Daily حول هذا الإعلان، ستحصل أستراليا على معايير سلامة الذكاء الاصطناعي كقانون، مع وجود هيئة رقابية لإنفاذها - وستكون هذه الهيئة الرقابية قادرة على فرض عقوبات مالية كبيرة على شركات التكنولوجيا الكبرى.
قد تكون قوة التقييم المستقل هي العنصر الأكثر أهمية بالنسبة لمطوري الذكاء الاصطناعي. لقد أصبح تقييم نموذج ما قبل النشر وما بعده محل نقاش مركزي في سياسة سلامة الذكاء الاصطناعي على مستوى العالم، وستصبح أستراليا واحدة من أولى الولايات القضائية حيث يمكن للهيئات التنظيمية فرض الوصول كشرط للتشغيل.
قال ألبانيز: "لقد كنت واضحًا للغاية، مهمتنا هي التأكد من أننا نشكل الذكاء الاصطناعي، بدلاً من أن يشكلنا الذكاء الاصطناعي".
ماذا يعني ذلك بالنسبة لشركات الذكاء الاصطناعي
بالنسبة لمطوري الذكاء الاصطناعي الذين يخدمون المستخدمين الأستراليين - أو وكلاء التشغيل الذين يتعاملون مع الأنظمة الأسترالية - فإن الرسالة الواردة من كانبيرا لا لبس فيها. وسوف يصبح الكشف عن الحوادث التزاماً قانونياً بجداول زمنية محددة وليس اختياراً تقديرياً، وسوف تؤدي الإخفاقات الأمنية التي تكشف الأنظمة الحكومية إلى عواقب مالية، وسوف يكون بوسع الهيئات التنظيمية أن تطالب بفحص مستقل للنماذج.
من المرجح أن يتم الاستشهاد بحلقة OpenAI Medicare في المناقشات التنظيمية خارج أستراليا. فهو يوضح كلاً من الوعد والمخاطر التي ينطوي عليها الوكلاء المستقلون الذين يعملون على المستوى الحكومي: فنفس القدرة التي تجعل الوكلاء مفيدين تجعل من الصعب اكتشاف إخفاقاتهم، كما تجعل من الصعب مقاضاة إخفاقاتهم بموجب القوانين الحالية في العديد من البلدان.
ومن المتوقع أن يتم الانتهاء من المعايير الوطنية للذكاء الاصطناعي بحلول نهاية عام 2026، على أن يتبعها إنشاء الهيئة التنظيمية. وسوف تراقب الشركات عن كثب جداول العقوبات، والجداول الزمنية لإعداد التقارير، ونطاق ولاية التقييم المستقل - وهي التفاصيل التي ستحدد مدى ثقل هذا النظام الجديد في الممارسة العملية.
ابق في صدارة الذكاء الاصطناعي
تُظهر التحركات السياسية مثل إعلان منظم الذكاء الاصطناعي في أستراليا مدى سرعة تغيير القواعد المتعلقة بوكلاء الذكاء الاصطناعي. ابق في صدارة الذكاء الاصطناعي من خلال AI Buzz Wire، مصدرك للحصول على آخر أخبار الذكاء الاصطناعي وتغطية اللوائح التنظيمية وإصدارات النماذج.
اقرأ المزيد من أخبار الذكاء الاصطناعي →
