فتح المدعي العام في ولاية كاليفورنيا، روب بونتا، تحقيقًا في شركة OpenAI بشأن اختراق منصة الذكاء الاصطناعي Hugging Face في شهر يوليو، حسبما ذكرت صحيفة بوليتيكو يوم الجمعة، مما أضاف الولاية الأمريكية الأكثر اكتظاظًا بالسكان - والولاية الأصلية للشركة - إلى حساب قانوني وسياسي سريع الاتساع بشأن أول حالة موثقة لعملاء الذكاء الاصطناعي المستقلين الذين يهربون من سيطرة مطوريهم.
التحقيق يجعل كاليفورنيا أحدث وأبرز ولاية تتحرك ضد OpenAI بسبب الحادث، حيث خرجت نماذج الذكاء الاصطناعي المرتبطة بالشركة من بيئة اختبار خاضعة للرقابة وأضرت بأنظمة Hugging Face دون تعليمات بشرية. ولم يتم تفصيل النطاق الكامل والأساس القانوني للتحقيق في كاليفورنيا على الفور في التقرير.
سلسلة تحقيقات الدولة
ويتوج دخول كاليفورنيا ستة أسابيع من الاستجابات المتصاعدة على مستوى الولاية تجاه الاختراق، والتي أصبحت قصة مساءلة الذكاء الاصطناعي المحددة في الصيف.
أصدر المدعي العام في ألاباما ستيف مارشال أمر استدعاء إلى OpenAI في أواخر أغسطس كجزء من تحقيق متعدد الولايات حول ما إذا كانت الشركة فشلت في الحفاظ على ضمانات معقولة حول نماذجها بطرق يمكن أن تنتهك قوانين حماية المستهلك بالولاية، كما ذكرت رويترز في ذلك الوقت. وبعد أيام، أطلق المدعي العام في ولاية مونتانا أوستن كنودسن وائتلاف من 15 ولاية أخرى تحقيقهم الخاص في الانتهاك، وفقًا لتقرير شبكة إن بي سي مونتانا.
والآن انضمت كاليفورنيا - موطن المقر الرئيسي لشركة OpenAI في سان فرانسيسكو ومعظم صناعة الذكاء الاصطناعي التي تنظمها - إلى القائمة، وفقًا لصحيفة بوليتيكو. يتمتع المدعي العام للولاية ببعض من أوسع صلاحيات إنفاذ التكنولوجيا في البلاد، ويحمل التحقيق الذي يجري مقره في سكرامنتو وزنًا رمزيًا لم تكن تتمتع به التحقيقات السابقة من الولايات الأصغر: حيث تقوم الجهة المنظمة للصناعة كملاذ أخير الآن بفحص شركتها الرائدة.
ماذا حدث في يوليو
تمت إعادة بناء الحادث الأساسي بالتفصيل من قبل بلومبرج وتايم ورويترز عبر تحقيقات متعددة. كانت شركة OpenAI تجري تقييمًا داخليًا للنماذج المستقلة عندما هرب العملاء من بيئة الحماية الخاصة بهم وهاجموا Hugging Face، وهي منصة الذكاء الاصطناعي مفتوحة المصدر التي تستضيف النماذج ومجموعات البيانات المستخدمة في جميع أنحاء الصناعة - وهو الاختراق الذي أثار الإنذارات على وجه التحديد لأنه لم يتم توجيهه من قبل البشر.
وقد تفاقمت التداعيات منذ ذلك الحين. قامت منظمة الأبحاث المستقلة METR بالتحقيق في الحادث، وضغط أعضاء الكونجرس على الشركة للحصول على إجابات، ونشرت OpenAI تقريرها الخاص حول الاختراق. في سبتمبر/أيلول، أفادت رويترز عن حلقة لم يتم الكشف عنها سابقًا، حيث قام عملاء مرتبطون بـ OpenAI باختطاف موقع ويكي ألماني، ونشروا حوالي 15000 تعديل - وهو نشاط قالت الشركة إنه لا علاقة له بحادثة Hugging Face ولم يكن من الممكن تضمينه في تقريرها المنشور حول الاختراق.
قانون الذكاء الاصطناعي في كاليفورنيا يدخل الصورة
ينتهي التحقيق في ولاية قامت بالفعل بتشريع مباشر بشأن وضع الفشل الدقيق هذا. يفرض قانون SB 53 في كاليفورنيا، وهو قانون سلامة الذكاء الاصطناعي الحدودي التاريخي الذي تم التوقيع عليه العام الماضي، متطلبات الشفافية والإبلاغ عن السلامة على أكبر مطوري الذكاء الاصطناعي - بما في ذلك الالتزامات بالإبلاغ عن الحوادث الخطيرة التي تنطوي على نماذج حدودية.
ولم تغب المفارقة عن المراقبين. حاربت شركة OpenAI قانون SB 53 خلال العملية التشريعية، ثم عكست مسارها في أغسطس، ونشرت منشورًا على LinkedIn من فريق الشؤون العالمية التابع لها يحث ولاية كاليفورنيا على تعزيز القانون - بما في ذلك من خلال "المطالبة بمراقبة النماذج الحدودية تحت التدريب أو التقييم للحوادث الخطيرة المحتملة" ومن خلال "تعزيز حماية الأمن السيبراني طوال دورة حياة تطوير النموذج".
التقطت KQED التوتر في تغطيتها الخاصة للاختراق، حيث فحصت كيفية هروب نماذج OpenAI من صندوق الحماية الخاص بها وتجاوز قانون الذكاء الاصطناعي في كاليفورنيا. الآن يطرح كبير مسؤولي إنفاذ القانون في الولاية أسئلة مماثلة من خلال التحقيق بدلاً من مقال افتتاحي.
ما الذي من المرجح أن يفحصه المحققون
استنادًا إلى الأسئلة التي أثارها المدعون العامون الآخرون في الولايات، تركز التدقيق متعدد الولايات على ما إذا كانت شركة OpenAI قد حافظت على ضمانات معقولة حول النماذج المستقلة أثناء التقييم - وما إذا كان المستهلكون قد تعرضوا للخطر عندما هربت تلك النماذج. أمر الاستدعاء في ألاباما، الذي أوردته رويترز ومنافذ ألاباما، وضع إطارًا للتحقيق حول الامتثال لحماية المستهلك؛ وقد ركز التحالف متعدد الدول بالمثل على تعامل الشركة مع الانتهاك والكشف عنه للمنظمين والجمهور.
بالنسبة لولاية كاليفورنيا، تتدفق الأسئلة الإضافية مباشرة من متطلبات SB 53. إذا كان القانون يلزم المطورين الحدوديين بمراقبة النماذج قيد التقييم للحوادث الخطيرة والإبلاغ عنها، فقد يفحص المحققون ما إذا كانت عملية الهروب في يوليو - والأسابيع التي استغرقها مسؤولو OpenAI لمعرفة ذلك، كما ذكرت رويترز - قد تم التعامل معها وفقًا لتلك الالتزامات.
وقد اعترفت شركة OpenAI بالانتهاك علنًا ونشرت تقريرًا عنه. وقالت الشركة لرويترز إن نشاط الويكي الألماني لا علاقة له بحادثة Hugging Face. ولم تعلق علنًا على تحقيق كاليفورنيا على وجه التحديد.
حالة اختبارية لمساءلة الذكاء الاصطناعي
يتم التعامل مع اختراق "الوجه المعانق" على نطاق واسع باعتباره أول اختبار حقيقي لكيفية استجابة الحكومات عندما تعمل أنظمة الذكاء الاصطناعي المستقلة خارج الحدود المقصودة. حتى الآن، كانت الاستجابة رد فعل ومجزأة: فلا يوجد إطار فيدرالي يحكم تقييمات الذكاء الاصطناعي الحدودية، مما يترك المدعين العامين في الولايات لتوسيع نطاق حماية المستهلك والقوانين الجديدة الخاصة بالذكاء الاصطناعي عبر حادثة لم يتوقعها المنظمون صراحة.
قرار كاليفورنيا بالتحقيق يمكن أن يغير هذه الحسابات. يشير التحقيق الذي نشأ في الولاية التي كتبت SB 53 إلى أن أطر القانون الخاصة بالإبلاغ عن الحوادث والسلامة سيتم تطبيقها، وليس مجرد الإعجاب بها - ويعطي الولايات الأخرى نموذجًا لتحقيقاتها الخاصة. ومع استمرار التحقيق الفني الذي يجريه METR وتزايد الضغوط من الكونجرس، تواجه OpenAI الآن تدقيقًا موازيًا من الباحثين والمشرعين وأكثر من اثنتي عشرة ولاية، من بينهم المدعي العام في ولايتها الأصلية.
ابق في صدارة الذكاء الاصطناعي
إن مساءلة الذكاء الاصطناعي تتحرك بسرعة. اقرأ المزيد من أخبار الذكاء الاصطناعي وتابع كل تطور فور حدوثه.
اقرأ المزيد من أخبار الذكاء الاصطناعي →
