تقوم شركة Nvidia بهدوء بتجميع فريق جديد لهندسة السلامة والأمن في مجال الذكاء الاصطناعي، وفقًا لمجموعة من قوائم الوظائف التي تم نشرها في أواخر الشهر الماضي، مما يشير إلى أن عملاق الرقائق يجعل السلامة أولوية أكبر حتى في الوقت الذي يراهن فيه بقوة على مستقبل تشكله نماذج الوزن المفتوح والوكلاء المستقلون.

تُظهر حملة التوظيف، التي أبلغ عنها Business Insider، أن Nvidia تبحث عن "مهندس متميز" ليكون بمثابة قائد تقني مؤسس للفريق المُجمَّع حديثًا، جنبًا إلى جنب مع مهندس أبحاث أمنية ومتخصصين آخرين. وتأتي هذه الخطوة في الوقت الذي تعمل فيه الشركة على تعميق التزامها بالذكاء الاصطناعي ذو الوزن المفتوح، وبينما تواجه الصناعة الأوسع موجة من الحوادث الأمنية التي تنطوي على أنظمة الذكاء الاصطناعي. بالنسبة للقراء الذين يتابعون دورة أخبار الذكاء الاصطناعي العاجلة، يعد هذا التطور بمثابة إشارة واضحة: فالشركة التي تبيع المعاول والمجارف التي نتجت عن حمى البحث عن الذهب باستخدام الذكاء الاصطناعي تريد الآن دورًا أكبر في التأكد من أن هذه الأدوات آمنة للاستخدام.

ما تكشفه قوائم الوظائف

وفقًا لموقع Business Insider، تم وصف الفريق الجديد في إحدى القوائم بأنه متأصل في مبادئ التطوير الآمن للذكاء الاصطناعي. تقوم Nvidia بتعيين مهندس متميز ليكون بمثابة "القائد الفني المؤسس" للمجموعة، وهي عبارة تشير إلى أن الفريق يتم بناؤه من الألف إلى الياء بدلاً من توسيعه من وحدة موجودة. تقوم الشركة أيضًا بتعيين مهندس أبحاث أمنية يركز على الذكاء الاصطناعي.

يشير التوظيف إلى أن Nvidia تجعل سلامة الذكاء الاصطناعي أولوية رسمية أكثر تعمدًا لأنها تميل إلى استراتيجية تتمحور حول نماذج الوزن المفتوح ووكلاء الذكاء الاصطناعي. تجعل نماذج الوزن المفتوح "أوزانها" المدربة - المعلمات التي تحدد كيفية تصرف النموذج - متاحة للعامة، حتى لو ظلت بيانات التدريب وكود المصدر خاصين بها. يعمل هذا الانفتاح على تسريع الابتكار ويسمح للمطورين بتشغيل النماذج على أجهزة Nvidia، ولكنه يثير أيضًا أسئلة أمنية مغلقة، ويمكن للأنظمة ذات بوابة API أن تتجنبها.

لماذا ترفع النماذج ذات الوزن المفتوح المخاطر؟

تحتل النماذج ذات الوزن المفتوح موقعًا معقدًا في النقاش حول سلامة الذكاء الاصطناعي. من خلال إطلاق الأوزان علنًا، تمكن المختبرات مجتمعًا عالميًا من الباحثين والمطورين من فحص النماذج القوية وضبطها ونشرها - غالبًا على وحدات معالجة الرسومات الخاصة بشركة Nvidia. يعد هذا الانفتاح بمثابة نعمة حقيقية للتقدم العلمي ولأعمال Nvidia. ولكنه يعني أيضًا أنه بمجرد انتهاء الأوزان، يفقد المختبر السيطرة على كيفية استخدام النموذج أو تعديله أو إساءة استخدامه.

يمكن للممثل الخبيث الذي يقوم بتنزيل نموذج مفتوح الوزن أن يحاول إزالة حواجز السلامة، أو إعادة استخدام النموذج للهجمات الإلكترونية، أو دمجه مع أدوات أخرى بطرق لم يقصدها منشئوها أبدًا. على عكس النموذج الذي يتم تقديمه خلف واجهة برمجة التطبيقات - حيث يمكن للمشغل مراقبة الاستخدام وطلبات الحد الأقصى للمعدل وإلغاء الوصول - يعمل النموذج ذو الوزن المفتوح أينما كان لدى شخص ما الأجهزة اللازمة لتشغيله. وهذا هو بالتحديد السبب الذي يجعل الشركة التي تستثمر في الذكاء الاصطناعي المفتوح تريد أيضًا فريقًا متخصصًا للسلامة والأمن: فالاستراتيجيتان وجهان لعملة واحدة.

وبالتالي فإن المصالح التجارية لشركة Nvidia ووضعها الأمني ​​مرتبطان ارتباطًا وثيقًا. كلما شجعت الشركة اعتماد الوزن المفتوح، كلما استفادت أكثر من أن يُنظر إليها على أنها مشرف مسؤول عن هذا النظام البيئي.

حسابات صناعية أوسع بشأن أمن الذكاء الاصطناعي

الفريق الجديد لا يأتي من فراغ. يتزامن توظيف Nvidia مع المرحلة التي انتقل فيها أمن الذكاء الاصطناعي من اهتمام مجرد إلى مشكلة ملموسة ومتكررة. شهدت الأسابيع الأخيرة سلسلة من الحوادث البارزة التي أظهر فيها عملاء الذكاء الاصطناعي القدرة على التصرف بشكل مستقل بطرق لم يتوقعها مطوروهم بشكل كامل، بما في ذلك الحالات التي تصرفت فيها الأنظمة التي تم اختبارها لأغراض الأمن السيبراني بشكل غير متوقع.

لقد كانت نفيديا نفسها في مركز استجابة الصناعة. وساعدت الشركة مؤخرًا في قيادة تحالف مفتوح وآمن للذكاء الاصطناعي يجمع أكثر من 30 شركة لوضع معايير الشفافية والسلامة في مجال الأمن السيبراني، وهو العمل الذي أحرز تقدمًا سريعًا. يبدو أن فريق السلامة الداخلي الجديد هو المكمل الداخلي لهذا التحالف الخارجي: وسيلة لتعزيز مساهمات Nvidia في حركة الذكاء الاصطناعي المفتوح.

التناقض مع بعض المنافسين ملحوظ. وقد ركزت العديد من المختبرات الحدودية على القيود وضوابط الوصول وعمليات النشر عبر البوابات باعتبارها آليات السلامة الأساسية الخاصة بها. ويعكس نهج إنفيديا - الأوزان المفتوحة المقترنة بجهاز أمان متنامٍ - فلسفة مختلفة: أن الانفتاح والأمن ليسا متضادين، وأن فريق السلامة ذو الموارد الجيدة يمكنه جعل النماذج المفتوحة قابلة للتطبيق.

ما الذي يشير إليه حول استراتيجية Nvidia

بالنسبة لنفيديا، حسابات التفاضل والتكامل واضحة. يتمثل العمل الأساسي للشركة في بيع الأجهزة التي تقوم بتشغيل الذكاء الاصطناعي، وتعد النماذج ذات الوزن المفتوح محركًا قويًا للطلب على الأجهزة: عندما يتمكن أي شخص من تنزيل نموذج قادر، يصبح أي شخص لديه ميزانية أحد عملاء Nvidia المحتملين. إن الاستثمار في سلامة الذكاء الاصطناعي يحمي دولاب الموازنة من خلال تقليل مخاطر ارتباط النماذج المفتوحة بأضرار قد تستدعي تنظيمًا صارمًا أو رد فعل عنيفًا من جانب المستهلك.

يعد بناء فريق متخصص لهندسة السلامة والأمن بمثابة إشارة توظيف أيضًا. هناك طلب غير عادي على كبار الباحثين في مجال سلامة الذكاء الاصطناعي، ويمكن لفريق موثوق بقيادة مهندس متميز أن يساعد شركة Nvidia في جذب المواهب التي قد تنجذب نحو المختبرات الحدودية. ويمكن لهذه الموهبة بدورها أن تشكل معايير الصناعة، مما يمنح إنفيديا تأثيرًا على قواعد النظام البيئي المفتوح للذكاء الاصطناعي الذي تساعد في بنائه.

الطريق إلى الأمام

لم تقم Nvidia بتفصيل خريطة طريق عامة لعمل الفريق الجديد، وتشير القوائم إلى أن المجموعة لا تزال في طور التبلور. لكن الاتجاه لا لبس فيه. مع قيام وكلاء الذكاء الاصطناعي بتطوير نماذج أكثر قدرة ونشرًا على نطاق أوسع، فإن الشركة التي تدعم الكثير من الذكاء الاصطناعي في العالم تقوم الآن بتجميع الأشخاص للمساعدة في الحفاظ على هذه القوة تحت السيطرة.

ستظهر الأشهر المقبلة ما إذا كان رهان السلامة الخاص بشركة Nvidia قادرًا على مواكبة طموحاتها التجارية، وما إذا كان مستقبل الذكاء الاصطناعي المفتوح يمكن أن يكون مبتكرًا وآمنًا.

ابق في صدارة الذكاء الاصطناعي

إن تقاطع سلامة الذكاء الاصطناعي والنماذج المفتوحة والأجهزة يتحرك بسرعة. تابع [تغطية صناعة الذكاء الاصطناعي] (https://aibuzzwire.news) للاطلاع على التقارير المستمرة عن Nvidia والمختبرات الحدودية والسياسات التي تشكلها.

اقرأ المزيد من أخبار الذكاء الاصطناعي →