أعلنت OpenAI يوم الأربعاء أنها تقدم الاحتفاظ بالبيانات الصفرية (ZDR) لنماذجها الرائدة واستعرضت نظامًا جديدًا يسمى معالجة السلامة الخاصة، المصمم لاكتشاف سوء الاستخدام عبر تفاعلات متعددة دون منح الشركة إمكانية الوصول إلى محتوى العميل. ترسم هذه الخطوة خطًا حادًا ضد المنافسين: ذكرت Axios أن هذا الإعلان يأتي في الوقت الذي تطلب فيه Anthropic الآن من العملاء السماح بسجلات البيانات، ولاحظ Firstpost التناقض مع تحرك Anthropic إلى الاحتفاظ بالبيانات لمدة 30 يومًا.

التوقيت ليس دقيقا. لاحظت OpenAI في إعلانها أن "بعض عمليات نشر النماذج الحدودية الحديثة تطلبت من العملاء السماح لمزود الذكاء الاصطناعي الخاص بهم بالاحتفاظ بالمحتوى الحساس لمراقبة السلامة" - وهي متطلبات تقول الشركة إنها "تتعارض مع التزاماتهم أو التزاماتهم الأمنية تجاه الأشخاص الذين يخدمونهم". تضع الشركة الخصوصية كسلاح تنافسي في المنافسة على عملاء المؤسسات الخاضعين للتنظيم. لمزيد من السياق حول هذه القصة، راجع تغطية صناعة الذكاء الاصطناعي.

ما يعد به الاحتفاظ بالبيانات الصفرية

بموجب عرض ZDR، يحصل عملاء واجهة برمجة التطبيقات (API) المؤهلون على ما تصفه OpenAI بأنه "وعد واضح": لا تحتفظ OpenAI بالمطالبات أو الاستجابات النموذجية بعد معالجة الطلب. محتوى العميل غير متاح لموظفي OpenAI للمراجعة، ولا يتم استخدام بيانات عملاء المؤسسة لتدريب نماذج OpenAI ما لم يقوم العملاء بالاشتراك بشكل صريح.

بالنسبة للبنوك والمستشفيات ومكاتب المحاماة التي تدرس تبني الذكاء الاصطناعي، فإن هذه الالتزامات تعالج أكثر الأمور شيوعًا التي تفسد الصفقات: خطر تخزين المواد الحساسة التي تتدفق عبر أنظمة مزود الذكاء الاصطناعي، أو قراءتها، أو استيعابها في النماذج المستقبلية. تشير OpenAI إلى أن المنظمات التي تعمل معها تتعامل مع "السجلات المالية والبيانات الصحية وخطط العمل السرية والأبحاث الخاصة".

تم حل مشكلة الاحتفاظ بالسلامة

ويعترف الإعلان أيضًا بوجود توتر فني حقيقي. وكما تصفها شركة OpenAI نفسها، فإن أخطر المخاطر التي تهدد سلامة الذكاء الاصطناعي لا تكون مرئية دائمًا في تفاعل واحد. لا يمكن أن تصبح النوايا الضارة واضحة إلا عندما يتم النظر إلى تفاعلات متعددة معًا - عندما تقوم الجهات الفاعلة السيئة بالتحقق بشكل متكرر من الضمانات، أو التنسيق عبر الحسابات، أو إخفاء التهديدات كأبحاث روتينية، أو عندما يستمر عميل الذكاء الاصطناعي في التصرف بعد أن يُطلب منه التوقف.

وتقوم أنظمة السلامة الحالية المتوافقة مع ZDR بتقييم كل تفاعل على حدة، وهو ما يعني مرور المخاطر القائمة على النمط. مقدمو الخدمات الذين استجابوا بطلب الاحتفاظ قاموا بحل مشكلة واحدة عن طريق إنشاء مشكلة أخرى، مما أجبر العملاء على الاختيار بين مراقبة السلامة والتزامات الخصوصية الخاصة بهم.

كيف تعمل معالجة السلامة الخاصة

القرار المقترح لـ OpenAI هو قرار معماري. ضمن معالجة السلامة الخاصة، يظل محتوى العميل على البنية التحتية التي يتحكم فيها العميل - أو، في خيار لا يزال قيد التطوير، يتم تخزينه على بنية OpenAI الأساسية المشفرة بمفاتيح يتحكم فيها العميل. تقوم الأنظمة الآلية بعد ذلك بتحليل الأنماط عبر التفاعلات ذات الصلة وإرجاع "إشارات أمان محدودة" - إشارات حول سوء الاستخدام المحتمل - دون الكشف عن المطالبات أو الاستجابات الأساسية لموظفي OpenAI.

يقوم العملاء بالتحقيق في التنبيهات باستخدام المعلومات المتوفرة في أنظمتهم الخاصة. إذا أرادوا استئناف قرار التنفيذ، أو توضيح النشاط المشروع، أو دعم التحقيق في إساءة الاستخدام التي تم التحقق منها، فيمكنهم اختيار مشاركة المعلومات ذات الصلة مع OpenAI. بمعنى آخر، تصبح الخصوصية هي الخيار الافتراضي والإفصاح للعميل.

يتم حاليًا اختبار النظام مع العملاء الأوائل. تقول OpenAI إنها تخطط لبدء طرح معالجة السلامة الخاصة ونشر ورقة بيضاء تقنية في سبتمبر.

ثقة المؤسسة كسوق

وصل الإعلان مصحوبًا بشهادة أحد العملاء التي تبدو وكأنها حجة شراء. قال سونيل أغراوال، كبير مسؤولي أمن المعلومات في Glean، والذي نُشر اقتباسه من OpenAI بجانب المنشور: "يعتمد اعتماد الذكاء الاصطناعي في المؤسسات فقط على تحكم العميل في البيانات، مع عدم وجود استخدام مباشر أو مشتق يتجاوز الخدمة المختارة". "مع زيادة قدرة النماذج، تُظهر OpenAI أن السلامة يمكن أن تتقدم دون المساس بالخصوصية والتحكم الذي يدعم ثقة المؤسسة."

تقوم OpenAI بتأطير المعاينة كاستجابة للطلب، قائلة إنها سمعت من العملاء "بصوت عال وواضح أنهم بحاجة إلى القدرة على التنبؤ حول كيفية حماية المحتوى الخاص بهم عندما تصبح أنظمة الذكاء الاصطناعي أكثر قدرة". وتضيف الشركة أن هذا النهج يتم تشكيله من قبل العملاء "عبر الصناعات والمناطق وأحجام الشركات"، وأنه سيبقي العملاء على اطلاع بفترة زمنية كافية للتخطيط لعمليات النشر حول التغييرات.

الجدل الذي سيثيره هذا

لقد جادل الباحثون في مجال السلامة منذ فترة طويلة بأن الرؤية في أنماط الاستخدام أمر ضروري لضبط سوء الاستخدام قبل أن يسبب الضرر، وسوف يتساءل البعض عما إذا كان التحليل الآلي المشفر يمكن أن يضاهي جودة الكشف عن المراجعة البشرية. وفي الوقت نفسه، سوف يرحب المدافعون عن الخصوصية بالبنية التي تتعامل مع الوصول إلى بيانات العميل كقرار من جانب العميل وليس من صلاحيات مقدم الخدمة.

والأمر الواضح هو أن حوكمة البيانات انتقلت من التفاصيل القانونية الدقيقة إلى مركز منافسة الذكاء الاصطناعي. نظرًا لأن النماذج الحدودية تتولى مهام أطول وأكثر استقلالية في الصناعات المنظمة، فإن مسألة من يمكنه رؤية الآثار التي تتركها تلك الأنظمة وراءها - العميل أم المزود أم لا أحد - أصبحت المحور الأساسي الذي يتم من خلاله الفوز بصفقات الذكاء الاصطناعي المؤسسية أو خسارتها. لقد أوضحت شركة OpenAI الآن إجابتها بوضوح، ووضعت منافسيها في موقف الدفاع عن إجابتهم.

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →