أعلنت شركة OpenAI في 5 أكتوبر أنها ستبدأ في إضافة علامات مائية غير مرئية إلى النص الذي تم إنشاؤه بواسطة ChatGPT وCodex للمستخدمين في الاتحاد الأوروبي، وهو ردها الملموس على قواعد مصدر النص في قانون الاتحاد الأوروبي للذكاء الاصطناعي. وفي تدوينة بعنوان "نهجنا تجاه قواعد مصدر النص في الاتحاد الأوروبي"، قالت الشركة إن العلامة المائية سيتم طرحها "خلال الأسابيع المقبلة" للمخرجات المؤهلة في الكتلة، وهي خطة تم الإبلاغ عنها في نفس اليوم بواسطة TechCrunch وThe Verge وBleepingComputer وEngadget ومنافذ أخرى.
التكنولوجيا وراء التغيير تسمى textGrain. بدلاً من تضمين علامة مرئية، يعمل textGrain عن طريق توجيه اختيارات الكلمات للنموذج بمهارة بحيث يحمل النص الناتج نمطًا إحصائيًا يمكن اكتشافه لاحقًا. لن يلاحظ القراء شيئًا عند استهلاك أو نسخ النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي؛ يتطلب الكشف الوصول إلى كاشف OpenAI، وهو غير متاح لعامة الناس. لإلقاء نظرة أوسع على كيفية تصادم الهيئات التنظيمية والمختبرات حول قواعد الذكاء الاصطناعي، اتبع التغطية المستمرة لسياسة الذكاء الاصطناعي لدينا.
كيف تعمل العلامة المائية textGrain
يعدل نهج OpenAI عملية اختيار الرمز المميز أثناء الإنشاء. وتقول الشركة إن textGrain "يغير قليلاً اختيارات الكلمات للنموذج لإنشاء نمط إحصائي يمكن اكتشافه لاحقًا"، وفقًا لتقارير BleepingComputer. تكون العلامة المائية غير مرئية عند قراءة النص أو نسخه، وتدعي شركة OpenAI أنها لا تقلل من جودة الإخراج.
تم تقييد جانب الكشف عمدا. إلى جانب إطلاق العلامة المائية، تفتح شركة OpenAI تطبيقات للكشف عن العلامة المائية الخاصة بها، ولكن الوصول سيقتصر في البداية على الباحثين المعتمدين والمنظمات المتخصصة. يحافظ هذا التصميم على القدرة على الكشف بعيدًا عن أيدي أي شخص يأمل في استخدامه كسلاح، ولكنه يعني أيضًا أن الناشرين والمعلمين وأصحاب العمل لا يمكنهم التحقق بشكل مستقل مما إذا كان هناك علامة مائية على جزء من النص.
الوصول إلى واجهة برمجة التطبيقات (API) متاح في جميع أنحاء العالم
ينطبق تفويض الاتحاد الأوروبي على مخرجات ChatGPT وCodex في الكتلة، لكن OpenAI تمنح المطورين في كل مكان خيارًا في الوقت نفسه. بدءًا من 5 أكتوبر، يمكن لمطوري واجهة برمجة التطبيقات (API) في جميع أنحاء العالم الاشتراك في وضع علامة مائية نصية للنماذج المدعومة. تظل هذه الميزة معطلة افتراضيًا في واجهة برمجة التطبيقات (API)، وهو القرار الذي أبرزته The New Stack على النقيض من نهج Anthropic، الذي قام بتشغيل تحديد المصدر لحركة المرور في الاتحاد الأوروبي في وقت سابق من هذا العام في استجابتها لنفس القواعد.
سيعمل موقف الاشتراك هذا على طمأنة المطورين القلقين بشأن الآثار الجانبية غير المتوقعة. تعمل العلامة المائية الإحصائية على تغيير كيفية أخذ عينات الرموز المميزة، وأي تعديل على الإنشاء يحمل على الأقل خطرًا نظريًا لتغيير السلوك في حالات الحافة. من خلال جعل العلامة المائية علامة بدلاً من علامة افتراضية، تنقل OpenAI قرار الامتثال إلى الشركات التي تعتمد على نماذجها.
لماذا فرض قانون الاتحاد الأوروبي بشأن الذكاء الاصطناعي ذلك؟
تتطلب أحكام الشفافية في قانون الاتحاد الأوروبي للذكاء الاصطناعي أن يكون النص الناتج عن الذكاء الاصطناعي قابلاً للتعريف على أنه تم إنشاؤه آليًا، وهو الالتزام الذي دفع كلاً من OpenAI وAnthropic نحو مخططات العلامات المائية الإحصائية. يصور منشور مدونة OpenAI تطبيق textGrain باعتباره تنفيذًا لمتطلبات المصدر هذه، وقد أبلغت PYMNTS عن الطرح على أنه يلبي OpenAI "تفويضات قانون الذكاء الاصطناعي للاتحاد الأوروبي" مباشرةً.
التوقيت ملحوظ. يأتي إعلان العلامة المائية وسط امتداد مضطرب بشكل غير عادي للموقف العام لشركة OpenAI: جلبت دورة الأخبار نفسها رحيل قائد السلامة ديفيد روبنسون، وتحقيق لجنة التجارة الفيدرالية (FTC) في مخاطر المستهلك في مختبرات الذكاء الاصطناعي الكبرى، وأجواء الدعاوى القضائية للمساهمين التي أبقت الشركة تحت التدقيق. تُعد العلامة المائية أحد المطالب التنظيمية القليلة التي يمكن لـ OpenAI تلبيتها بالكامل من خلال البنية التحتية بدلاً من تغييرات المنتج، وهو ما قد يفسر سبب شحنها أولاً.
المشكلة: تنكسر العلامات المائية أثناء التحرير
تعترف OpenAI بحد ذاتها بالقيد الأساسي. تعترف الشركة بأن علامتها المائية يمكن أن تختفي عندما يتم تحرير النص، وعقود من البحث في إخفاء المعلومات اللغوية تدعم هذا القلق: إعادة الصياغة، والترجمة، أو حتى إعادة الكتابة المتواضعة يمكن أن تدمر العلامات المائية الإحصائية. من المرجح أن ينجح أي شخص مصمم على غسل نص الذكاء الاصطناعي من خلال أداة "إضفاء طابع إنساني".
ولم يمنع هذا الضعف الجهات التنظيمية من المطالبة بوضع علامة مائية، ولم يمنع المختبرات من شحنها. الهدف الواقعي ليس هو الأصل المقاوم للتلاعب، بل رفع تكلفة الخداع العرضي على نطاق واسع، وهو نفس المنطق الذي يحكم العلامات المائية للعملة. يجادل النقاد، بما في ذلك بعض مجموعات سلامة الذكاء الاصطناعي الذين كانوا متشككين في تدابير الصناعة الطوعية، بأن أجهزة الكشف التي لا يمكن الوصول إليها إلا من قبل المنظمات المعتمدة لا تفعل الكثير للمعلمين، أو المحررين، أو المنصات التي تحاول فرض سياسات محتوى الذكاء الاصطناعي الخاصة بها.
ماذا يعني بالنسبة للمستخدمين والمطورين
بالنسبة لمستخدمي ChatGPT وCodex داخل الاتحاد الأوروبي، لن يتغير شيء بشكل واضح. سيبدو النص بنفس الشكل والمظهر، ولن تظهر أي تسمية على المخرجات. ستكون العلامة المائية موجودة ببساطة، ويمكن اكتشافها من حيث المبدأ من قبل شركاء OpenAI المعتمدين.
بالنسبة للمطورين، تصل علامة واجهة برمجة التطبيقات (API) على الفور وتستحق التقييم بعناية: فتشغيلها يعني قبول تغييرات طفيفة على أخذ عينات الرمز المميز عبر كل عملية إكمال، حتى بالنسبة للمستخدمين من خارج الاتحاد الأوروبي، نظرًا لأن إعداد واجهة برمجة التطبيقات (API) عالمي. قد ترغب الفرق ذات زمن الوصول الصارم أو ميزانيات الجودة في قياس إنشاء العلامة المائية مقابل الإعداد الحالي قبل تشغيل المفتاح.
يقول OpenAI أن المزيد من التفاصيل حول النماذج المؤهلة وستصل عملية تطبيق الكاشف في الأسابيع المقبلة. وبما أن المختبرات الأخرى تواجه نفس التزامات الاتحاد الأوروبي، فمن غير المرجح أن يكون textGrain هو آخر نظام للعلامات المائية تنشره الصناعة هذا العام.
البقاء في صدارة الذكاء الاصطناعي
تعمل اللوائح التنظيمية على إعادة تشكيل كيفية عمل منتجات الذكاء الاصطناعي تحت الغطاء. احصل على أحدث تطورات الذكاء الاصطناعي على AI Buzz Wire، مع تحديث تحليل السياسات وأخبار النماذج على مدار اليوم.
اقرأ المزيد من أخبار الذكاء الاصطناعي هنا.
