مع تدفق الوسائط التي تم إنشاؤها بواسطة الذكاء الاصطناعي على الإنترنت، برزت تقنية العلامات المائية SynthID من Google كواحدة من أبرز الأدوات لتمييز المحتوى الأصلي عن الصور الاصطناعية. يؤكد اختبار التحمل الجديد الصارم أن العلامة المائية غير المرئية متينة بشكل ملحوظ، حيث نجت من مئات جولات الضغط وتغيير الحجم وحتى لقطات الشاشة، لكن النتائج تؤكد أيضًا حقيقة أصعب: من غير المرجح أن تحل العلامات الفنية وحدها الأزمة المتزايدة للمعلومات المضللة الخاصة بالذكاء الاصطناعي. بالنسبة إلى التقارير المستمرة حول [أحدث تطورات الذكاء الاصطناعي] (https://aibuzzwire.news)، تمثل النتائج نقطة تفتيش مهمة في الجدل الدائر حول مصدر المحتوى.

ومن الصعب المبالغة في تقدير حجم المشكلة. ويقدر مختبر ستارلينج، وهو تعاون بحثي بين جامعة ستانفورد وجامعة جنوب كاليفورنيا، أن الأمر استغرق حتى عام 1975، أي بعد 149 عامًا من اختراع الكاميرا، حتى تتمكن البشرية من إنتاج 1.5 مليار صورة. وقد طابق الذكاء الاصطناعي التوليدي هذا الناتج في 18 شهرًا فقط. في مؤتمرها I/O هذا العام، أعلنت جوجل أن أدواتها وحدها قد استخدمت لإنشاء أكثر من 100 مليار صورة وفيديو مدعوم بالذكاء الاصطناعي في غضون عامين.

كيف يعمل SynthID

يوجد حاليًا طريقتان رئيسيتان لتصنيف المحتوى الناتج عن الذكاء الاصطناعي: العلامات المائية غير المرئية مثل SynthID ومخططات البيانات الوصفية مثل معيار Coalition for Content Provenance and Authenticity (C2PA). يستخدم جوجل كليهما. C2PA آمن من الناحية المشفرة ولا يمكن تزويره، ولكن من السهل تجريده. إن مجرد تحرير صورة وحفظها، أو التقاط لقطة شاشة، يمكن أن يؤدي إلى إزالة البيانات التعريفية لـ C2PA بالكامل.

يأخذ SynthID نهجا مختلفا. بدلاً من الاعتماد على البيانات الوصفية الموجودة بجانب الملف، يتم تشفير العلامة المائية مباشرة في وحدات بكسل الصورة أو الفيديو، أو في الشكل الموجي لمقطع صوتي. ونظرًا لأن الإشارة مدمجة في المحتوى نفسه، فقد جادلت جوجل بأنها يجب أن تنجو من التحويلات والضغط والاقتصاص وإعادة التشفير التي تحدث بشكل طبيعي مع مرور الوسائط عبر الإنترنت.

اختبار الإجهاد للإشارة على مستوى البكسل

وضعت Ars Technica هذه الادعاءات على المحك باستخدام برنامج Python النصي المبني على مكتبة تصوير الوسادة. قام البرنامج النصي بمحاكاة فقدان البيانات من المشاركة المتكررة والتنزيل بمعدل متسارع إلى حد كبير، وتطبيق ضغط عشوائي وتغيير حجم القيم على صورة اختبارية وتغذية كل مخرجات مرة أخرى كأساس للتكرار التالي. تم استخدام صورتين تم إنشاؤها بواسطة الذكاء الاصطناعي من نموذج Nano Banana Pro من Google، واحدة تم إنشاؤها بالكامل من الصفر والأخرى صورة أصلية تم تحريرها بواسطة الذكاء الاصطناعي، كمواضيع اختبار.

بعد 300 جيل من محاكاة المشاركة، والتي تم خلالها تحلل النسخ الأصلية الواضحة إلى نقاط يصعب التعرف عليها، ظلت العلامة المائية SynthID مسجلة على كلتا الصورتين. حتى أن العلامة المائية نجت من لقطات الشاشة الكاملة، لأن وحدات البكسل الخاصة بالعلامة تنتقل إلى الملف الجديد. كل 50 جيلًا، كان المُختبر ينتج أيضًا نسخًا مقصوصة لإضعاف عملية الكشف بشكل أكبر.

حيث ينكسر SynthID أخيرًا

ولم تظهر حدود التكنولوجيا إلا في ظل الظروف القاسية. بعد 300 دورة ضغط، أدت إزالة عدد قليل من وحدات البكسل من حدود صور الاختبار المتدهورة إلى تعطيل SynthID في كل من الصور التي تم إنشاؤها بالكامل والصور التي تم تحريرها بواسطة الذكاء الاصطناعي. نظرًا لأن إشارة العلامة المائية موزعة عبر وحدات البكسل، فإنها تقاوم الاقتصاص العرضي، ولكن بمجرد تراكم ما يكفي من التدهور، يمكن التغلب على الكاشف.

أخبر عالم Google DeepMind Pushmeet Kohli Ars أن الفريق صمم النظام متوقعًا تعرضه للهجوم. وقال كوهلي: "خلال عملية التطوير برمتها، افترضنا نوعًا ما أن تقنية كهذه ستتعرض للهجوم". "لذلك قمنا بالكثير من الأبحاث لجعل SynthID قويًا لأنواع مختلفة من التحويلات. سواء كان الأشخاص يضيفون نوعًا من المرشحات أو يقصون الصورة، استخدمنا هذه التحويلات وتأكدنا من أن الكاشف قوي ضدها."

توسع العلامات المائية عبر الصناعة

يصل الاختبار مع اتساع نطاق اعتماد SynthID إلى ما هو أبعد من منتجات Google الخاصة. أبرمت الشركة شراكات لتوسيع استخدام العلامة المائية، مع OpenAI وRunway وNvidia من بين الشركات التي بدأت في دمج التكنولوجيا في أدواتها التوليدية. كانت Google مترددة في إصدار الكثير من التفاصيل الفنية بما يتجاوز الورقة البحثية الأصلية، وهذا هو السبب وراء أهمية الاختبار المستقل من النوع الذي أجرته Ars مع انتشار العلامة المائية عبر مشهد الذكاء الاصطناعي.

التسميات وحدها ليست كافية

التوتر المركزي الذي كشفته التجربة هو أنه حتى العلامة المائية القوية تكون مفيدة بقدر رغبة المنصات والأشخاص في التحقق منها. لم يتم بعد دمج اكتشاف SynthID على نطاق واسع في الشبكات الاجتماعية وتطبيقات المراسلة حيث تنتشر معظم الوسائط التي تم التلاعب بها بالفعل. توفر العلامة المائية التي تصمد أمام 300 دورة ضغط القليل من الحماية إذا لم يقوم أحد من الطرف المتلقي بالمسح بحثًا عنها.

تعتبر نتائج المتانة مشجعة حقًا في مجال أصالة المحتوى. يقترحون أن العلامات المائية غير المرئية على مستوى البكسل يمكن أن تكون بمثابة العمود الفقري التقني الموثوق للمصدر. ولكن السؤال الأوسع، ما إذا كان المجتمع قادراً على بناء القواعد والبنية الأساسية والحوافز اللازمة للعمل فعلياً وفقاً لهذه الإشارات، يظل بلا إجابة. ومع استمرار ارتفاع حجم الوسائط الاصطناعية إلى ما يتجاوز 100 مليار صورة، أصبحت الفجوة بين ما يمكن أن تحدده التكنولوجيا وما ستخففه المنصات هي التحدي الأبرز.

البقاء في صدارة الذكاء الاصطناعي

يمكنك متابعة أخبار الذكاء الاصطناعي العاجلة التي تشكل السياسات والأبحاث والمنصات التي تعيد تشكيل الإنترنت.

اقرأ المزيد من أخبار الذكاء الاصطناعي