جیسا کہ AI سے تیار کردہ میڈیا انٹرنیٹ پر بھرا ہوا ہے، Google کی SynthID واٹر مارکنگ ٹیکنالوجی مصنوعی تصویروں سے مستند مواد کو الگ کرنے کے لیے سب سے نمایاں ٹولز کے طور پر ابھری ہے۔ ایک سخت نئے تناؤ کا ٹیسٹ اس بات کی تصدیق کرتا ہے کہ غیر مرئی واٹر مارک نمایاں طور پر پائیدار ہے، سینکڑوں راؤنڈ کمپریشن، سائز تبدیل کرنے، اور یہاں تک کہ اسکرین شاٹس سے بھی بچتا ہے، لیکن نتائج ایک سخت سچائی کی نشاندہی بھی کرتے ہیں: اکیلے تکنیکی لیبلز سے AI ڈس انفارمیشن کے بڑھتے ہوئے بحران کو حل کرنے کا امکان نہیں ہے۔ تازہ ترین AI پیشرفت پر جاری رپورٹنگ کے لیے، نتائج مواد کی بنیاد پر ہونے والی بحث میں ایک اہم چوکی کو نشان زد کرتے ہیں۔
مسئلہ کے پیمانے کو بڑھانا مشکل ہے۔ سٹارلنگ لیب، سٹینفورڈ یونیورسٹی اور یونیورسٹی آف سدرن کیلیفورنیا کے درمیان ایک تحقیقی تعاون کا تخمینہ ہے کہ 1975 تک، کیمرے کی ایجاد کے 149 سال بعد، انسانیت کو 1.5 بلین تصاویر بنانے میں لگ گئے۔ جنریٹو اے آئی نے صرف 18 مہینوں میں اس آؤٹ پٹ سے میل کھا لیا۔ اس سال اپنی I/O کانفرنس میں، گوگل نے اعلان کیا کہ صرف اس کے ٹولز کو چند سالوں میں 100 بلین سے زیادہ AI امیجز اور ویڈیوز بنانے کے لیے استعمال کیا گیا ہے۔
SynthID کیسے کام کرتا ہے۔
فی الحال AI سے تیار کردہ مواد کو لیبل لگانے کے لیے دو اہم طریقے ہیں: غیر مرئی واٹر مارکس جیسے SynthID اور میٹا ڈیٹا اسکیماس جیسے کولیشن فار کنٹینٹ پرووینس اینڈ آتھنٹیسیٹی (C2PA) معیار۔ گوگل دونوں کو استعمال کرتا ہے۔ C2PA خفیہ طور پر محفوظ ہے اور اسے جعلی نہیں بنایا جا سکتا، لیکن اسے اتارنا معمولی حد تک آسان ہے۔ بس تصویر میں ترمیم اور محفوظ کرنا، یا اسکرین شاٹ لینا، C2PA میٹا ڈیٹا کو مکمل طور پر ہٹا سکتا ہے۔
SynthID ایک مختلف طریقہ اختیار کرتا ہے۔ فائل کے ساتھ بیٹھنے والے میٹا ڈیٹا پر انحصار کرنے کے بجائے، واٹر مارک کو براہ راست کسی تصویر یا ویڈیو کے پکسلز میں، یا آڈیو کلپ کے ویو فارم میں انکوڈ کیا جاتا ہے۔ چونکہ سگنل خود مواد میں بُنا جاتا ہے، گوگل نے استدلال کیا ہے کہ اسے ان تبدیلیوں، کمپریشن، کراپنگ، اور دوبارہ انکوڈنگ سے بچنا چاہیے جو کہ قدرتی طور پر ہوتا ہے جب میڈیا انٹرنیٹ کے گرد گزرتا ہے۔
پکسل لیول سگنل کے لیے اسٹریس ٹیسٹ
آرس ٹیکنیکا نے ان دعوؤں کو پِلو امیجنگ لائبریری پر بنے ہوئے ایک ازگر اسکرپٹ کا استعمال کرتے ہوئے جانچا۔ اسکرپٹ نے ایک بہت تیز رفتار شرح پر بار بار شیئرنگ اور ڈاؤن لوڈ کرنے، بے ترتیب کمپریشن کو لاگو کرنے اور ٹیسٹ امیج میں قدروں کا سائز تبدیل کرنے اور ہر آؤٹ پٹ کو اگلی تکرار کی بنیاد کے طور پر واپس کرنے سے ڈیٹا کے نقصان کو نقل کیا۔ گوگل کے نینو کیلے پرو ماڈل سے دو AI سے تیار کردہ تصاویر، ایک مکمل طور پر شروع سے بنائی گئی اور ایک اصل تصویر AI کے ذریعے ایڈٹ کی گئی، ٹیسٹ کے مضامین کے طور پر پیش کی گئی۔
نقلی اشتراک کی 300 نسلوں کے بعد، جس کے دوران کرکرا اصلیوں کو بمشکل پہچانے جانے والے بلاب میں تبدیل کر دیا گیا، SynthID واٹر مارک اب بھی دونوں تصاویر پر رجسٹرڈ ہے۔ واٹر مارک مکمل اسکرین شاٹس سے بھی بچ گیا، کیونکہ خصوصی مارکر پکسلز نئی فائل میں منتقل ہو جاتے ہیں۔ ہر 50 نسلوں میں ٹیسٹر نے کھوج کو مزید کمزور کرنے کے لیے تراشے ہوئے ورژن بھی تیار کیے ہیں۔
جہاں SynthID آخر میں ٹوٹ جاتا ہے۔
ٹیکنالوجی کی حدود صرف انتہائی حالات میں سامنے آئیں۔ 300 کمپریشن سائیکلوں کے بعد، انحطاط شدہ ٹیسٹ امیجز کے بارڈر سے مٹھی بھر پکسلز کو ہٹانے سے آخر کار مکمل طور پر تیار کردہ اور AI میں ترمیم شدہ تصاویر دونوں پر SynthID ٹوٹ گیا۔ چونکہ واٹر مارک سگنل پورے پکسلز میں تقسیم ہوتا ہے، اس لیے یہ آرام دہ اور پرسکون فصل کی مزاحمت کرتا ہے، لیکن ایک بار جب کافی انحطاط جمع ہو جاتا ہے، تو پکڑنے والے کو شکست دی جا سکتی ہے۔
گوگل ڈیپ مائنڈ کے سائنسدان پشمیت کوہلی نے آرس کو بتایا کہ ٹیم نے اس سسٹم کو اس امید کے ساتھ ڈیزائن کیا کہ اس پر حملہ کیا جائے گا۔ کوہلی نے کہا، "پورے ترقی کے عمل کے ذریعے، ہم نے یہ فرض کیا کہ اس طرح کی ٹیکنالوجی پر حملہ کیا جائے گا۔" "لہذا ہم نے مختلف قسم کی تبدیلیوں کے لیے SynthID کو مضبوط بنانے کے لیے کافی تحقیق کی۔ چاہے لوگ کسی قسم کا فلٹر شامل کر رہے ہوں یا تصویر کو تراش رہے ہوں، ہم نے ان تبدیلیوں کو استعمال کیا اور اس بات کو یقینی بنایا کہ پکڑنے والا ان کے خلاف مضبوط ہے۔"
واٹر مارکس پوری صنعت میں پھیلتے ہیں۔
یہ ٹیسٹ اس وقت آیا جب SynthID کو اپنانا گوگل کی اپنی مصنوعات سے آگے بڑھ رہا ہے۔ کمپنی نے واٹر مارک کے استعمال کو بڑھانے کے لیے شراکت داری کی ہے، OpenAI، Runway، اور Nvidia کے ساتھ جو ٹیکنالوجی کو اپنے جنریٹیو ٹولز میں ضم کرنا شروع کر رہے ہیں۔ گوگل اصل تحقیقی مقالے سے ہٹ کر زیادہ تکنیکی تفصیلات جاری کرنے سے گریزاں رہا ہے، یہی وجہ ہے کہ Ars کی آزادانہ جانچ نے معاملات کیے کیونکہ واٹر مارک AI زمین کی تزئین میں پھیلتا ہے۔
اکیلے لیبل کافی نہیں ہیں۔
تجربہ جس مرکزی تناؤ کو ظاہر کرتا ہے وہ یہ ہے کہ ایک مضبوط واٹر مارک بھی اتنا ہی مفید ہے جتنا پلیٹ فارمز اور لوگوں کی اس کی جانچ کرنے کی خواہش۔ SynthID کا پتہ لگانے کو ابھی تک وسیع پیمانے پر سوشل نیٹ ورکس اور میسجنگ ایپس میں نہیں بنایا گیا ہے جہاں زیادہ تر ہیرا پھیری والا میڈیا حقیقت میں پھیلتا ہے۔ ایک واٹر مارک جو 300 کمپریشن سائیکلوں سے بچتا ہے وہ بہت کم تحفظ فراہم کرتا ہے اگر وصول کرنے والے سرے پر کوئی بھی اس کے لیے اسکین نہیں کر رہا ہے۔
پائیداری کے نتائج مواد کی صداقت کے شعبے کے لیے حقیقی طور پر حوصلہ افزا ہیں۔ وہ تجویز کرتے ہیں کہ پوشیدہ، پکسل لیول واٹر مارکنگ ایک قابل اعتماد تکنیکی ریڑھ کی ہڈی کے طور پر کام کر سکتی ہے۔ لیکن وسیع تر سوال، کیا معاشرہ ان اشاروں پر عمل کرنے کے لیے اصول، بنیادی ڈھانچہ، اور مراعات بنا سکتا ہے، حل طلب ہے۔ جیسا کہ مصنوعی میڈیا کا حجم 100-بلین تصویری سنگ میل سے آگے بڑھتا جا رہا ہے، ٹیکنالوجی کس چیز کو نشان زد کر سکتی ہے اور کون سا پلیٹ فارم اعتدال پسند کرے گا اس کے درمیان فرق ایک اہم چیلنج بنتا جا رہا ہے۔
