10 جولائی 2026 کو شائع ہونے والے روئٹرز کے تجزیے کے مطابق، میٹا کا AI امیج کا پتہ لگانے کا نظام اپنی AI سے تیار کردہ نصف سے زیادہ تصاویر کی شناخت کرنے میں ناکام رہتا ہے، جب وہ 10 جولائی 2026 کو شائع ہوئی تھیں۔ AI ٹیکنالوجی اور اس کے سماجی اثرات کی جامع کوریج کے لیے، AI Buzz Wire ملاحظہ کریں۔
رائٹرز نے میٹا کے ڈیٹیکٹر کو ٹیسٹ میں ڈال دیا۔
رائٹرز نے میٹا کے اے آئی امیج ڈٹیکشن ٹول کا ایک منظم جائزہ لیا، جو مصنوعی ذہانت سے تیار کی گئی تصاویر کی شناخت کے لیے ڈیزائن کیا گیا تھا۔ نتائج حیران کن تھے: جب AI سے تیار کردہ تصاویر کو تراش لیا گیا - ایک ایسی ترمیم جس کے لیے تکنیکی مہارت کی ضرورت نہیں ہے اور اسے کسی بھی بنیادی تصویری ایڈیٹنگ ایپلی کیشن میں انجام دیا جاسکتا ہے - ڈیٹیکٹر ان میں سے تقریباً 55 فیصد کو مصنوعی طور پر جھنڈا دینے میں ناکام رہا۔
تجزیہ خاص طور پر میٹا کے اپنے AI امیج جنریشن ٹولز کے ذریعے تیار کردہ تصاویر پر مرکوز تھا، جس سے ناکامی کی شرح خاص طور پر قابل ذکر ہے۔ اگر کسی کمپنی کا پتہ لگانے کا نظام اپنے تخلیقی ماڈلز کے ذریعہ تیار کردہ مواد کی قابل اعتماد طریقے سے شناخت نہیں کرسکتا ہے، تو بیرونی نظاموں کے ذریعہ تخلیق کردہ تصاویر کا پتہ لگانے کے امکانات اور بھی غیر یقینی دکھائی دیتے ہیں۔
ان نتائج کی تصدیق متعدد ٹکنالوجی پبلیکیشنز کے ذریعہ کی گئی تھی، بشمول کرپٹو بریفنگ اور گیزموڈو، جس نے اسی طرح کے نتائج کی اطلاع دی۔ برانڈ آئیکون امیج نے نوٹ کیا کہ کٹی ہوئی تصاویر کے ساتھ ڈیٹیکٹر کی جدوجہد ڈیپ فیکس اور ہیرا پھیری والے میڈیا کے خلاف وسیع تر لڑائی کے بارے میں تشویشناک خدشات کو جنم دیتی ہے۔
کیوں کٹائی AI کی کھوج کو شکست دیتی ہے۔
AI امیج ڈٹیکٹر عام طور پر پکسل ڈیٹا میں شماریاتی نمونوں کی جانچ کرکے تصاویر کا تجزیہ کرتے ہیں جو کہ جنریٹیو ماڈلز کی خصوصیت ہیں۔ ان نمونوں میں ساخت میں لطیف نمونے، روشنی کی مستقل مزاجی، فریکوئنسی ڈومین دستخط، اور دیگر ٹیل ٹیل مارکر شامل ہو سکتے ہیں جو AI سے تیار کردہ مواد کو کیمروں کے ذریعے کھینچی گئی تصویروں سے ممتاز کرتے ہیں۔
تاہم، کاٹنا بنیادی طور پر تصویر کی ساخت کو تبدیل کرتا ہے، سیاق و سباق کی معلومات کو ہٹاتا ہے جس پر پتہ لگانے والے الگورتھم انحصار کرتے ہیں۔ جب ایک تخلیق شدہ تصویر کو کسی مخصوص علاقے پر فوکس کرنے کے لیے کاٹ دیا جاتا ہے — ایک چہرہ، ایک شے، یا ایک خاص منظر — بہت سے شماریاتی دستخط جو اسے مصنوعی کے طور پر شناخت کریں گے ختم ہو جاتے ہیں یا نمایاں طور پر تنزلی کا شکار ہو جاتے ہیں۔
یہ کمزوری میٹا کے نظام کے لیے منفرد نہیں ہے۔ سیکیورٹی محققین نے یہ ظاہر کیا ہے کہ دوسرے فراہم کنندگان سے ملتے جلتے پتہ لگانے والے ٹولز کو مختلف تصویری ہیرا پھیری کے ذریعے شکست دی جا سکتی ہے، بشمول سائز تبدیل کرنا، کمپریشن، رنگ ایڈجسٹمنٹ، اور شور کا اضافہ۔ رائٹرز کے تجزیے سے پتہ چلتا ہے کہ یہاں تک کہ سب سے بنیادی تبدیلیاں بھی ایک اہم چیلنج ہیں۔
AI امیجز کے ساتھ میٹا کا مشکل ہفتہ
میٹا کے AI امیج اقدامات کے لیے پہلے سے ہی مشکل دور کے دوران ڈیٹیکٹر کی خامیاں سامنے آئیں۔ کمپنی نے حال ہی میں انسٹاگرام کے لیے ایک AI امیج فیچر لانچ کیا تھا جو خود بخود صارفین کی عوامی تصاویر تک رسائی حاصل کرتا ہے، جس سے پرائیویسی کے حامیوں اور تخلیقی پیشہ ور افراد کی جانب سے فوری تنقید کی جاتی ہے۔
Inc.com اور ایسوسی ایٹڈ پریس کی رپورٹنگ کے مطابق، SAG-AFTRA سمیت تنظیموں کے ردعمل کا سامنا کرتے ہوئے، Meta نے اس فیچر کو متعارف کرانے کے صرف تین دن بعد روک دیا۔ کمپنی نے بالآخر اس خصوصیت کو بند کر دیا، جس نے ایک پروڈکٹ پر تیزی سے الٹ پھیر کا نشان لگایا جو انسٹاگرام کے تجربے میں نمایاں اضافہ کے طور پر رکھا گیا تھا۔
خصوصیت کی واپسی اور ڈیٹیکٹر کی دستاویزی ناکامیوں کا امتزاج ایک ایسی صنعت کی تصویر پیش کرتا ہے جو اب بھی قابل اعتماد حفاظتی تدابیر اور پتہ لگانے کے طریقہ کار کی ضرورت کے ساتھ جنریٹو AI ٹولز کی تیزی سے تعیناتی کو متوازن کرنے کے لیے جدوجہد کر رہی ہے۔
مواد کی صداقت کے لیے وسیع تر مضمرات
رائٹرز کے نتائج میں ایسے مضمرات ہیں جو میٹا کے ماحولیاتی نظام سے آگے بڑھتے ہیں۔ جیسا کہ AI سے تیار کردہ تصاویر تصویروں سے تیزی سے الگ نہیں ہوتی ہیں، مصنوعی مواد کا قابل اعتماد طریقے سے پتہ لگانے کی صلاحیت پلیٹ فارمز، پبلشرز اور پالیسی سازوں کے لیے ایک اہم چیلنج بن گئی ہے۔
سوشل میڈیا پلیٹ فارمز بشمول فیس بک، انسٹاگرام، ایکس (سابقہ ٹویٹر)، اور ٹِک ٹِک سبھی نے AI مواد کی لیبلنگ کی کسی نہ کسی شکل کو نافذ کیا ہے، لیکن ان سسٹمز کی وشوسنییتا نمایاں طور پر مختلف ہوتی ہے۔ رائٹرز کے تجزیے سے پتہ چلتا ہے کہ موجودہ پتہ لگانے والی ٹیکنالوجی سیکورٹی کا غلط احساس فراہم کر سکتی ہے، ممکنہ طور پر مصنوعی مواد کی بڑی مقدار کو ناقابل شناخت گردش کرنے کی اجازت دیتی ہے۔
یہ چیلنج AI امیج جنریٹرز کی تیز رفتار بہتری سے مزید بڑھ گیا ہے۔ جیسا کہ OpenAI، Google، Adobe، اور دیگر کے ماڈلز تیزی سے فوٹو ریئلسٹک آؤٹ پٹ تیار کرتے ہیں، ایسے نمونے جن پر پتہ لگانے کے نظام انحصار کرتے ہیں وہ زیادہ لطیف اور شناخت کرنا مشکل ہو جاتے ہیں۔ نسل اور پتہ لگانے کی صلاحیتوں کے درمیان ہتھیاروں کی دوڑ نسل کے حق میں جھکتی دکھائی دیتی ہے۔
C2PA معیاری اور صنعت کا جواب
مواد کی توثیق کے بڑھتے ہوئے چیلنج کے جواب میں، ایڈوب، مائیکروسافٹ، اور بی بی سی سمیت بڑی ٹیکنالوجی کمپنیوں نے کولیشن فار کنٹینٹ پرووینس اینڈ آتھنٹیسیٹی (C2PA) کے معیار کا مقابلہ کیا ہے۔ یہ نقطہ نظر تخلیق کے مقام پر براہ راست تصویری فائلوں میں کرپٹوگرافک دستخطوں اور میٹا ڈیٹا کو سرایت کرتا ہے، جس سے ڈاؤن اسٹریم پلیٹ فارمز میڈیا فائل کی اصلیت کی تصدیق کر سکتے ہیں۔
تاہم، C2PA رضاکارانہ اپنانے پر انحصار کرتا ہے اور معیاری پروسیسنگ کے ذریعے تصویروں سے چھین لیا جا سکتا ہے۔ ناقدین کا استدلال ہے کہ اگرچہ پرووینس ٹریکنگ تحفظ کی ایک قیمتی تہہ پیش کرتی ہے، لیکن یہ ایسے مواد کے لیے مضبوط کھوج کی صلاحیتوں کی جگہ نہیں لے سکتی جس پر کبھی دستخط نہیں کیے گئے تھے یا جن کے دستخط ہٹا دیے گئے ہیں۔
رائٹرز کا تجزیہ صنعت کو درپیش چیلنج کی مشکل کو واضح کرتا ہے۔ یہاں تک کہ سب سے بنیادی تصویری ہیرا پھیری کے ساتھ پتہ لگانے والے سرکردہ ٹولز کو شکست دے کر، AI دور میں بصری مواد کی صداقت کو یقینی بنانا ایک حل طلب مسئلہ بنی ہوئی ہے۔
جیسا کہ AI سے تیار کردہ مواد کا حجم تیزی سے بڑھتا جا رہا ہے، ٹیکنالوجی کمپنیوں پر مزید مضبوط ڈٹیکشن سسٹم تیار کرنے کا دباؤ مزید تیز ہو جائے گا۔ ابھی کے لیے، یہ ٹولز کیا وعدہ کرتے ہیں اور جو وہ قابل اعتماد طریقے سے فراہم کر سکتے ہیں اس کے درمیان فرق غلط معلومات اور مصنوعی میڈیا کے خلاف جنگ میں ایک اہم خطرہ ہے۔
AI سے آگے رہیں
AI ٹیکنالوجی، ڈیپ فیکس، اور مواد کی صداقت کی مزید کوریج کے لیے، AI Buzz Wire ملاحظہ کریں۔
مزید AI خبریں پڑھیں →
