گوگل نے مصنوعی ذہانت کا ایک ٹول واپس لے لیا ہے جس کی مدد سے صارفین گوگل ارتھ میں اصلی سیٹلائٹ امیجری کے اوپر من گھڑت مناظر پینٹ کر سکتے ہیں، لانچ کے 48 گھنٹے سے بھی کم وقت میں اس انتباہ کے درمیان کہ یہ فیچر غلط معلومات کو سپرچارج کر سکتا ہے۔

گوگل کے "نینو کیلے 2" امیج جنریٹر کے ذریعے چلنے والی یہ خصوصیت، جمعرات، 30 جولائی، 2026 کو متعارف کرائی گئی تھی، اور اس نے کسی کو بھی ٹیکسٹ پرامپٹ ٹائپ کرنے اور حقیقی سیٹلائٹ، فضائی، اور 3D امیجری پر جھوٹے منظرنامے تیار کرنے کی اجازت دی۔ صنعت کو تشکیل دینے والے AI ٹولز پر تازہ ترین پیشرفت کے لیے، ہماری [AI Buzz Wire پر بریکنگ AI نیوز کوریج] (https://aibuzzwire.news) پر عمل کریں۔

جمعہ تک، Google نے تصدیق کی کہ وہ اس صلاحیت کو روک رہا ہے "جب کہ ہم مضبوط گارڈریلز کو لاگو کرنے پر کام کر رہے ہیں،" تخلیق شدہ تصویروں کے اسکرین شاٹس کا حوالہ دیتے ہوئے جو اس کی پالیسیوں کی خلاف ورزی کرتے دکھائی دیتے ہیں۔ اچانک تبدیلی براہ راست BBC Verify تحقیقات کے بعد سامنے آئی جس میں محققین نے یہ ظاہر کیا کہ یہ ٹول کتنی آسانی سے قائل کرنے والی، مقام کے لحاظ سے درست جعلی بنا سکتا ہے۔

ٹول نے کیسے کام کیا۔

Nano Banana 2 براہ راست گوگل ارتھ میں ضم ہو گیا، وسیع پیمانے پر استعمال ہونے والا نقشہ سازی پلیٹ فارم جس پر حکومتیں، صحافی اور عوام سیارے کے درست نظارے کے لیے انحصار کرتے ہیں۔ AI خصوصیت نے طلب کے مطابق منظر کشی کی اور اسے اصلی نقاط کی ایک بنیادی پرت پر رکھا۔ اہم بات یہ ہے کہ نتیجے میں آنے والی تصاویر کو سوشل میڈیا اور دوسرے پلیٹ فارمز پر ڈاؤن لوڈ اور شیئر کیا جا سکتا ہے جس میں کوئی واضح اشارہ نہیں ہے کہ وہ مصنوعی تھیں۔

وہ امتزاج — ایجاد کردہ بصری جو حقیقی جغرافیائی اعداد و شمار سے جڑے ہوئے ہیں — وہی ہے جو محققین کو سب سے زیادہ پریشان کرتا ہے۔

خطرناک مظاہرے

جانچ کے دوران، BBC Verify ایک منہدم ہونے والے ایفل ٹاور، گیزا کے عظیم اہرام کو نگلنے والا ایک سنکھول، اور یوکرین کے دارالحکومت کیف میں موجود روسی ٹینکوں کی تصاویر بنانے میں کامیاب رہا۔

AI اور غلط معلومات کے محقق Henk van Ess نے ٹول کے معطل ہونے سے پہلے مزید آگے بڑھا، ایران میں ایک غیر موجود جوہری پاور پلانٹ، امریکہ-میکسیکو کی سرحد پر ایک پناہ گزین کیمپ اور غزہ میں ایک جعلی ہسپتال کے من گھڑت مناظر تیار کیے جس کے ساتھ ہی بم کا گڑھا تھا۔

"جعل سازی کو اپنے طور پر قائل نظر آنے کی ضرورت نہیں ہے۔ یہ اس نقشے کی ساکھ کو وراثت میں ملتی ہے جس پر یہ پیدا ہوا تھا،" وین ایس نے کہا، یہ بتاتے ہوئے کہ گوگل نے "ایجاد" تصویروں کو "حقیقی نقاط پر ویلڈیڈ کرنے کی اجازت کیسے دی، جو حقیقی تصویروں پر تیار کی گئی تھی۔"

واٹر مارکس جو برقرار نہیں رہے۔

گوگل نے اس بات پر زور دیا ہے کہ اس کے ٹولز سے AI سے تیار کردہ مواد میں پوشیدہ واٹر مارکس ہوتے ہیں اور یہ کہ صارفین جیمنی چیٹ بوٹ یا گوگل لینس کے ذریعے مشتبہ جعلی کی تصدیق کر سکتے ہیں۔

تاہم، بی بی سی کی تصدیق کی جانچ سے معلوم ہوا کہ ان چیکوں کو روکنا اور جیمنی کو جعلی گوگل ارتھ کی تصاویر کو اصلی ہونے کی تصدیق کرنے کے لیے دھوکہ دینا ممکن تھا۔ بیرونی AI کا پتہ لگانے والے ٹولز بھی کچھ مصنوعی امیجری کو جھنڈا لگانے میں ناکام رہے۔ نتائج نے ان حفاظتی اقدامات کی وشوسنییتا کو کم کر دیا جو گوگل نے AI سے چلنے والی غلط معلومات کے خلاف دفاع کے طور پر پیش کیا ہے۔

اے آئی کا پتہ لگانے والے محقق ہنری اجڈر نے بی بی سی کی تصدیق کو بتایا کہ تنازعات کے علاقوں میں من گھڑت تصویریں خاص طور پر تیزی سے آگے بڑھنے والے واقعات کے دوران "غیر مستحکم" ثابت ہو سکتی ہیں جہاں قابل اعتماد معلومات کی کمی ہوتی ہے اور داؤ پر لگا ہوا ہوتا ہے۔

حد سے زیادہ درستگی کا ایک نمونہ

اس واقعہ نے ہائی پروفائل AI لانچوں کی بڑھتی ہوئی فہرست میں اضافہ کیا ہے جس سے کمپنیوں کو پیچھے ہٹنا پڑا ہے۔ گوگل کو خود 2024 میں اپنے جیمنی ماڈل میں غلط امیج جنریشن پر جانچ پڑتال کا سامنا کرنا پڑا، اور تیزی سے تعیناتی کے بعد پیچھے ہٹنے کا چکر ایک بار بار چلنے والا موضوع بن گیا ہے کیونکہ ٹیکنالوجی فرموں نے جنریٹیو خصوصیات کو بھیجنے کی دوڑ لگا دی ہے۔

اس صورت میں، منفرد خطرہ پلیٹ فارم سے ہی پیدا ہوا۔ جیسا کہ گوگل نے اپنے بیان میں تسلیم کیا ہے، "ہم جانتے ہیں کہ لوگ دنیا کے قابل بھروسہ نظریہ کے لیے گوگل ارتھ پر منفرد طور پر بھروسہ کرتے ہیں" - اس اعتماد کو ختم کرنا خاص طور پر مہنگا ہوتا ہے۔

رول بیک ایک حساس ریگولیٹری لمحے پر بھی آتا ہے۔ یورپی یونین کے AI ایکٹ کی شفافیت کے تقاضے، جو AI سے تیار کردہ مواد کی واضح لیبلنگ کو لازمی قرار دیتے ہیں، 2 اگست 2026 کو گوگل ارتھ واقعے کے چند دن بعد نافذ ہوئے۔ گوگل نے پہلے ہی جولائی میں AI سے تیار کردہ مواد کے لیبلنگ پر EU کے ضابطہ اخلاق پر دستخط کر دیے تھے۔

آگے کیا ہوتا ہے۔

گوگل نے یہ نہیں بتایا کہ یہ فیچر کب، یا آیا، واپس آ سکتا ہے۔ کمپنی نے اشارہ کیا کہ وہ گارڈریلز کو بہتر بنانا جاری رکھے گی، لیکن محققین نے استدلال کیا ہے کہ بنیادی ڈیزائن - قابل اعتماد جغرافیائی ڈیٹا پر AI سے تیار کردہ مواد کو تہہ کرنا - زیادہ مضبوط پرووننس کنٹرول کے بغیر ڈاؤن لوڈ کے قابل، شیئر کرنے کے قابل شکل میں بھیجنا بہت خطرناک ہوسکتا ہے۔

ایک ایسی صنعت کے لیے جو اب بھی حقیقی دنیا کے نقصان کے خلاف تیز رفتار AI کی تعیناتی کو متوازن کرنے کے طریقے سے جوجھ رہی ہے، گوگل ارتھ کے AI امیج ٹول کی 48 گھنٹے کی عمر ایک احتیاطی کہانی کے طور پر کھڑی ہے کہ AI کیا بنا سکتا ہے اور اسے کیا ہونا چاہیے۔

AI سے آگے رہیں

AI تیزی سے آگے بڑھ رہا ہے، اور اسے تشکیل دینے والی پالیسیاں اور بھی تیزی سے آگے بڑھ رہی ہیں۔ مصنوعی ذہانت کے مستقبل کو متعین کرنے والے لانچوں، الٹ پلٹوں اور قواعد و ضوابط کی روزانہ، حقائق کی جانچ پڑتال کی کوریج کے لیے AI Buzz Wire کو بُک مارک کریں۔

مزید AI خبریں پڑھیں →