Google ने एक कृत्रिम बुद्धिमत्ता उपकरण को वापस ले लिया है जो उपयोगकर्ताओं को Google Earth में वास्तविक उपग्रह इमेजरी के शीर्ष पर मनगढ़ंत दृश्यों को चित्रित करने देता है, लॉन्च के 48 घंटे से भी कम समय के बाद इस चेतावनी के बीच कि यह सुविधा गलत सूचना को बढ़ा सकती है।

Google के "नैनो बनाना 2" छवि जनरेटर द्वारा संचालित यह सुविधा, गुरुवार, 30 जुलाई, 2026 को पेश की गई थी, और किसी को भी टेक्स्ट प्रॉम्प्ट टाइप करने और वास्तविक उपग्रह, हवाई और 3 डी इमेजरी पर स्तरित गलत परिदृश्य उत्पन्न करने की अनुमति दी गई थी। उद्योग को आकार देने वाले एआई उपकरणों पर नवीनतम विकास के लिए, हमारे [एआई बज़ वायर पर ब्रेकिंग एआई समाचार कवरेज] (https://aibuzzwire.news) का अनुसरण करें।

शुक्रवार तक, Google ने पुष्टि की कि वह क्षमता को रोक रहा है "जबकि हम मजबूत रेलिंग को लागू करने पर काम कर रहे हैं," उत्पन्न इमेजरी के स्क्रीनशॉट का हवाला देते हुए जो उसकी नीतियों का उल्लंघन करते प्रतीत होते हैं। अचानक उलटफेर सीधे बीबीसी वेरिफाई जांच के बाद आया, जिसमें शोधकर्ताओं ने प्रदर्शित किया कि उपकरण कितनी आसानी से विश्वसनीय, स्थान-सटीक नकली नकली तैयार कर सकता है।

टूल ने कैसे काम किया

नैनो बनाना 2 को सीधे Google Earth में एकीकृत किया गया है, जो व्यापक रूप से उपयोग किया जाने वाला मैपिंग प्लेटफ़ॉर्म है जिस पर सरकारें, पत्रकार और जनता ग्रह के सटीक दृश्य के लिए भरोसा करते हैं। एआई फीचर ने मांग पर इमेजरी तैयार की और इसे वास्तविक निर्देशांक की आधार परत पर रखा। महत्वपूर्ण रूप से, परिणामी छवियों को डाउनलोड किया जा सकता है और सोशल मीडिया और अन्य प्लेटफार्मों पर साझा किया जा सकता है, बिना किसी स्पष्ट संकेत के कि वे सिंथेटिक थे।

वह संयोजन - वास्तविक भौगोलिक डेटा से जुड़े आविष्कृत दृश्य - ने शोधकर्ताओं को सबसे अधिक चिंतित किया है।

चिंताजनक प्रदर्शन

परीक्षण के दौरान, बीबीसी वेरिफाई ढहे हुए एफिल टॉवर, गीज़ा के महान पिरामिड को निगलने वाले एक सिंकहोल और यूक्रेन की राजधानी कीव में स्थित रूसी टैंकों की कल्पना उत्पन्न करने में सक्षम था।

टूल के निलंबित होने से पहले एआई और गलत सूचना शोधकर्ता हेन्क वैन ईएस ने ईरान में एक गैर-मौजूद परमाणु ऊर्जा संयंत्र, यूएस-मेक्सिको सीमा पर एक शरणार्थी शिविर और गाजा में एक बम क्रेटर के साथ एक नकली अस्पताल के मनगढ़ंत दृश्य तैयार किए।

वैन एस्स ने कहा, "जालसाजी को अपने आप में ठोस दिखने की ज़रूरत नहीं है। यह उस मानचित्र की विश्वसनीयता को विरासत में देता है जिस पर इसका जन्म हुआ था," यह बताते हुए कि कैसे Google ने "आविष्कृत" इमेजरी को "वास्तविक निर्देशांक में वेल्डेड, वास्तविक इमेजरी पर तैयार" करने की अनुमति दी थी।

वॉटरमार्क जो टिके नहीं रहे

Google ने इस बात पर जोर दिया है कि उसके टूल से AI-जनित सामग्री में अदृश्य वॉटरमार्क होते हैं और उपयोगकर्ता जेमिनी चैटबॉट या Google लेंस के माध्यम से संदिग्ध नकली सामग्री को सत्यापित कर सकते हैं।

हालाँकि, बीबीसी वेरिफाई के परीक्षण में पाया गया कि उन जाँचों को दरकिनार करना और जेमिनी को धोखा देकर मनगढ़ंत Google Earth छवियों को वास्तविक के रूप में पुष्टि करना संभव था। बाहरी एआई पहचान उपकरण भी कुछ सिंथेटिक इमेजरी को चिह्नित करने में विफल रहे। ये निष्कर्ष उन सुरक्षा उपायों की विश्वसनीयता को कम करते हैं जिन्हें Google ने AI-संचालित गलत सूचना के खिलाफ बचाव के रूप में तैनात किया है।

एआई-डिटेक्शन शोधकर्ता हेनरी एजडर ने बीबीसी वेरिफाई को बताया कि संघर्ष क्षेत्रों में मनगढ़ंत कल्पना तेजी से होने वाली घटनाओं के दौरान विशेष रूप से "अस्थिर करने वाली" साबित हो सकती है, जहां विश्वसनीय जानकारी दुर्लभ है और जोखिम सबसे अधिक है।

अतिसुधार का एक पैटर्न

यह एपिसोड हाई-प्रोफाइल एआई लॉन्च की बढ़ती सूची में जुड़ गया है जिससे कंपनियों को पीछे हटना पड़ा है। Google को 2024 में अपने जेमिनी मॉडल में गलत छवि निर्माण पर जांच का सामना करना पड़ा, और तेजी से तैनाती-फिर-वापसी चक्र एक आवर्ती विषय बन गया है क्योंकि प्रौद्योगिकी कंपनियां जेनरेटिव सुविधाओं को शिप करने की होड़ में हैं।

इस मामले में अनोखा खतरा मंच से ही उत्पन्न हुआ। जैसा कि Google ने अपने बयान में स्वीकार किया, "हम जानते हैं कि लोग दुनिया के विश्वसनीय दृश्य के लिए Google Earth पर विशिष्ट रूप से भरोसा करते हैं" - जिससे उस भरोसे में कोई भी कमी विशेष रूप से महंगी हो जाती है।

रोलबैक भी एक संवेदनशील नियामक क्षण में आता है। यूरोपीय संघ की एआई अधिनियम पारदर्शिता आवश्यकताएं, जो एआई-जनित सामग्री की स्पष्ट लेबलिंग को अनिवार्य करती हैं, Google Earth घटना के कुछ ही दिनों बाद 2 अगस्त, 2026 को प्रभावी हुईं। Google ने जुलाई की शुरुआत में ही AI-जनित सामग्री लेबलिंग पर EU की अभ्यास संहिता पर हस्ताक्षर कर दिए थे।

आगे क्या होता है

Google ने यह नहीं बताया है कि यह सुविधा कब या क्या वापस आ सकती है। कंपनी ने संकेत दिया कि वह रेलिंग को परिष्कृत करना जारी रखेगी, लेकिन शोधकर्ताओं ने तर्क दिया है कि मौलिक डिजाइन - विश्वसनीय भौगोलिक डेटा पर एआई-जनरेटेड सामग्री की परत - बहुत मजबूत स्रोत नियंत्रण के बिना डाउनलोड करने योग्य, साझा करने योग्य रूप में शिप करने के लिए बहुत खतरनाक हो सकता है।

एक ऐसे उद्योग के लिए जो अभी भी वास्तविक दुनिया के नुकसान के खिलाफ तेजी से एआई तैनाती को संतुलित करने के तरीके से जूझ रहा है, Google Earth के एआई इमेज टूल का 48 घंटे का जीवनकाल एआई क्या बना सकता है और इसे क्या करना चाहिए, के बीच के अंतर के बारे में एक चेतावनी के रूप में खड़ा है।

एआई से आगे रहें

एआई तेजी से आगे बढ़ रहा है, और इसे आकार देने वाली नीतियां और भी तेजी से आगे बढ़ रही हैं। आर्टिफिशियल इंटेलिजेंस के भविष्य को परिभाषित करने वाले लॉन्च, रिवर्सल और नियमों की दैनिक, तथ्य-जांच कवरेज के लिए बुकमार्क करें [एआई बज़ वायर] (https://aibuzzwire.news)।

अधिक AI समाचार पढ़ें →