10 जुलाई, 2026 को प्रकाशित एक रॉयटर्स विश्लेषण के अनुसार, मेटा की एआई छवि पहचान प्रणाली अपनी स्वयं की एआई-जनरेटेड छवियों में से आधे से अधिक की पहचान करने में विफल रहती है, जब उन्हें बुनियादी क्रॉपिंग के अधीन किया जाता है। निष्कर्ष एआई-संचालित सामग्री प्रमाणीकरण टूल में एक महत्वपूर्ण भेद्यता को उजागर करते हैं, ऐसे समय में जब सिंथेटिक मीडिया का प्रसार तेजी से बढ़ रहा है। एआई प्रौद्योगिकी और इसके सामाजिक प्रभाव के व्यापक कवरेज के लिए, [एआई बज़ वायर] (https://aibuzzwire.news) पर जाएं।

रॉयटर्स ने मेटा डिटेक्टर का परीक्षण किया

रॉयटर्स ने मेटा के एआई इमेज डिटेक्शन टूल का एक व्यवस्थित मूल्यांकन किया, जिसे कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न छवियों की पहचान करने के लिए डिज़ाइन किया गया था। परिणाम गंभीर थे: जब एआई-जनरेटेड छवियों को क्रॉप किया गया - एक संशोधन जिसके लिए किसी तकनीकी विशेषज्ञता की आवश्यकता नहीं होती है और इसे किसी भी बुनियादी फोटो संपादन एप्लिकेशन में किया जा सकता है - डिटेक्टर उनमें से लगभग 55% को सिंथेटिक के रूप में चिह्नित करने में विफल रहा।

विश्लेषण विशेष रूप से मेटा के स्वयं के एआई छवि निर्माण उपकरण द्वारा उत्पन्न छवियों पर केंद्रित है, जिससे विफलता दर विशेष रूप से उल्लेखनीय हो गई है। यदि किसी कंपनी की पहचान प्रणाली अपने स्वयं के जेनरेटर मॉडल द्वारा उत्पादित सामग्री की विश्वसनीय रूप से पहचान नहीं कर सकती है, तो बाहरी सिस्टम द्वारा बनाई गई छवियों का पता लगाने की संभावनाएं और भी अधिक अनिश्चित दिखाई देती हैं।

क्रिप्टो ब्रीफिंग और गिज़्मोडो सहित कई प्रौद्योगिकी प्रकाशनों द्वारा निष्कर्षों की पुष्टि की गई, जिन्होंने समान निष्कर्षों की सूचना दी। ब्रांड आइकॉन इमेज ने नोट किया कि क्रॉप की गई छवियों के साथ डिटेक्टर का संघर्ष डीपफेक और हेरफेर किए गए मीडिया के खिलाफ व्यापक लड़ाई के बारे में गंभीर चिंताएं पैदा करता है।

क्यों क्रॉपिंग एआई डिटेक्शन को मात देती है

एआई छवि डिटेक्टर आमतौर पर पिक्सेल डेटा में सांख्यिकीय पैटर्न की जांच करके छवियों का विश्लेषण करते हैं जो जेनरेटिव मॉडल की विशेषता हैं। इन पैटर्न में बनावट, प्रकाश स्थिरता, आवृत्ति डोमेन हस्ताक्षर और अन्य टेलटेल मार्करों में सूक्ष्म कलाकृतियां शामिल हो सकती हैं जो कैमरों द्वारा कैप्चर की गई तस्वीरों से एआई-जनित सामग्री को अलग करती हैं।

हालाँकि, क्रॉपिंग मूल रूप से छवि की संरचना को बदल देती है, जिससे प्रासंगिक जानकारी हट जाती है जिस पर डिटेक्शन एल्गोरिदम भरोसा करते हैं। जब एक उत्पन्न छवि को एक विशिष्ट क्षेत्र - एक चेहरा, एक वस्तु, या एक विशेष दृश्य - पर ध्यान केंद्रित करने के लिए क्रॉप किया जाता है - तो कई सांख्यिकीय हस्ताक्षर जो इसे सिंथेटिक के रूप में पहचानते हैं, समाप्त हो जाते हैं या काफी हद तक ख़राब हो जाते हैं।

यह भेद्यता मेटा के सिस्टम के लिए अद्वितीय नहीं है। सुरक्षा शोधकर्ताओं ने प्रदर्शित किया है कि अन्य प्रदाताओं के समान पहचान उपकरणों को आकार बदलने, संपीड़न, रंग समायोजन और शोर को जोड़ने सहित विभिन्न छवि हेरफेर के माध्यम से हराया जा सकता है। रॉयटर्स के विश्लेषण से पता चलता है कि सबसे बुनियादी परिवर्तन भी एक महत्वपूर्ण चुनौती पैदा करते हैं।

एआई छवियों के साथ मेटा का परेशान सप्ताह

मेटा की एआई छवि पहल के लिए पहले से ही कठिन अवधि के दौरान डिटेक्टर की कमियां सामने आईं। कंपनी ने हाल ही में इंस्टाग्राम के लिए एक एआई इमेज फीचर लॉन्च किया था जो उपयोगकर्ताओं की सार्वजनिक तस्वीरों तक स्वचालित रूप से पहुंच बनाता था, जिसकी गोपनीयता समर्थकों और रचनात्मक पेशेवरों ने तत्काल आलोचना की थी।

Inc.com और एसोसिएटेड प्रेस की रिपोर्ट के अनुसार, SAG-AFTRA सहित संगठनों के विरोध का सामना करते हुए, मेटा ने इस सुविधा को इसकी शुरुआत के तीन दिन बाद ही रोक दिया। कंपनी ने अंततः इस सुविधा को बंद कर दिया, जिससे उस उत्पाद पर तेजी से बदलाव आया, जिसे इंस्टाग्राम अनुभव में महत्वपूर्ण वृद्धि के रूप में पेश किया गया था।

फीचर की वापसी और डिटेक्टर की दस्तावेजी विफलताओं का संयोजन एक ऐसे उद्योग की तस्वीर पेश करता है जो अभी भी विश्वसनीय सुरक्षा उपायों और पहचान तंत्र की आवश्यकता के साथ जेनरेटर एआई उपकरणों की तेजी से तैनाती को संतुलित करने के लिए संघर्ष कर रहा है।

सामग्री प्रामाणिकता के लिए व्यापक निहितार्थ

रॉयटर्स के निष्कर्षों में ऐसे निहितार्थ हैं जो मेटा के पारिस्थितिकी तंत्र से कहीं आगे तक फैले हुए हैं। जैसे-जैसे एआई-जनित छवियां तस्वीरों से अप्रभेद्य होती जा रही हैं, सिंथेटिक सामग्री का विश्वसनीय रूप से पता लगाने की क्षमता प्लेटफार्मों, प्रकाशकों और नीति निर्माताओं के लिए एक महत्वपूर्ण चुनौती बन गई है।

फेसबुक, इंस्टाग्राम, एक्स (पूर्व में ट्विटर) और टिकटॉक सहित सभी सोशल मीडिया प्लेटफॉर्म ने किसी न किसी प्रकार की एआई सामग्री लेबलिंग लागू की है, लेकिन इन प्रणालियों की विश्वसनीयता काफी भिन्न है। रॉयटर्स विश्लेषण से पता चलता है कि वर्तमान पहचान तकनीक सुरक्षा की गलत भावना प्रदान कर सकती है, संभावित रूप से बड़ी मात्रा में सिंथेटिक सामग्री को बिना पहचाने प्रसारित करने की अनुमति दे सकती है।

एआई छवि जनरेटरों में तेजी से सुधार के कारण यह चुनौती और बढ़ गई है। जैसे-जैसे OpenAI, Google, Adobe और अन्य के मॉडल तेजी से फोटोरिअलिस्टिक आउटपुट उत्पन्न करते हैं, वे कलाकृतियाँ जिन पर डिटेक्शन सिस्टम भरोसा करते हैं, अधिक सूक्ष्म और पहचानने में कठिन हो जाती हैं। पीढ़ी और पता लगाने की क्षमताओं के बीच हथियारों की दौड़ पीढ़ी के पक्ष में झुकती दिख रही है।

C2PA मानक और उद्योग प्रतिक्रिया

सामग्री प्रमाणीकरण की बढ़ती चुनौती के जवाब में, Adobe, Microsoft और BBC सहित प्रमुख प्रौद्योगिकी कंपनियों ने सामग्री प्रावधान और प्रामाणिकता (C2PA) मानक के लिए गठबंधन का समर्थन किया है। यह दृष्टिकोण निर्माण के बिंदु पर क्रिप्टोग्राफ़िक हस्ताक्षर और मेटाडेटा को सीधे छवि फ़ाइलों में एम्बेड करता है, जिससे डाउनस्ट्रीम प्लेटफ़ॉर्म को मीडिया फ़ाइल की उत्पत्ति को सत्यापित करने की अनुमति मिलती है।

हालाँकि, C2PA स्वैच्छिक अपनाने पर निर्भर करता है और इसे मानक प्रसंस्करण के माध्यम से छवियों से हटाया जा सकता है। आलोचकों का तर्क है कि हालांकि उद्गम ट्रैकिंग सुरक्षा की एक मूल्यवान परत प्रदान करती है, यह उस सामग्री के लिए मजबूत पहचान क्षमताओं को प्रतिस्थापित नहीं कर सकती है जिस पर कभी हस्ताक्षर नहीं किए गए थे या जिनके हस्ताक्षर हटा दिए गए हैं।

रॉयटर्स का विश्लेषण उद्योग के सामने आने वाली चुनौती की कठिनाई को रेखांकित करता है। यहां तक ​​कि सबसे बुनियादी छवि हेरफेर ने भी अग्रणी पहचान उपकरणों को हरा दिया है, एआई युग में दृश्य सामग्री की प्रामाणिकता सुनिश्चित करना एक अनसुलझी समस्या बनी हुई है।

जैसे-जैसे एआई-जनित सामग्री की मात्रा तेजी से बढ़ती जा रही है, प्रौद्योगिकी कंपनियों पर अधिक मजबूत पहचान प्रणाली विकसित करने का दबाव और तेज हो जाएगा। अभी के लिए, ये उपकरण क्या वादा करते हैं और वे क्या विश्वसनीय रूप से वितरित कर सकते हैं, के बीच का अंतर गलत सूचना और सिंथेटिक मीडिया के खिलाफ लड़ाई में एक महत्वपूर्ण कमजोरी बनी हुई है।

एआई से आगे रहें

एआई प्रौद्योगिकी, डीपफेक और सामग्री प्रामाणिकता के अधिक कवरेज के लिए, [एआई बज़ वायर] (https://aibuzzwire.news) पर जाएं।

अधिक AI समाचार पढ़ें →