मशीन-जनरेटेड टेक्स्ट को चिह्नित करने के लिए मशहूर एआई-डिटेक्शन कंपनी पंग्राम ने आधिकारिक तौर पर पैंग्राम इमेज 1.0 और पैंग्राम इमेज फ्लैश 1.0 लॉन्च किया है, कंपनी का कहना है कि मॉडल की एक जोड़ी एआई-जनरेटेड और एआई-संपादित छवियों और वीडियो का पता लगाने के लिए कला की एक नई स्थिति स्थापित करती है। घोषणा, 4 नवंबर को पंग्राम के अपने ब्लॉग पर प्रकाशित हुई और Engadget, Unite.AI और Yahoo Tech द्वारा ली गई, एक शोध पूर्वावलोकन को परिवर्तित करती है जिसे कंपनी ने कुछ महीने पहले एपीआई समर्थन के साथ आम तौर पर उपलब्ध उत्पाद में जारी किया था।
लॉन्च ऐसे समय में हुआ है जब सिंथेटिक मीडिया को प्रामाणिक सामग्री से अलग करना वास्तव में मुश्किल हो गया है, कैज़ुअल स्क्रॉलर्स और मॉडरेशन सिस्टम प्लेटफ़ॉर्म जिस पर भरोसा करते हैं, दोनों के लिए। पंग्राम की शर्त यह है कि समर्पित डिटेक्शन मॉडल, विशेष रूप से आज के सीमांत जनरेटर के आउटपुट के खिलाफ प्रशिक्षित, उस खोए हुए सिग्नल में से कुछ को बहाल कर सकते हैं।
99.96% सटीकता के साथ फ्रंटियर इमेज डिटेक्शन
फ्लैगशिप पैंग्राम इमेज 1.0 मॉडल का मूल्यांकन कंपनी द्वारा स्वयं बनाए गए बेंचमार्क के आधार पर किया गया था: कुल 1,200 सिंथेटिक छवियों के लिए, 100 वास्तविक तस्वीरें, जिनमें से प्रत्येक को 12 फ्रंटियर एआई छवि जेनरेटर द्वारा उत्पादित सिंथेटिक संस्करणों के साथ प्रतिबिंबित किया गया था, जो मूल फोटो से निकटता से मेल खाते थे। उस मूल्यांकन सेट पर, पैंग्राम 99.96% सटीकता की रिपोर्ट करता है - एक ऐसा आंकड़ा, जो अगर स्वतंत्र जांच के तहत रखा जाता है, तो मॉडल को उन वाणिज्यिक और शैक्षणिक डिटेक्टरों से काफी आगे रखा जाएगा जिनकी तुलना कंपनी ने की थी।
एक साधारण वास्तविक-या-नकली निर्णय से परे, मॉडल हीटमैप आउटपुट करता है जो छवि के भीतर एआई सामग्री को ठीक उसी स्थान पर प्रदर्शित करता है जहां एआई सामग्री दिखाई देती है। यह पूरी तरह से सिंथेटिक छवियों और अछूती तस्वीरों के बीच तेजी से आम मध्य मैदान के लिए मायने रखता है: एआई-जनरेटेड पृष्ठभूमि के साथ छवियों का विपणन, जेनरेटर टूल के साथ रीटच की गई तस्वीरें, या कंपोजिट जो वास्तविक विषयों को जेनरेट किए गए तत्वों के साथ मिलाते हैं।
पंग्राम का यह भी दावा है कि नया मॉडल उन प्रकार के परिवर्तनों के लिए मजबूत है जो भरोसेमंद डिटेक्टरों को विश्वसनीय रूप से पराजित करते हैं - सोशल मीडिया संपीड़न, जानबूझकर धुंधलापन और शोर, और कम अपलोड रिज़ॉल्यूशन। कंपनी का कहना है कि उसके पिछले शोध पूर्वावलोकन के लिए कम से कम 512x512 पिक्सेल की छवियों की आवश्यकता होती है, जबकि छवि 1.0 256x256 तक इनपुट स्वीकार करती है, जिसमें पुरानी सीमा के नीचे कम आत्मविश्वास वाला अस्वीकरण दिखाया गया है।
वीडियो डिटेक्शन और DF26 पर 29-पॉइंट लीप
साथी मॉडल, पैंग्राम इमेज फ्लैश 1.0, वीडियो के उद्देश्य से है, और यहीं पर कंपनी के दावे सबसे अधिक आकर्षक हैं। पंग्राम एक हालिया अकादमिक अध्ययन, डीएफ26 का हवाला देता है, जिसमें पाया गया कि एआई-जनित लोगों से बात करने वाले लोगों के वास्तविक वीडियो को अलग करने में मनुष्य यादृच्छिक से मुश्किल से बेहतर हैं - और मौजूदा स्वचालित डिटेक्टर ज्यादा बेहतर नहीं थे। उसी DF26 बेंचमार्क पर, पंग्राम ने 98.7% का स्कोर रिपोर्ट किया है, जिसे वह अगले सर्वश्रेष्ठ डिटेक्टर पर 29-पॉइंट की छलांग के रूप में वर्णित करता है।
अकादमिक क्षेत्र के बजाय वाणिज्यिक बाजार के खिलाफ बेंचमार्क करने के लिए, पंग्राम ने 129 वास्तविक सोशल मीडिया वीडियो से एक कठिन तुलना सेट का निर्माण किया, जिसमें 14 अलग-अलग फ्रंटियर वीडियो जनरेटर का उपयोग करके प्रत्येक के सिंथेटिक दर्पण तैयार किए गए - प्रति जनरेटर 100 वीडियो, प्रत्येक स्रोत वीडियो के पहले वास्तविक फ्रेम के साथ बीजित और कार्रवाई के उत्पन्न विवरण द्वारा संचालित। परिणामी 1,529 वीडियो में, कंपनी ने फ्लैश 1.0 की तुलना कई प्रमुख एआई वीडियो डिटेक्शन सेवाओं से की। मिरर पद्धति को सामग्री पूर्वाग्रह को दूर करने के लिए डिज़ाइन किया गया है: प्रत्येक वास्तविक वीडियो और उसके सिंथेटिक जुड़वां एक ही दृश्य और विषय साझा करते हैं, इसलिए एक डिटेक्टर यह सीखकर परीक्षण नहीं कर सकता है कि कौन से विषय या सौंदर्यशास्त्र एआई सामग्री के साथ सहसंबंधित हैं।
फ्लैश मॉडल फ्रेम-दर-फ्रेम विश्लेषण भी करता है, जो इसे अन्यथा प्रामाणिक फुटेज के अंदर एआई-संपादित खंडों को चिह्नित करने देता है - एक क्षमता जिसका उद्देश्य पूरी तरह से सिंथेटिक क्लिप के बजाय आंशिक रूप से हेरफेर किए गए वीडियो की बढ़ती समस्या है।
टेक्स्ट डिटेक्शन से लेकर पूर्ण सिंथेटिक मीडिया स्टैक तक
पंग्राम ने एआई टेक्स्ट डिटेक्शन पर अपनी प्रतिष्ठा बनाई, जहां इसके क्लासिफायर का व्यापक रूप से शिक्षा और प्रकाशन में उपयोग किया जाता है, और लॉन्च के याहू टेक के कवरेज ने कंपनी को उस श्रेणी में स्वर्ण मानक के रूप में वर्णित किया। छवियों और वीडियो में विस्तार एक स्वाभाविक विस्तार है, और यह पंग्राम को प्लेटफार्मों, समाचार कक्षों और उद्यमों के लिए वन-स्टॉप शॉप के रूप में स्थापित करता है, जो सभी प्रारूपों में सिंथेटिक मीडिया को नियंत्रित करने का प्रयास कर रहे हैं।
नए मॉडल छवि और वीडियो पहचान दोनों के लिए एपीआई समर्थन के साथ आते हैं, और एक क्रोम एक्सटेंशन जो उपयोगकर्ताओं द्वारा अपने फ़ीड को स्क्रॉल करने पर छवियों और वीडियो पर पहचान लागू करता है - पहचान को बैक-ऑफ़िस मॉडरेशन टूल से उपभोक्ता-ग्रेड सुरक्षा के करीब ले जाता है। पंग्राम का कहना है कि इसने X-AIGD, मिराज-टेस्ट, AIGenImages2026, RAISE के साथ सिंथबस्टर और सामुदायिक फोरेंसिक सहित अकादमिक डेटासेट के खिलाफ मॉडलों को भी बेंचमार्क किया।
डिटेक्शन आर्म्स रेस जारी है
एक चेतावनी पर जोर दिया जाना चाहिए: पंग्राम की घोषणा में प्रत्येक संख्या पंग्राम के स्वयं के मूल्यांकन से आती है, जो अपने स्वयं के दर्पण-आधारित बेंचमार्क पर आयोजित की जाती है। स्वतंत्र सत्यापन यह है कि कैसे पता लगाने वाले उपकरण अंततः विश्वास अर्जित करते हैं, और एआई का पता लगाने का इतिहास ऐसे उपकरणों से भरा पड़ा है जिनकी सटीकता उन जनरेटर के मुकाबले ढह गई है जिन्हें उन्होंने कभी नहीं देखा था। पंग्राम ने स्वयं अपने पोस्ट में इस बात को स्वीकार किया और अनुसंधान पूर्वावलोकन की कोशिश करने और इसकी कमजोरियों का पता लगाने के लिए समुदाय को धन्यवाद दिया।
फिर भी, लॉन्च इस बात का एक सार्थक मार्कर है कि जेनेरिक वीडियो के तेजी से सुधार के जवाब में डिटेक्शन तकनीक कितनी आगे बढ़ गई है। यदि रिपोर्ट किया गया DF26 परिणाम तीसरे पक्ष के परीक्षण में खरा उतरता है, तो मनुष्य क्या समझ सकता है और मशीनें क्या सत्यापित कर सकती हैं, के बीच का अंतर केवल चौड़ा हो जाएगा - जो कि वास्तव में वह बाजार है जिस पर पंग्राम दांव लगा रहा है।
प्लेटफ़ॉर्म और प्रकाशकों के लिए, व्यावहारिक उपाय यह है कि फ़्रेम-स्तरीय वीडियो विश्लेषण सहित कम रिज़ॉल्यूशन पर उच्च सटीकता का पता लगाना, कमोडिटी एपीआई के रूप में उपलब्ध हो रहा है। सिंथेटिक मीडिया समस्या का अगला चरण इस बारे में कम हो सकता है कि क्या पता लगाना संभव है और अधिक इस बारे में है कि इसे कौन तैनात करता है, और इंटरनेट की पाइपलाइन की किस परत पर।
एआई से आगे रहें
सिंथेटिक मीडिया, डिटेक्शन टूलिंग और उन्हें अपनाने वाले प्लेटफ़ॉर्म गतिशील लक्ष्य हैं - इन सभी पर अद्यतित रहें।
अधिक AI समाचार पढ़ें →
