Pangram, společnost zabývající se detekcí umělé inteligence, která je nejlépe známá pro označování strojově generovaného textu, oficiálně spustila Pangram Image 1.0 a Pangram Image Flash 1.0, dva modely, o kterých společnost říká, že nastavují nový stav techniky pro detekci obrázků a videí vytvořených umělou inteligencí a upravovaných umělou inteligencí. Oznámení, zveřejněné na vlastním blogu Pangramu 4. listopadu a které převzaly Engadget, Unite.AI a Yahoo Tech, převádí náhled výzkumu, který společnost vydala před několika měsíci, do obecně dostupného produktu s podporou API.
Uvedení na trh přichází v době, kdy se syntetická média stala skutečně obtížně odlišitelná od autentického obsahu, a to jak pro příležitostné rolníky, tak pro systémy moderování, na které se platformy spoléhají. Pangram sází na to, že specializované detekční modely, trénované speciálně proti výstupům dnešních hraničních generátorů, dokážou obnovit část ztraceného signálu.
Detekce hraničního obrazu s 99,96% přesností
Vlajková loď modelu Pangram Image 1.0 byla hodnocena podle měřítka, které si společnost sama vytvořila: 100 skutečných fotografií, z nichž každá byla zrcadlena syntetickými verzemi vytvořenými 12 generátory hraničních obrazů AI s použitím výzev, které se úzce shodovaly s původní fotografií, takže bylo celkem 1 200 syntetických obrázků. Na této hodnotící sadě Pangram hlásí 99,96% přesnost – údaj, který, pokud obstojí pod nezávislým zkoumáním, staví model výrazně před komerční a akademické detektory, se kterými jej společnost porovnávala.
Kromě jednoduchého skutečného nebo falešného verdiktu model vydává teplotní mapy, které přesně lokalizují, kde se na obrázku objevuje obsah AI. To je důležité pro stále běžnější střední cestu mezi plně syntetickými obrázky a nedotčenými fotografiemi: marketingové obrázky s pozadím generovaným umělou inteligencí, fotografie retušované generativními nástroji nebo kompozity, které kombinují skutečné objekty s generovanými prvky.
Pangram také tvrdí, že nový model je odolný vůči druhům transformací, které spolehlivě porazí naivní detektory – kompresi sociálních médií, záměrné rozmazání a šum a nízké rozlišení nahrávání. Společnost tvrdí, že její předchozí náhled průzkumu vyžadoval obrázky o velikosti alespoň 512 x 512 pixelů, zatímco Image 1.0 přijímá vstupy až do velikosti 256 x 256, přičemž pod starou hranicí je uvedeno omezení spolehlivosti.
Detekce videa a 29bodový skok na DF26
Doprovodný model, Pangram Image Flash 1.0, je zaměřen na video a právě zde jsou tvrzení společnosti nejmarkantnější. Pangram cituje nedávnou akademickou studii DF26, která zjistila, že lidé jsou sotva lepší než náhodní, když rozlišují skutečná videa lidí mluvících od těch vytvořených AI – a že stávající automatizované detektory nejsou o moc lepší. Ve stejném benchmarku DF26 Pangram hlásí skóre 98,7 %, což popisuje jako skok o 29 bodů oproti dalšímu nejlepšímu detektoru.
Aby se porovnal s komerčním trhem spíše než s akademickou sférou, Pangram zkonstruoval obtížnou srovnávací sadu ze 129 skutečných videí na sociálních sítích, přičemž každé z nich generoval syntetická zrcadla pomocí 14 různých generátorů hraničního videa – 100 videí na generátor, nasazených prvním skutečným snímkem každého zdrojového videa a poháněných generovanými popisy akce. U výsledných 1 529 videí společnost porovnala Flash 1.0 s několika hlavními službami pro detekci videa AI. Metodika zrcadlení je navržena tak, aby odstranila zkreslení obsahu: každé skutečné video a jeho syntetické dvojče sdílí stejnou scénu a předmět, takže detektor nemůže hrát test tím, že se naučí, která témata nebo estetika korelují s obsahem AI.
Model Flash také provádí analýzu snímek po snímku, což umožňuje označit segmenty upravené umělou inteligencí uvnitř jinak autentického záznamu – tato funkce je zaměřena na rostoucí problém částečně zpracovaných videí spíše než plně syntetických klipů.
Od detekce textu k plnému zásobníku syntetických médií
Pangram si vybudoval svou reputaci na detekci textu AI, kde jsou jeho klasifikátory široce používány ve vzdělávání a publikování, a zpravodajství Yahoo Tech o zahájení popsalo společnost jako zlatý standard v této kategorii. Rozšíření o obrázky a video je přirozeným rozšířením a staví Pangram jako jednotné kontaktní místo pro platformy, redakce a podniky, které se snaží hlídat syntetická média napříč formáty.
Nové modely se dodávají s podporou API pro detekci obrazu i videa a rozšířením pro Chrome, které aplikuje detekci na obrázky a videa, když uživatelé posouvají své zdroje – přesun detekce z nástroje pro moderování v back-office k něčemu bližšímu ochraně spotřebitele. Pangram říká, že také porovnával modely s akademickými datovými sadami včetně X-AIGD, Mirage-Test, AIGenImages2026, Synthbuster spárovaný s RAISE a Community Forensics.
Závod ve zjišťování zbrojení pokračuje
Jedno upozornění si zaslouží důraz: každé číslo v oznámení Pangramu pochází z vlastních hodnocení Pangramu, provedených na základě jeho vlastních zrcadlových benchmarků. Nezávislé ověřování je způsob, jak detekční nástroje nakonec získávají důvěru, a historie detekce AI je plná nástrojů, jejichž přesnost se zhroutila proti generátorům, které nikdy neviděli. Pangram sám to ve svém příspěvku uznal a poděkoval komunitě za to, že vyzkoušela náhled výzkumu a našla jeho slabiny.
Uvedení na trh je přesto významným ukazatelem toho, jak daleko pokročila technologie detekce v reakci na rychlé zlepšení generativního videa. Pokud oznámený výsledek DF26 přežije testování třetí stranou, propast mezi tím, co lidé mohou vnímat a tím, co mohou ověřit stroje, se jen zvětší – což je přesně trh, na který Pangram sází.
Pro platformy a vydavatele je praktickým přínosem to, že vysoce přesná detekce při nízkém rozlišení, včetně analýzy videa na úrovni snímků, začíná být dostupná jako komoditní API. Další fáze problému se syntetickými médii může být méně o tom, zda je detekce možná, ale spíše o tom, kdo ji nasadí a na které vrstvě internetu.
Udržujte si náskok před AI
Syntetická média, detekční nástroje a platformy, které je používají, jsou pohyblivé cíle – zůstaňte v obraze.
Přečtěte si další zprávy o AI →
