Pangram, compania de detectare AI, cea mai cunoscută pentru semnalarea textului generat de mașini, a lansat oficial Pangram Image 1.0 și Pangram Image Flash 1.0, o pereche de modele despre care compania spune că stabilesc un nou stadiu al tehnicii pentru detectarea imaginilor și videoclipurilor generate și editate de AI. Anunțul, publicat pe propriul blog al Pangram pe 4 noiembrie și preluat de Engadget, Unite.AI și Yahoo Tech, transformă o previzualizare de cercetare pe care compania a lansat-o acum câteva luni într-un produs general disponibil cu suport API.

Lansarea vine într-un moment în care media sintetică a devenit cu adevărat dificil de diferențiat de conținutul autentic, atât pentru utilizatorii ocazionali, cât și pentru sistemele de moderare pe care se bazează platformele. Pariul lui Pangram este că modelele de detectare dedicate, antrenate special împotriva ieșirilor generatoarelor de frontieră de astăzi, pot restabili o parte din acel semnal pierdut.

Detectarea imaginii de frontieră cu o precizie de 99,96%.

Modelul emblematic Pangram Image 1.0 a fost evaluat în raport cu un punct de referință pe care compania și-a construit-o singură: 100 de fotografii reale, fiecare oglindită cu versiuni sintetice produse de 12 generatoare de imagini AI de frontieră folosind prompturi strâns potrivite cu fotografia originală, pentru un total de 1.200 de imagini sintetice. Pe acel set de evaluare, Pangram raportează o acuratețe de 99,96% - o cifră care, dacă se menține sub control independent, ar pune modelul cu mult înaintea detectoarelor comerciale și academice cu care compania l-a comparat.

Dincolo de un simplu verdict real sau fals, modelul emite hărți termice care localizează exact unde apare conținutul AI într-o imagine. Acest lucru contează pentru calea de mijloc din ce în ce mai comună dintre imaginile complet sintetice și fotografiile neatinse: imagini de marketing cu fundaluri generate de inteligență artificială, fotografii retușate cu instrumente generative sau compozite care amestecă subiecte reale cu elemente generate.

Pangram susține, de asemenea, că noul model este robust la tipurile de transformări care înving în mod fiabil detectorii naivi - compresie în rețelele sociale, estompare și zgomot deliberat și rezoluții scăzute de încărcare. Compania spune că previzualizarea cercetării sale anterioare necesita imagini de cel puțin 512x512 pixeli, în timp ce Image 1.0 acceptă intrări până la 256x256, cu o declinare a răspunderii pentru încredere redusă afișată sub vechiul prag.

Detectare video și un salt de 29 de puncte pe DF26

Modelul însoțitor, Pangram Image Flash 1.0, vizează video și aici afirmațiile companiei sunt cele mai izbitoare. Pangram citează un studiu academic recent, DF26, care a constatat că oamenii sunt abia mai buni decât aleatoriu atunci când disting videoclipurile reale cu oameni care vorbesc de cele generate de AI - și că detectoarele automate existente nu erau cu mult mai bune. La același punct de referință DF26, Pangram raportează un scor de 98,7%, pe care îl descrie ca un salt de 29 de puncte față de următorul cel mai bun detector.

Pentru a compara piața comercială, mai degrabă decât cea academică, Pangram a construit un set de comparație dificil din 129 de videoclipuri reale din rețelele sociale, generând oglinzi sintetice ale fiecăreia folosind 14 generatoare video de frontieră diferite - 100 de videoclipuri per generator, însămânțate cu primul cadru real al fiecărui videoclip sursă și condus de descrierile generate ale acțiunii. În cele 1.529 de videoclipuri rezultate, compania a comparat Flash 1.0 cu mai multe servicii majore de detectare video AI. Metodologia oglinzii este concepută pentru a elimina părtinirea conținutului: fiecare videoclip real și geamănul său sintetic împărtășesc aceeași scenă și subiect, astfel încât un detector nu poate juca testul învățând ce subiecte sau estetică se corelează cu conținutul AI.

Modelul Flash efectuează, de asemenea, o analiză cadru cu cadru, ceea ce îi permite să semnalizeze segmentele editate de AI în interiorul filmărilor altfel autentice - o capacitate care vizează problema tot mai mare a videoclipurilor parțial manipulate, mai degrabă decât a clipurilor complet sintetice.

De la detectarea textului la o stivă completă de suporturi sintetice

Pangram și-a construit reputația pe baza detectării textului AI, unde clasificatorii săi sunt utilizați pe scară largă în educație și publicare, iar acoperirea lansării de către Yahoo Tech a descris compania drept standardul de aur în acea categorie. Extinderea în imagini și videoclipuri este o expansiune naturală și poziționează Pangram ca un ghișeu unic pentru platforme, redacții și întreprinderi care încearcă să controleze media sintetică în diferite formate.

Noile modele sunt livrate cu suport API atât pentru detectarea imaginilor, cât și a videoclipurilor și o extensie Chrome care aplică detectarea imaginilor și videoclipurilor pe măsură ce utilizatorii își derulează fluxurile - mutând detectarea de la un instrument de moderare back-office la ceva mai aproape de protecția consumatorilor. Pangram spune că a comparat modelele și cu seturi de date academice, inclusiv X-AIGD, Mirage-Test, AIGenImages2026, Synthbuster asociat cu RAISE și Community Forensics.

Cursa înarmărilor de detecție continuă

Un avertisment merită subliniat: fiecare număr din anunțul lui Pangram provine din propriile evaluări ale lui Pangram, efectuate pe propriile sale benchmark-uri bazate pe oglindă. Validarea independentă este modul în care instrumentele de detectare câștigă în cele din urmă încredere, iar istoria detectării AI este plină de instrumente a căror precizie s-a prăbușit împotriva generatoarelor pe care nu i-au văzut niciodată. Pangram însuși a recunoscut acest lucru în postarea sa, mulțumind comunității pentru că a încercat previzualizarea cercetării și i-a găsit punctele slabe.

Totuși, lansarea este un indicator semnificativ al progresului în care tehnologia de detectare a progresat ca răspuns la îmbunătățirea rapidă a videoclipurilor generative. Dacă rezultatul raportat DF26 supraviețuiește testării terțelor părți, diferența dintre ceea ce oamenii pot percepe și ceea ce mașinile pot verifica nu va face decât să se lărgească - care este tocmai piața pe care pariază Pangram.

Pentru platforme și editori, concluzia practică este că detectarea de înaltă precizie la rezoluții scăzute, inclusiv analiza video la nivel de cadru, devine disponibilă ca API-uri de bază. Următoarea fază a problemei media sintetice poate fi mai puțin despre posibilitatea de detectare și mai mult despre cine o implementează și în ce strat al instalațiilor sanitare ale internetului.

Rămâi înaintea AI

Suporturile sintetice, instrumentele de detectare și platformele care le adoptă sunt ținte mobile - rămâneți la curent cu toate acestea.

Citiți mai multe știri AI →