Pangram, la società di rilevamento AI meglio conosciuta per la segnalazione di testo generato automaticamente, ha lanciato ufficialmente Pangram Image 1.0 e Pangram Image Flash 1.0, una coppia di modelli che secondo l'azienda costituiscono un nuovo stato dell'arte per il rilevamento di immagini e video generati e modificati dall'intelligenza artificiale. L'annuncio, pubblicato sul blog di Pangram il 4 novembre e ripreso da Engadget, Unite.AI e Yahoo Tech, converte un'anteprima della ricerca che la società ha rilasciato alcuni mesi fa in un prodotto generalmente disponibile con supporto API.

Il lancio arriva in un momento in cui è diventato davvero difficile distinguere i media sintetici dai contenuti autentici, sia per gli scroller occasionali che per i sistemi di moderazione su cui fanno affidamento le piattaforme. La scommessa di Pangram è che modelli di rilevamento dedicati, addestrati specificamente contro gli output degli odierni generatori di frontiera, possono ripristinare parte di quel segnale perduto.

Rilevamento di immagini di frontiera con una precisione del 99,96%.

Il modello di punta Pangram Image 1.0 è stato valutato rispetto a un benchmark costruito dall'azienda stessa: 100 fotografie reali, ciascuna specchiata con versioni sintetiche prodotte da 12 generatori di immagini AI di frontiera utilizzando istruzioni strettamente corrispondenti alla foto originale, per un totale di 1.200 immagini sintetiche. Su questo insieme di valutazioni, Pangram riporta un’accuratezza del 99,96% – una cifra che, se reggesse ad un esame indipendente, metterebbe il modello ben al di sopra dei rilevatori commerciali e accademici con cui l’azienda lo ha confrontato.

Al di là di un semplice verdetto reale o falso, il modello produce mappe di calore che localizzano esattamente dove appare il contenuto dell’intelligenza artificiale all’interno di un’immagine. Ciò è importante per la via di mezzo sempre più comune tra immagini completamente sintetiche e fotografie incontaminate: immagini di marketing con sfondi generati dall’intelligenza artificiale, foto ritoccate con strumenti generativi o compositi che mescolano soggetti reali con elementi generati.

Pangram sostiene inoltre che il nuovo modello è robusto rispetto ai tipi di trasformazioni che sconfiggono in modo affidabile i rilevatori ingenui: compressione dei social media, sfocatura e rumore deliberati e basse risoluzioni di caricamento. L'azienda afferma che la precedente anteprima della ricerca richiedeva immagini di almeno 512x512 pixel, mentre l'Immagine 1.0 accetta input fino a 256x256, con un disclaimer di sicurezza ridotta mostrato al di sotto della vecchia soglia.

Rilevamento video e salto di 29 punti su DF26

Il modello complementare, Pangram Image Flash 1.0, si rivolge ai video, ed è qui che le affermazioni dell'azienda sono più sorprendenti. Pangram cita un recente studio accademico, DF26, che ha scoperto che gli esseri umani sono appena più bravi che casuali nel distinguere i video reali di persone che parlano da quelli generati dall’intelligenza artificiale – e che i rilevatori automatizzati esistenti non erano molto migliori. Sullo stesso benchmark DF26, Pangram riporta un punteggio del 98,7%, che descrive come un salto di 29 punti rispetto al miglior rilevatore successivo.

Per confrontarsi con il mercato commerciale piuttosto che con il mondo accademico, Pangram ha costruito un difficile set di confronto partendo da 129 video reali di social media, generando specchi sintetici di ciascuno utilizzando 14 diversi generatori di video di frontiera: 100 video per generatore, seminati con il primo fotogramma reale di ciascun video sorgente e guidati dalle descrizioni generate dell'azione. Nei 1.529 video risultanti, l'azienda ha confrontato Flash 1.0 con i principali servizi di rilevamento video AI. La metodologia dello specchio è progettata per rimuovere le distorsioni dei contenuti: ogni video reale e il suo gemello sintetico condividono la stessa scena e lo stesso soggetto, quindi un rilevatore non può ingannare il test apprendendo quali argomenti o estetica sono correlati al contenuto dell'intelligenza artificiale.

Il modello Flash esegue anche l'analisi fotogramma per fotogramma, che gli consente di contrassegnare segmenti modificati dall'intelligenza artificiale all'interno di filmati altrimenti autentici, una capacità mirata al crescente problema dei video parzialmente manipolati piuttosto che delle clip completamente sintetiche.

Dal rilevamento del testo a uno stack multimediale sintetico completo

Pangram ha costruito la sua reputazione sul rilevamento del testo tramite intelligenza artificiale, dove i suoi classificatori sono ampiamente utilizzati nell'istruzione e nell'editoria, e la copertura del lancio di Yahoo Tech ha descritto l'azienda come il gold standard in quella categoria. L’estensione a immagini e video è un’espansione naturale e posiziona Pangram come uno sportello unico per piattaforme, redazioni e aziende che cercano di controllare i media sintetici in tutti i formati.

I nuovi modelli sono dotati di supporto API per il rilevamento di immagini e video e di un'estensione di Chrome che applica il rilevamento a immagini e video mentre gli utenti scorrono i loro feed, spostando il rilevamento da uno strumento di moderazione di back-office a qualcosa di più vicino alla protezione di livello consumer. Pangram afferma di aver confrontato i modelli anche con set di dati accademici tra cui X-AIGD, Mirage-Test, AIGenImages2026, Synthbuster abbinato a RAISE e Community Forensics.

La corsa agli armamenti per il rilevamento continua

Un avvertimento merita di essere sottolineato: ogni numero nell'annuncio di Pangram deriva dalle valutazioni di Pangram, condotte sui propri benchmark basati su mirror. La convalida indipendente è il modo in cui gli strumenti di rilevamento alla fine guadagnano fiducia, e la storia del rilevamento dell’intelligenza artificiale è disseminata di strumenti la cui precisione è crollata rispetto a generatori che non avevano mai visto. La stessa Pangram lo ha riconosciuto nel suo post, ringraziando la community per aver provato l'anteprima della ricerca e averne riscontrato i punti deboli.

Tuttavia, il lancio è un indicatore significativo di quanto sia progredita la tecnologia di rilevamento in risposta al rapido miglioramento del video generativo. Se il risultato DF26 riportato sopravvive ai test di terze parti, il divario tra ciò che gli esseri umani possono percepire e ciò che le macchine possono verificare non farà altro che ampliarsi, che è proprio il mercato su cui Pangram sta scommettendo.

Per le piattaforme e gli editori, il vantaggio pratico è che il rilevamento ad alta precisione a basse risoluzioni, inclusa l’analisi video a livello di fotogramma, sta diventando disponibile come API di base. La fase successiva del problema dei media sintetici potrebbe riguardare meno la possibilità di rilevamento e più chi lo utilizza e a quale livello dell’impianto di Internet.

Stai al passo con l'intelligenza artificiale

I media sintetici, gli strumenti di rilevamento e le piattaforme che li adottano sono bersagli mobili: tieniti aggiornato su tutto.

Leggi altre notizie sull'AI →