Google DeepMind e la Government Technology Agency (GovTech) di Singapore hanno presentato un modello di rilevamento delle truffe sul dispositivo progettato per avvisare gli utenti di smartphone di conversazioni manipolative in tempo reale, senza che i messaggi privati lascino mai il telefono. L'annuncio, pubblicato sul blog di Google DeepMind e presentato alla Singapore International Cyber Week 2026, descrive un modello leggero messo a punto per il panorama delle truffe locali e ottimizzato per funzionare su smartphone tipici.
Perché Singapore è il banco di prova Per maggiori informazioni su questa storia, consulta la nostra tendenze IA.
La portata del problema delle truffe a Singapore dà al progetto una chiara logica. Secondo l'annuncio, redatto da JJ Geewax e Miguel de Andrés di Google DeepMind, le truffe rappresentano più della metà dei crimini denunciati nel paese e hanno causato perdite per oltre 4 miliardi di dollari dal 2019. Le tattiche di truffa, affermano le società, si sono spostate dal semplice phishing a complesse tecniche di ingegneria sociale, in cui gli aggressori costruiscono conversazioni convincenti per giorni o settimane prima di chiedere denaro, uno schema che ora rappresenta fino all'80% di tutte le perdite dovute a truffe.
I modelli di IA generici spesso hanno difficoltà con le tecniche di inganno localizzate, osserva l’annuncio. Per risolvere questo problema, il team ha messo a punto il leggero modello Gemma di Google sulle conversazioni di truffe locali, che vanno dalle imitazioni di istituzioni pubbliche, banche e figure locali ai programmi regionali di tendenza. Tale formazione ha lo scopo di consentire al modello di distinguere le chiacchiere sociali innocue dalla manipolazione genuina.
Come funziona la pipeline on-device in due fasi
Il modello elabora i dati di conversazione interamente sul dispositivo stesso. Questa scelta progettuale è importante perché il rilevamento convenzionale delle minacce esegue la scansione dei messaggi sui server cloud, cosa impossibile per le numerose piattaforme di messaggistica che utilizzano la crittografia end-to-end, dove i fornitori non possono ispezionare le conversazioni private anche se lo volessero.
L'esecuzione dell'analisi a livello locale rende inoltre il rilevamento più rapido, in modo che le persone possano agire prima che si verifichi un'esposizione finanziaria o delle credenziali. Quando il modello rileva modelli di conversazione manipolativi, sul dispositivo viene visualizzato un avviso in tempo reale che invita l'utente a fare una pausa prima di condividere informazioni sensibili o denaro.
Secondo l'annuncio, l'efficienza della batteria è stata una preoccupazione fondamentale nell'esecuzione di un complesso classificatore di truffe sui moderni smartphone. I team hanno risolto questo problema con una pipeline in due fasi:
- Fase 1: Un classificatore leggero ed efficiente filtra i messaggi in entrata utilizzando una potenza minima, concentrandosi sull'individuazione di potenziali minacce.
- Fase 2: Il modello Gemma ottimizzato esegue una valutazione contestuale di un'istantanea più ampia della conversazione per confermare una minaccia o scartare un falso allarme.
Governance: nessun dato sui cittadini, sandbox sovrano
La collaborazione è stata presentata alla Singapore International Cyber Week 2026, il cui discorso di apertura è stato pronunciato il 13 ottobre da K Shanmugam, Primo Ministro e Ministro degli Affari Interni di Singapore, secondo il Ministero degli Affari Interni. L'annuncio descrive una rigorosa governance mantenuta durante tutto lo sviluppo nell'ambito di tre misure etichettate come Sovereign Sandbox, No Citizen Data e Stress-Testing.
Nell'ambito di Sovereign Sandbox, la messa a punto è avvenuta all'interno dell'ambiente gestito Google Cloud Platform di GovTech, mantenendo isolati i dati di formazione. Con No Citizen Data, la formazione escludeva rigorosamente le informazioni private o di identificazione personale, basandosi invece su set di dati anonimizzati ricavati da segnalazioni di truffe e feed di intelligence. Sotto stress test, il modello è stato testato rispetto a dialoghi sintetici e corpora locali che coprivano diverse categorie di truffe e tattiche di imitazione in evoluzione.
"Combattere le truffe non dovrebbe significare sacrificare la privacy personale", ha affermato Mark Chen, direttore di Trust and Safety presso GovTech Singapore, nell'annuncio. "Lavorando con Google DeepMind, stiamo portando la protezione avanzata dell'intelligenza artificiale direttamente sui dispositivi dei cittadini. Questo ci consente di individuare in tempo reale tentativi di truffa locale altamente mirati, mantenendo le comunicazioni personali completamente private."
Parte di una più ampia partnership AI tra Google e Singapore
Il modello di rilevamento delle truffe è stato fornito come parte della partnership nazionale sull'intelligenza artificiale di Google con il governo di Singapore, annunciata da Google DeepMind il 20 maggio 2026, dopo aver aperto un laboratorio di ricerca a Singapore l'anno precedente. Questa partnership include una serie di altri programmi: l'esplorazione della collaborazione di co-clinici legati all'intelligenza artificiale con cluster di sanità pubblica, il sostegno alla ricerca sulle malattie infettive attraverso un contributo di 7 milioni di dollari da parte di Google.org alla coalizione Health for Human Potential della Philanthropy Asia Alliance, un assistente di corsa basato su Gemma per atleti non vedenti e ipovedenti testato con SG Enable, formazione per ricercatori locali sugli strumenti scientifici dell'intelligenza artificiale con la National Research Foundation, Gemini for Education per educatori e ricerca su benchmark di sicurezza multimodali e multilingue con Infocomm. Autorità per lo sviluppo dei media e MLCommons.
Un percorso di integrazione per le piattaforme di messaggistica
Google DeepMind afferma che le piattaforme di messaggistica e i fornitori di sistemi operativi possono integrare direttamente questi modelli leggeri per salvaguardare gli utenti a livello locale, mantenendo sicure le interazioni in chat senza esporre dati privati. L’annuncio posiziona il progetto come un modello per le piattaforme di messaggistica che bilanciano la protezione degli utenti con la crittografia end-to-end e come un esempio di governi e fornitori di modelli che lavorano insieme su problemi di sicurezza che nessuno dei due può risolvere da solo.
Per una regione in cui le perdite legate alle truffe ammontano a miliardi ogni anno, un guardrail sui dispositivi che rispetti la crittografia potrebbe rivelarsi consequenziale. Se altri governi seguiranno l'esempio di Singapore dipenderà da come si comporterà il modello una volta raggiunto i telefoni degli utenti reali.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
