Google DeepMind en de Singaporese Government Technology Agency (GovTech) hebben een detectiemodel voor oplichting op het apparaat onthuld dat is ontworpen om smartphonegebruikers in realtime te waarschuwen voor manipulatieve gesprekken – zonder dat privéberichten ooit de telefoon verlaten. De aankondiging, gepubliceerd op de Google DeepMind-blog en gepresenteerd op de Singapore International Cyber ​​Week 2026, beschrijft een lichtgewicht model dat is afgestemd op het lokale zwendellandschap en is geoptimaliseerd om op typische smartphones te draaien.

Waarom Singapore de proeftuin is Voor meer context over dit verhaal, zie ons AI-nieuws.

De omvang van het oplichtingsprobleem in Singapore geeft het project een duidelijke reden. Volgens de aankondiging, geschreven door JJ Geewax en Miguel de Andrés van Google DeepMind, vormen oplichtingen meer dan de helft van de gerapporteerde misdaden in het land en hebben ze sinds 2019 meer dan 4 miljard dollar aan verliezen veroorzaakt. De tactieken van oplichting zijn volgens de bedrijven verschoven van eenvoudige phishing naar complexe social engineering, waarbij aanvallers dagen of weken lang overtuigende gesprekken voeren voordat ze om geld vragen – een patroon dat nu verantwoordelijk is voor 80% van alle oplichtingsverliezen.

Generieke AI-modellen worstelen vaak met gelokaliseerde misleidingstechnieken, aldus de aankondiging. Om dit aan te pakken heeft het team het lichtgewicht Gemma-model van Google verfijnd op het gebied van lokale zwendelgesprekken, variërend van nabootsingen van openbare instellingen, banken en lokale figuren tot populaire regionale plannen. Die training is bedoeld om het model onschadelijk sociaal gebabbel te laten onderscheiden van echte manipulatie.

Hoe de tweefasige pijplijn op apparaten werkt

Het model verwerkt gespreksgegevens volledig op het apparaat zelf. Die ontwerpkeuze is van belang omdat conventionele detectie van bedreigingen berichten op cloudservers scant – iets dat onmogelijk is voor de vele berichtenplatforms die end-to-end-encryptie gebruiken, waar providers privégesprekken niet kunnen inspecteren, zelfs als ze dat zouden willen.

Door de analyse lokaal uit te voeren, wordt de detectie ook sneller, zodat mensen kunnen handelen voordat er financiële of referentie-blootstelling plaatsvindt. Wanneer het model manipulatieve gesprekspatronen detecteert, verschijnt er een realtime waarschuwing op het apparaat waarin de gebruiker wordt aangespoord te pauzeren voordat hij gevoelige informatie of geld deelt.

Volgens de aankondiging was de batterij-efficiëntie een cruciaal punt van zorg bij het uitvoeren van een complexe zwendelclassificatie op moderne smartphones. De teams hebben dit opgelost met een pijplijn in twee fasen:

  • Fase 1: Een lichtgewicht, efficiënte classificatie screent inkomende berichten met minimale kracht, gericht op het onderscheppen van potentiële bedreigingen.
  • Fase 2: Het verfijnde Gemma-model voert een contextuele evaluatie uit van een grotere momentopname van het gesprek om een ​​bedreiging te bevestigen of een vals alarm te negeren.

Bestuur: geen burgergegevens, soevereine sandbox

De samenwerking werd gepresenteerd tijdens de Singapore International Cyber Week 2026, waarvan de openingstoespraak op 13 oktober werd gehouden door K Shanmugam, de senior minister en minister van Binnenlandse Zaken van Singapore, aldus het ministerie van Binnenlandse Zaken. De aankondiging beschrijft een strikt bestuur dat tijdens de ontwikkeling wordt gehandhaafd onder drie maatregelen die het Sovereign Sandbox, No Citizen Data en Stress-Testing noemt.

Onder Sovereign Sandbox vond de verfijning plaats binnen de beheerde Google Cloud Platform-omgeving van GovTech, waardoor trainingsgegevens geïsoleerd bleven. Onder No Citizen Data werd privé- of persoonlijk identificeerbare informatie strikt uitgesloten bij de training, waarbij in plaats daarvan werd vertrouwd op geanonimiseerde datasets uit oplichtingsrapporten en inlichtingenfeeds. Onder Stress-Testing werd het model getest aan de hand van synthetische dialogen en lokale corpora die diverse oplichtingscategorieën en evoluerende imitatietactieken bestreken.

"Het bestrijden van oplichting mag niet betekenen dat de persoonlijke privacy wordt opgeofferd", zegt Mark Chen, directeur Trust and Safety bij GovTech Singapore, in de aankondiging. "Door samen te werken met Google DeepMind brengen we geavanceerde AI-bescherming rechtstreeks op de apparaten van burgers. Hierdoor kunnen we zeer gerichte, lokale oplichtingspogingen in realtime onderscheppen, terwijl persoonlijke communicatie volledig privé blijft."

Onderdeel van een breder AI-partnerschap tussen Google en Singapore

Het zwendeldetectiemodel werd geleverd als onderdeel van Google's Nationale AI-partnerschap met de regering van Singapore, dat Google DeepMind op 20 mei 2026 aankondigde, nadat het jaar daarvoor een onderzoekslaboratorium in Singapore had geopend. Dat partnerschap omvat een reeks andere programma's: een verkenning van de samenwerking van AI-co-clinici met volksgezondheidsclusters, ondersteuning voor onderzoek naar infectieziekten via een Google.org-bijdrage van $ 7 miljoen aan de Health for Human Potential-coalitie van de Philanthropy Asia Alliance, een door Gemma aangedreven hardloopassistent voor blinde en slechtziende atleten getest met SG Enable, training voor lokale onderzoekers over agentische AI-wetenschappelijke hulpmiddelen met de National Research Foundation, Gemini for Education voor docenten, en onderzoek naar multimodale en meertalige veiligheidsbenchmarks met Infocomm. Mediaontwikkelingsautoriteit en MLCommons.

Een integratiepad voor berichtenplatforms

Google DeepMind zegt dat berichtenplatforms en leveranciers van besturingssystemen deze lichtgewicht modellen direct kunnen integreren om gebruikers lokaal te beschermen, waardoor chatinteracties veilig blijven zonder privégegevens vrij te geven. De aankondiging positioneert het project als een sjabloon voor berichtenplatforms die gebruikersbescherming combineren met end-to-end-encryptie – en als een voorbeeld van overheden en modelaanbieders die samenwerken aan veiligheidsproblemen die geen van beiden alleen kan oplossen.

Voor een regio waar de verliezen door oplichting jaarlijks in de miljarden lopen, zou een vangrail op het apparaat die de encryptie respecteert, consequenties kunnen hebben. Of andere regeringen het voorbeeld van Singapore zullen volgen, zal afhangen van hoe het model presteert zodra het de telefoons van echte gebruikers bereikt.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →