Google DeepMind och Singapores Government Technology Agency (GovTech) har avslöjat en modell för bedrägeriupptäckt på enheten utformad för att varna smartphoneanvändare om manipulativa konversationer i realtid – utan att privata meddelanden någonsin lämnar telefonen. Tillkännagivandet, publicerat på Google DeepMind-bloggen och presenterat vid Singapore International Cyber ​​Week 2026, beskriver en lättviktsmodell finjusterad för det lokala blufflandskapet och optimerad för att köras på typiska smartphones.

Varför Singapore är testplatsen For more context on this story, see our ongoing AI industry coverage.

Omfattningen av bluffproblemet i Singapore ger projektet en tydlig motivering. Enligt tillkännagivandet, författat av Google DeepMinds JJ Geewax och Miguel de Andrés, utgör bedrägerier mer än hälften av landets rapporterade brott och har orsakat över S$ 4 miljarder i förluster sedan 2019. Bedrägeritaktik, säger företagen, har skiftat från enkelt nätfiske mot komplex social ingenjörskonst, där angripare skapar ett mönster för pengar innan den dagen eller veckan bygger ett mönster för pengar. står nu för upp till 80 % av alla bedrägeriförluster.

Generiska AI-modeller kämpar ofta med lokaliserade bedrägeritekniker, noterar tillkännagivandet. För att ta itu med det finjusterade teamet Googles lätta Gemma-modell på lokala bluffkonversationer, allt från efterbildningar av offentliga institutioner, banker och lokala personer till trendiga regionala system. Den utbildningen syftar till att låta modellen skilja ofarligt socialt pladder från äkta manipulation.

Hur tvåstegsrörledningen på enheten fungerar

Modellen bearbetar konversationsdata helt och hållet på själva enheten. Det designvalet är viktigt eftersom konventionell hotdetektering skannar meddelanden på molnservrar – något som är omöjligt för de många meddelandeplattformar som använder end-to-end-kryptering, där leverantörer inte kan inspektera privata konversationer även om de skulle vilja.

Att köra analysen lokalt gör också upptäckten snabbare, så att människor kan agera innan ekonomisk exponering eller referensexponering inträffar. När modellen upptäcker manipulativa samtalsmönster visas en varning i realtid på enheten som uppmanar användaren att pausa innan de delar känslig information eller pengar.

Batterieffektivitet var en kritisk fråga för att köra en komplex bluffklassificerare på moderna smartphones, enligt tillkännagivandet. Lagen löste detta med en pipeline i två steg:

  • Steg 1: En lätt, effektiv klassificerare kontrollerar inkommande meddelanden med minimal kraft, fokuserad på att fånga upp potentiella hot.
  • Steg 2: Den finjusterade Gemma-modellen utför en kontextuell utvärdering av en större ögonblicksbild av konversationen för att bekräfta ett hot eller förkasta ett falskt larm.

Styrning: Inga medborgardata, suverän sandlåda

Samarbetet presenterades vid Singapore International Cyber Week 2026, vars öppningstal hölls den 13 oktober av K Shanmugam, Singapores seniorminister och inrikesminister, enligt inrikesministeriet. Tillkännagivandet beskriver strikt styrning som upprätthålls under hela utvecklingen under tre åtgärder som märks Sovereign Sandbox, No Citizen Data och Stress-Testing.

Under Sovereign Sandbox ägde finjustering rum i GovTechs hanterade Google Cloud Platform-miljö, vilket höll träningsdata isolerad. Under No Citizen Data uteslöt utbildning strikt privat eller personligt identifierbar information, utan förlitade sig istället på anonymiserade datauppsättningar från bluffrapporter och underrättelseflöden. Under stresstestning testades modellen mot syntetiska dialoger och lokala korporationer som täcker olika kategorier av bedrägerier och utvecklande imitationstaktik.

"Att bekämpa bedrägerier bör inte innebära att man offra den personliga integriteten", säger Mark Chen, Director of Trust and Safety på GovTech Singapore, i tillkännagivandet. "När vi arbetar med Google DeepMind, tar vi med avancerat AI-skydd direkt till medborgarnas enheter. Detta gör att vi kan fånga mycket riktade, lokala bedrägeriförsök i realtid samtidigt som personlig kommunikation är helt privat."

Del av ett bredare Google-Singapore AI-partnerskap

Bedrägeriupptäcktsmodellen levererades som en del av Googles nationella AI-partnerskap med Singapores regering, som Google DeepMind tillkännagav den 20 maj 2026, efter att ha öppnat ett forskningslabb i Singapore föregående år. Det partnerskapet inkluderar en rad andra program: en utforskning av AI-medklinikersamarbete med folkhälsokluster, stöd för forskning om infektionssjukdomar genom ett Google.org-bidrag på 7 miljoner USD till Philanthropy Asia Alliance's Health for Human Potential-koalition, en Gemma-driven löpassistent för blinda och synskadade idrottare som testats med SG Research Foundation, med hjälp av lokala forskningsverktyg för AI Research Enable, Gemini for Education för lärare och forskning om multimodala och flerspråkiga säkerhetsriktmärken med Infocomm Media Development Authority och MLCommons.

En integrationsväg för meddelandeplattformar

Google DeepMind säger att meddelandeplattformar och leverantörer av operativsystem direkt kan integrera dessa lätta modeller för att skydda användare lokalt och hålla chattinteraktioner säkra utan att exponera privata data. Tillkännagivandet positionerar projektet som en mall för meddelandeplattformar som balanserar användarskydd med end-to-end-kryptering – och som ett exempel på regeringar och modellleverantörer som arbetar tillsammans med säkerhetsproblem som ingen av dem kan lösa på egen hand.

För en region där bedrägeriförluster uppgår till miljarder årligen, kan ett skyddsräcke på enheten som respekterar kryptering visa sig vara en följd. Huruvida andra regeringar följer Singapores ledning kommer att bero på hur modellen presterar när den väl når verkliga användares telefoner.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →