Google DeepMind și Agenția Tehnologică Guvernamentală din Singapore (GovTech) au dezvăluit un model de detectare a înșelătoriei pe dispozitiv, conceput pentru a avertiza utilizatorii de smartphone-uri despre conversații manipulatoare în timp real, fără ca mesajele private să părăsească vreodată telefonul. Anunțul, publicat pe blogul Google DeepMind și prezentat la Singapore International Cyber ​​Week 2026, descrie un model ușor ajustat pentru peisajul escrocherilor locale și optimizat pentru a rula pe smartphone-uri obișnuite.

De ce Singapore este terenul de testare For more context on this story, see our ongoing AI industry coverage.

Amploarea problemei înșelătoriei din Singapore oferă proiectului o justificare clară. Potrivit anunțului, scris de JJ Geewax și Miguel de Andrés de la Google DeepMind, înșelătoriile reprezintă mai mult de jumătate din infracțiunile raportate ale țării și au cauzat pierderi de peste 4 miliarde de dolari din 2019. Tacticile de înșelătorie, spun companiile, s-au mutat de la simplu phishing la construirea unor conversații complexe de inginerie socială, în care atacuri convingătoare de-a lungul zilelor sau săptămânii convingătoare. model care acum reprezintă până la 80% din toate pierderile înșelătorii.

Modelele AI generice se luptă adesea cu tehnicile de înșelăciune localizată, notează anunțul. Pentru a rezolva acest lucru, echipa a ajustat modelul ușor Gemma de la Google pe conversațiile locale de înșelătorie, variind de la uzurparea identității instituțiilor publice, băncilor și personalităților locale până la scheme regionale în tendințe. Acest antrenament este menit să permită modelului să distingă conversația socială inofensivă de manipularea autentică.

Cum funcționează conducta în două etape pe dispozitiv

Modelul procesează datele de conversație în întregime pe dispozitivul însuși. Această alegere de proiectare contează deoarece detectarea convențională a amenințărilor scanează mesajele pe serverele cloud - ceva care este imposibil pentru multe platforme de mesagerie care folosesc criptare end-to-end, unde furnizorii nu pot inspecta conversațiile private chiar dacă și-ar dori.

Desfășurarea analizei la nivel local face, de asemenea, detectarea mai rapidă, astfel încât oamenii să poată acționa înainte de expunerea financiară sau a acreditărilor. Atunci când modelul detectează modele de conversație manipulatoare, pe dispozitiv apare un avertisment în timp real care îndeamnă utilizatorul să facă o pauză înainte de a partaja informații sensibile sau bani.

Eficiența bateriei a fost o preocupare critică în rularea unui clasificator complex de înșelătorie pe smartphone-urile moderne, potrivit anunțului. Echipele au rezolvat acest lucru cu o conductă în două etape:

  • Etapa 1: Un clasificator ușor și eficient ecranează mesajele primite folosind putere minimă, axat pe prinderea potențialelor amenințări.
  • Etapa 2: Modelul Gemma ajustat realizează o evaluare contextuală a unui instantaneu mai mare al conversației pentru a confirma o amenințare sau pentru a elimina o alarmă falsă.

Guvernare: Fără date despre cetățeni, suveran Sandbox

Colaborarea a fost prezentată la Singapore International Cyber Week 2026, al cărei discurs de deschidere a fost rostit pe 13 octombrie de K Shanmugam, ministrul senior și ministrul Afacerilor Interne din Singapore, potrivit Ministerului Afacerilor Interne. Anunțul descrie o guvernanță strictă menținută pe parcursul dezvoltării în cadrul a trei măsuri pe care le etichetează Sovereign Sandbox, No Citizen Data și Stress-Testing.

În cadrul Sovereign Sandbox, ajustarea a avut loc în mediul Google Cloud Platform gestionat de GovTech, păstrând datele de antrenament izolate. Sub No Citizen Data, instruirea a exclus strict informațiile private sau de identificare personală, bazându-se în schimb pe seturi de date anonime extrase din rapoartele de înșelătorie și fluxurile de informații. În cadrul Stress-Testing, modelul a fost testat împotriva dialogurilor sintetice și a corpurilor locale care acoperă diverse categorii de escrocherie și tactici de uzurpare a identității în evoluție.

„Combaterea înșelătoriilor nu ar trebui să însemne sacrificarea confidențialității personale”, a declarat Mark Chen, director de încredere și siguranță la GovTech Singapore, în anunț. „Lucrând cu Google DeepMind, aducem protecție avansată AI direct pe dispozitivele cetățenilor. Acest lucru ne permite să surprindem încercări de înșelătorie locale foarte țintite în timp real, păstrând în același timp comunicațiile personale complet private.”

Parte dintr-un parteneriat mai larg Google-Singapore AI

Modelul de detectare a înșelătoriei a fost furnizat ca parte a Parteneriatului național AI al Google cu guvernul din Singapore, pe care Google DeepMind l-a anunțat pe 20 mai 2026, după ce a deschis un laborator de cercetare în Singapore anul precedent. Acest parteneriat include o serie de alte programe: o explorare a colaborării co-clinicienilor AI cu grupuri de sănătate publică, sprijin pentru cercetarea bolilor infecțioase printr-o contribuție de 7 milioane de dolari Google.org la coaliția Health for Human Potential a Alianței Philanthropy Asia, un asistent de alergare alimentat de Gemma pentru sportivi nevăzători și cu vedere slabă testați cu SG Enable, antrenament pentru instrumentul de cercetare locală pentru știință Gemini Foundation, pregătire pentru instrumentul de cercetare locală Gemini pentru educație. educatori și cercetări privind standardele de siguranță multimodale și multilingve cu Infocomm Media Development Authority și MLCommons.

O cale de integrare pentru platformele de mesagerie

Google DeepMind spune că platformele de mesagerie și furnizorii de sisteme de operare pot integra direct aceste modele ușoare pentru a proteja utilizatorii la nivel local, păstrând interacțiunile de chat în siguranță fără a expune datele private. Anunțul poziționează proiectul ca un șablon pentru platformele de mesagerie care echilibrează protecția utilizatorilor cu criptarea end-to-end – și ca un exemplu de guverne și furnizori de modele care lucrează împreună la probleme de siguranță pe care niciunul nu le poate rezolva singur.

Pentru o regiune în care pierderile înșelătorii se ridică la miliarde anual, o bară de protecție pe dispozitiv care respectă criptarea s-ar putea dovedi semnificativă. Dacă alte guverne urmează exemplul Singapore, va depinde de performanța modelului odată ce ajunge la telefoanele utilizatorilor reali.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →