Google DeepMind et la Government Technology Agency (GovTech) de Singapour ont dévoilé un modèle de détection des escroqueries sur l'appareil, conçu pour avertir les utilisateurs de smartphones des conversations manipulatrices en temps réel, sans que les messages privés ne quittent le téléphone. L'annonce, publiée sur le blog Google DeepMind et présentée lors de la Singapore International Cyber ​​Week 2026, décrit un modèle léger adapté au paysage local des escroqueries et optimisé pour fonctionner sur les smartphones typiques.

Pourquoi Singapour est le terrain d'essai Pour plus de contexte sur cette histoire, consultez notre couverture de l'industrie de l'IA.

L’ampleur du problème d’escroquerie à Singapour donne au projet une justification claire. Selon l'annonce, rédigée par JJ Geewax et Miguel de Andrés de Google DeepMind, les escroqueries représentent plus de la moitié des crimes signalés dans le pays et ont causé plus de 4 milliards de dollars de pertes depuis 2019. Les tactiques d'escroquerie, selon les entreprises, sont passées du simple phishing à une ingénierie sociale complexe, dans laquelle les attaquants établissent des conversations convaincantes pendant des jours ou des semaines avant de demander de l'argent – ​​un modèle qui représente désormais jusqu'à 80 % de toutes les pertes liées aux escroqueries.

Les modèles d'IA génériques ont souvent du mal à gérer les techniques de tromperie localisées, note l'annonce. Pour résoudre ce problème, l'équipe a affiné le modèle léger Gemma de Google sur les conversations frauduleuses locales, allant des usurpations d'identité d'institutions publiques, de banques et de personnalités locales aux tendances régionales. Cette formation vise à permettre au modèle de distinguer le bavardage social inoffensif de la véritable manipulation.

Comment fonctionne le pipeline en deux étapes sur l'appareil

Le modèle traite les données de conversation entièrement sur l'appareil lui-même. Ce choix de conception est important car la détection conventionnelle des menaces analyse les messages sur les serveurs cloud – ce qui est impossible pour les nombreuses plates-formes de messagerie qui utilisent le cryptage de bout en bout, où les fournisseurs ne peuvent pas inspecter les conversations privées même s'ils le souhaitaient.

L’exécution de l’analyse localement accélère également la détection, afin que les utilisateurs puissent agir avant qu’une exposition financière ou des informations d’identification ne se produise. Lorsque le modèle détecte des modèles de conversation manipulateurs, un avertissement en temps réel apparaît sur l'appareil invitant l'utilisateur à faire une pause avant de partager des informations sensibles ou de l'argent.

L'efficacité de la batterie était une préoccupation majeure dans l'exécution d'un classificateur d'arnaque complexe sur les smartphones modernes, selon l'annonce. Les équipes ont résolu ce problème avec un pipeline en deux étapes :

  • Étape 1 : Un classificateur léger et efficace filtre les messages entrants en utilisant une consommation minimale, en se concentrant sur la détection des menaces potentielles.
  • Étape 2 : Le modèle Gemma affiné effectue une évaluation contextuelle d'un instantané plus large de la conversation pour confirmer une menace ou éliminer une fausse alarme.

Gouvernance : pas de données citoyennes, bac à sable souverain

La collaboration a été présentée lors de la Singapore International Cyber Week 2026, dont le discours d'ouverture a été prononcé le 13 octobre par K Shanmugam, ministre principal et ministre de l'Intérieur de Singapour, selon le ministère de l'Intérieur. L'annonce décrit une gouvernance stricte maintenue tout au long du développement selon trois mesures qu'elle qualifie de Sovereign Sandbox, No Citizen Data et Stress Testing.

Dans le cadre de Sovereign Sandbox, les réglages ont été effectués dans l'environnement Google Cloud Platform géré de GovTech, en gardant les données de formation isolées. Dans le cadre du programme No Citizen Data, la formation excluait strictement les informations privées ou personnellement identifiables, s'appuyant plutôt sur des ensembles de données anonymisées tirées de rapports d'escroquerie et de flux de renseignements. Dans le cadre de tests de résistance, le modèle a été testé par rapport à des dialogues synthétiques et à des corpus locaux couvrant diverses catégories d'arnaques et des tactiques d'usurpation d'identité en évolution.

"Lutter contre les escroqueries ne devrait pas signifier sacrifier la vie privée", a déclaré Mark Chen, directeur de la confiance et de la sécurité chez GovTech Singapore, dans le communiqué. « En travaillant avec Google DeepMind, nous apportons une protection avancée contre l'IA directement sur les appareils des citoyens. Cela nous permet de détecter en temps réel les tentatives d'escroquerie locales très ciblées tout en gardant les communications personnelles totalement privées. »

Fait partie d'un partenariat Google-Singapour en matière d'IA plus large

Le modèle de détection des escroqueries a été fourni dans le cadre du partenariat national d'IA de Google avec le gouvernement de Singapour, annoncé par Google DeepMind le 20 mai 2026, après l'ouverture d'un laboratoire de recherche à Singapour l'année précédente. Ce partenariat comprend une série d'autres programmes : une exploration de la collaboration de co-cliniciens en IA avec des clusters de santé publique, un soutien à la recherche sur les maladies infectieuses via une contribution de 7 millions de dollars de Google.org à la coalition Health for Human Potential de la Philanthropy Asia Alliance, un assistant de course alimenté par Gemma pour les athlètes aveugles et malvoyants testé avec SG Enable, une formation des chercheurs locaux sur les outils scientifiques de l'IA agentique avec la National Research Foundation, Gemini for Education pour les éducateurs et des recherches sur les critères de sécurité multimodaux et multilingues avec l'Infocomm. Autorité de développement des médias et MLCommons.

Un chemin d'intégration pour les plateformes de messagerie

Google DeepMind affirme que les plates-formes de messagerie et les fournisseurs de systèmes d'exploitation peuvent intégrer directement ces modèles légers pour protéger les utilisateurs localement, garantissant ainsi la sécurité des interactions de chat sans exposer les données privées. L'annonce positionne le projet comme un modèle pour les plates-formes de messagerie équilibrant la protection des utilisateurs avec le cryptage de bout en bout – et comme un exemple de gouvernements et de fournisseurs de modèles travaillant ensemble sur des problèmes de sécurité qu'aucun des deux ne peut résoudre seul.

Pour une région où les pertes frauduleuses se chiffrent en milliards chaque année, un garde-fou sur l'appareil qui respecte le cryptage pourrait s'avérer lourd de conséquences. La question de savoir si d'autres gouvernements suivront l'exemple de Singapour dépendra de la manière dont le modèle fonctionnera une fois qu'il aura atteint les téléphones des utilisateurs réels.

---

Restez à la Pointe de l'IA

Les dernières actualités, analyses et percées en IA — au même endroit.

Lire plus d'actualités IA →