Google DeepMind und die Government Technology Agency (GovTech) von Singapur haben ein Modell zur Betrugserkennung auf dem Gerät vorgestellt, das Smartphone-Benutzer in Echtzeit vor manipulativen Gesprächen warnen soll – ohne dass jemals private Nachrichten das Telefon verlassen. Die Ankündigung, die im Google DeepMind-Blog veröffentlicht und auf der Singapore International Cyber ​​Week 2026 vorgestellt wurde, beschreibt ein leichtes Modell, das auf die lokale Betrugslandschaft abgestimmt und für die Ausführung auf typischen Smartphones optimiert ist.

Warum Singapur das Testgelände ist Weitere Informationen zu dieser Geschichte finden Sie in unserer neueste KI-Entwicklungen.

Das Ausmaß des Betrugsproblems in Singapur gibt dem Projekt eine klare Begründung. Laut der von JJ Geewax und Miguel de Andrés von Google DeepMind verfassten Ankündigung machen Betrügereien mehr als die Hälfte der im Land gemeldeten Straftaten aus und haben seit 2019 Verluste in Höhe von über 4 Milliarden Singapur-Dollar verursacht. Die Betrugstaktiken haben sich nach Angaben der Unternehmen von einfachem Phishing hin zu komplexem Social Engineering verlagert, bei dem Angreifer über Tage oder Wochen hinweg überzeugende Gespräche aufbauen, bevor sie um Geld bitten – ein Muster, das mittlerweile bis zu 80 % aller Betrugsverluste ausmacht.

Generische KI-Modelle haben oft Probleme mit lokalisierten Täuschungstechniken, heißt es in der Ankündigung. Um dem entgegenzuwirken, hat das Team das leichtgewichtige Gemma-Modell von Google auf lokale Betrugsgespräche verfeinert, die von Nachahmungen öffentlicher Institutionen, Banken und lokaler Persönlichkeiten bis hin zu trendigen regionalen Schemata reichen. Dieses Training soll es dem Modell ermöglichen, harmloses soziales Geschwätz von echter Manipulation zu unterscheiden.

So funktioniert die zweistufige On-Device-Pipeline

Das Modell verarbeitet Gesprächsdaten vollständig auf dem Gerät selbst. Diese Designwahl ist wichtig, weil die herkömmliche Bedrohungserkennung Nachrichten auf Cloud-Servern scannt – was für die vielen Messaging-Plattformen, die Ende-zu-Ende-Verschlüsselung verwenden, unmöglich ist und Anbieter private Konversationen nicht überprüfen können, selbst wenn sie es wollten.

Durch die lokale Ausführung der Analyse wird die Erkennung außerdem beschleunigt, sodass Personen eingreifen können, bevor es zu einer Gefährdung finanzieller oder vertrauenswürdiger Informationen kommt. Wenn das Modell manipulative Gesprächsmuster erkennt, erscheint eine Echtzeitwarnung auf dem Gerät, die den Benutzer auffordert, eine Pause einzulegen, bevor er vertrauliche Informationen oder Geld preisgibt.

Der Ankündigung zufolge war die Batterieeffizienz ein entscheidender Faktor bei der Ausführung eines komplexen Betrugsklassifizierers auf modernen Smartphones. Die Teams haben dies mit einer zweistufigen Pipeline gelöst:

  • Stufe 1: Ein leichter, effizienter Klassifikator prüft eingehende Nachrichten mit minimalem Stromverbrauch und konzentriert sich dabei auf die Erkennung potenzieller Bedrohungen.
  • Stufe 2: Das fein abgestimmte Gemma-Modell führt eine kontextbezogene Auswertung eines größeren Schnappschusses der Konversation durch, um eine Bedrohung zu bestätigen oder einen Fehlalarm zu verwerfen.

Governance: Keine Bürgerdaten, souveräne Sandbox

Die Zusammenarbeit wurde auf der Singapore International Cyber Week 2026 vorgestellt, deren Eröffnungsrede nach Angaben des Innenministeriums am 13. Oktober von K Shanmugam, dem leitenden Minister und Minister für Inneres Singapurs, gehalten wurde. Die Ankündigung beschreibt eine strenge Governance, die während der gesamten Entwicklung im Rahmen der drei Maßnahmen „Sovereign Sandbox“, „No Citizen Data“ und „Stresstesting“ aufrechterhalten wird.

Unter Sovereign Sandbox erfolgte die Feinabstimmung innerhalb der von GovTech verwalteten Google Cloud Platform-Umgebung, wobei die Trainingsdaten isoliert blieben. Unter „Keine Bürgerdaten“ wurden bei der Schulung private oder persönlich identifizierbare Informationen strikt ausgeschlossen und stattdessen auf anonymisierte Datensätze aus Betrugsberichten und Geheimdienst-Feeds zurückgegriffen. Im Rahmen eines Stresstests wurde das Modell anhand synthetischer Dialoge und lokaler Korpora getestet, die verschiedene Betrugskategorien und sich entwickelnde Imitationstaktiken abdeckten.

„Betrugsbekämpfung sollte nicht bedeuten, die Privatsphäre zu opfern“, sagte Mark Chen, Direktor für Vertrauen und Sicherheit bei GovTech Singapore, in der Ankündigung. „In Zusammenarbeit mit Google DeepMind bringen wir fortschrittlichen KI-Schutz direkt auf die Geräte der Bürger. Dadurch können wir gezielte, lokale Betrugsversuche in Echtzeit erkennen und gleichzeitig die persönliche Kommunikation vollständig vertraulich halten.“

Teil einer umfassenderen KI-Partnerschaft zwischen Google und Singapur

Das Betrugserkennungsmodell wurde im Rahmen der nationalen KI-Partnerschaft von Google mit der Regierung von Singapur bereitgestellt, die Google DeepMind am 20. Mai 2026 bekannt gab, nachdem im Vorjahr ein Forschungslabor in Singapur eröffnet worden war. Diese Partnerschaft umfasst eine Reihe weiterer Programme: eine Untersuchung der Zusammenarbeit von KI-Co-Klinikern mit Clustern im öffentlichen Gesundheitswesen, Unterstützung der Infektionskrankheitsforschung durch einen 7-Millionen-Dollar-Beitrag von Google.org an die Health for Human Potential-Koalition der Philanthropy Asia Alliance, einen Gemma-betriebenen Laufassistenten für blinde und sehbehinderte Sportler, der mit SG Enable getestet wurde, Schulungen für lokale Forscher zu agentenbasierten KI-Wissenschaftstools mit der National Research Foundation, Gemini for Education für Pädagogen und Forschung zu multimodalen und mehrsprachigen Sicherheits-Benchmarks mit der Infocomm Media Development Authority und MLCommons.

Ein Integrationspfad für Messaging-Plattformen

Laut Google DeepMind können Messaging-Plattformen und Betriebssystemanbieter diese einfachen Modelle direkt integrieren, um Benutzer lokal zu schützen und Chat-Interaktionen sicher zu halten, ohne private Daten preiszugeben. Die Ankündigung positioniert das Projekt als Vorlage für Messaging-Plattformen, die Benutzerschutz mit Ende-zu-Ende-Verschlüsselung in Einklang bringen – und als Beispiel für die Zusammenarbeit von Regierungen und Modellanbietern bei Sicherheitsproblemen, die keiner von beiden allein lösen kann.

Für eine Region, in der sich die Verluste durch Betrug jährlich auf Milliarden belaufen, könnte sich ein Schutz auf dem Gerät, der die Verschlüsselung respektiert, als folgenreich erweisen. Ob andere Regierungen dem Beispiel Singapurs folgen, wird davon abhängen, wie das Modell funktioniert, sobald es die Telefone echter Benutzer erreicht.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →