Google DeepMind a singapurská vládní technologická agentura (GovTech) představily model detekce podvodů na zařízení, který má v reálném čase varovat uživatele chytrých telefonů před manipulativními konverzacemi – aniž by z telefonu odešly soukromé zprávy. Oznámení zveřejněné na blogu Google DeepMind a prezentované na Singapore International Cyber ​​Week 2026 popisuje lehký model vyladěný pro místní podvodné prostředí a optimalizovaný pro provoz na typických chytrých telefonech.

Proč je Singapur testovacím místem For more context on this story, see our ongoing artificial intelligence updates.

Rozsah problému s podvodem v Singapuru dává projektu jasné odůvodnění. Podle oznámení, jehož autory jsou JJ Geewax z Google DeepMind a Miguel de Andrés, tvoří podvody více než polovinu hlášených zločinů v zemi a od roku 2019 způsobily ztráty přes 4 miliardy USD. Společnosti říkají, že taktika podvodů se posunula od jednoduchého phishingu ke složitému sociálnímu inženýrství, při kterém si útočníci vytvářejí přesvědčivé konverzace po dobu 80 % týdnů předtím, než si vytvoří přesvědčivé konverzace o penězích za několik dní nebo týdnů. všechny podvodné ztráty.

Obecné modely umělé inteligence často bojují s lokalizovanými technikami klamání, uvádí oznámení. Aby to tým vyřešil, vyladil odlehčený model Gemma od Googlu na místních podvodných konverzacích, od předstírání identity veřejných institucí, bank a místních osobností až po trendy regionální schémata. Cílem tohoto školení je umožnit modelu odlišit neškodné sociální tlachání od skutečné manipulace.

Jak funguje dvoustupňové potrubí na zařízení

Model zpracovává data konverzace výhradně na samotném zařízení. Na této volbě návrhu záleží, protože konvenční detekce hrozeb skenuje zprávy na cloudových serverech – něco, co je nemožné pro mnoho platforem pro zasílání zpráv, které používají šifrování typu end-to-end, kde poskytovatelé nemohou kontrolovat soukromé konverzace, i kdyby chtěli.

Spuštění analýzy lokálně také zrychluje detekci, takže lidé mohou jednat dříve, než dojde k finanční nebo pověření. Když model detekuje manipulativní konverzační vzorce, na zařízení se objeví varování v reálném čase, které uživatele vybízí, aby se pozastavil před sdílením citlivých informací nebo peněz.

Účinnost baterie byla podle oznámení zásadním problémem při spuštění složitého klasifikátoru podvodů na moderních chytrých telefonech. Týmy to vyřešily dvoustupňovým potrubím:

  • Stage 1: Lehký a účinný klasifikátor prověřuje příchozí zprávy s minimálním výkonem a zaměřuje se na zachycení potenciálních hrozeb.
  • Fáze 2: Vyladěný model Gemma provádí kontextové vyhodnocení většího snímku konverzace, aby potvrdil hrozbu nebo odstranil falešný poplach.

Správa: Žádná občanská data, suverénní sandbox

Spolupráce byla představena na Singapurském mezinárodním kybernetickém týdnu 2026, jehož úvodní projev pronesl 13. října K Shanmugam, singapurský vrchní ministr a ministr pro vnitřní záležitosti, podle ministerstva vnitra. Oznámení popisuje přísné řízení udržované během vývoje podle tří opatření, která označuje Sovereign Sandbox, No Citizen Data a Stress-Testing.

V rámci Sovereign Sandbox došlo k doladění uvnitř spravovaného prostředí Google Cloud Platform společnosti GovTech, přičemž tréninková data zůstala izolovaná. V rámci No Citizen Data školení striktně vylučovalo soukromé nebo osobně identifikovatelné informace a místo toho se spoléhalo na anonymizované datové soubory získané z podvodných zpráv a zpravodajských zdrojů. V rámci zátěžového testování byl model testován proti syntetickým dialogům a místním korpusům pokrývajícím různé kategorie podvodů a vyvíjející se taktiky předstírání identity.

"Boj proti podvodům by neměl znamenat obětování osobního soukromí," uvedl v oznámení Mark Chen, ředitel pro důvěru a bezpečnost společnosti GovTech Singapore. "Ve spolupráci s Google DeepMind přinášíme pokročilou ochranu AI přímo do zařízení občanů. To nám umožňuje zachytit vysoce cílené místní pokusy o podvody v reálném čase a zároveň zachovat osobní komunikaci zcela soukromou."

Součást širšího partnerství Google-Singapur AI

Model detekce podvodů byl dodán v rámci národního partnerství Google pro umělou inteligenci se singapurskou vládou, které Google DeepMind oznámil 20. května 2026 po otevření výzkumné laboratoře v Singapuru v předchozím roce. Toto partnerství zahrnuje řadu dalších programů: zkoumání spolupráce mezi AI co-klinickými skupinami veřejného zdraví, podporu výzkumu infekčních nemocí prostřednictvím příspěvku Google.org ve výši 7 milionů USD do koalice Philanthropy Asia Alliance Health for Human Potential, běžeckého asistenta pro nevidomé a slabozraké sportovce s funkcí Gemma, testovaného pomocí SG Enable, školení pro místní výzkumné pracovníky v oblasti agentního výzkumu AI a nadace pro vzdělávání pro víceúčelové vědecké výzkumné nástroje National Research AI. a vícejazyčné bezpečnostní standardy s Infocomm Media Development Authority a MLCommons.

Integrační cesta pro platformy pro zasílání zpráv

Google DeepMind říká, že platformy pro zasílání zpráv a prodejci operačních systémů mohou přímo integrovat tyto lehké modely, aby chránili uživatele lokálně a udržovali chatové interakce v bezpečí bez odhalení soukromých dat. Oznámení staví projekt jako šablonu pro platformy pro zasílání zpráv, které vyvažují ochranu uživatelů s end-to-end šifrováním – a jako příklad vládních institucí a poskytovatelů modelů spolupracujících na bezpečnostních problémech, které ani jeden z nich nemůže vyřešit sám.

Pro region, kde ztráty z podvodů jdou ročně do miliard, by se zábradlí na zařízení, které respektuje šifrování, mohlo ukázat jako důležité. Zda ostatní vlády následují příklad Singapuru, bude záležet na tom, jak si model povede, až se dostane do telefonů skutečných uživatelů.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →