谷歌 DeepMind 和新加坡政府技术局 (GovTech) 推出了一种设备上的诈骗检测模型，旨在实时警告智能手机用户有关操纵性对话的信息，而私人消息不会离开手机。该公告发布在 Google DeepMind 博客上，并在 2026 年新加坡国际网络周上发布，描述了一个针对本地诈骗情况进行微调并优化以在典型智能手机上运行的轻量级模型。

为什么新加坡是试验场 更多相关背景，请参阅我们的人工智能资讯。

新加坡诈骗问题的规模为该项目提供了明确的理由。根据谷歌 DeepMind 的 JJ Geawax 和 Miguel de Andrés 撰写的公告，诈骗占该国已报告犯罪的一半以上，自 2019 年以来已造成超过 40 亿新元的损失。两家公司表示，诈骗策略已从简单的网络钓鱼转向复杂的社会工程，即攻击者在索要金钱之前花费数天或数周的时间建立令人信服的对话，这种模式目前占所有诈骗损失的 80%。

公告指出，通用人工智能模型经常与局部欺骗技术作斗争。为了解决这个问题，该团队针对本地诈骗对话对 Google 的轻量级 Gemma 模型进行了微调，范围从模仿公共机构、银行和当地人物到流行的区域骗局。该训练的目的是让模型区分无害的社交聊天和真正的操纵。

两阶段设备上管道的工作原理

该模型完全在设备本身上处理对话数据。这种设计选择很重要，因为传统的威胁检测会扫描云服务器上的消息——这对于许多使用端到端加密的消息传递平台来说是不可能的，在这些平台上，提供商即使愿意也无法检查私人对话。

在本地运行分析还可以加快检测速度，因此人们可以在财务或凭证暴露发生之前采取行动。当模型检测到操纵性对话模式时，设备上会出现实时警告，敦促用户在分享敏感信息或金钱之前暂停。

根据公告，电池效率是在现代智能手机上运行复杂的诈骗分类器的一个关键问题。团队通过两阶段管道解决了这个问题：

  • 第 1 阶段： 轻量级、高效的分类器使用最小的功率筛选入站消息，专注于捕获潜在威胁。
  • 第 2 阶段： 经过微调的 Gemma 模型对较大的对话快照执行上下文评估，以确认威胁或丢弃误报。

治理：没有公民数据，主权沙箱

据新加坡内政部称，此次合作在 2026 年新加坡国际网络周上进行了展示，新加坡高级部长兼内政部长尚穆根 (K Shanmugam) 于 10 月 13 日发表了开幕致辞。该公告描述了在整个开发过程中通过主权沙盒、无公民数据和压力测试三项措施维持的严格治理。

在 Sovereign Sandbox 下，微调是在 GovTech 的托管 Google Cloud Platform 环境内进行的，从而保持训练数据的隔离。在“无公民数据”的情况下，培训严格排除私人或个人身份信息，而是依赖从诈骗报告和情报源中提取的匿名数据集。在压力测试下，该模型针对涵盖不同诈骗类别和不断发展的冒充策略的合成对话和本地语料库进行了测试。

“打击诈骗不应意味着牺牲个人隐私，”新加坡 GovTech 信任与安全总监 Mark Chen 在公告中表示。 “通过与 Google DeepMind 合作，我们将先进的人工智能保护直接引入到公民的设备上。这使我们能够实时捕获高度针对性的本地诈骗企图，同时保持个人通信的完全私密性。”

更广泛的 Google-新加坡 AI 合作伙伴关系的一部分

该诈骗检测模型是谷歌与新加坡政府国家人工智能合作伙伴关系的一部分，谷歌 DeepMind 去年在新加坡开设了一个研究实验室后于 2026 年 5 月 20 日宣布了这一合作。该合作伙伴关系还包括一系列其他计划：探索人工智能联合临床医生与公共卫生集群的合作，通过 Google.org 向亚洲慈善联盟的人类健康潜力联盟捐款 700 万美元来支持传染病研究，通过 SG Enable 测试为盲人和低视力运动员提供由 Gemma 驱动的跑步助手，与国家研究基金会一起为当地研究人员提供代理人工智能科学工具的培训，为教育工作者提供 Gemini for Education 培训，以及与 Infocomm 一起进行多模式和多语言安全基准研究媒体发展局和 MLCommons。

消息传递平台的集成路径

谷歌 DeepMind 表示，消息传递平台和操作系统供应商可以直接集成这些轻量级模型，在本地保护用户，保证聊天交互的安全，而不会暴露私人数据。该公告将该项目定位为平衡用户保护与端到端加密的消息传递平台的模板，也是政府和模型提供商共同努力解决双方无法单独解决的安全问题的一个例子。

对于一个每年诈骗损失达数十亿美元的地区来说，尊重加密的设备上护栏可能是重要的。其他政府是否效仿新加坡的做法将取决于该模型到达真实用户手机后的表现。

---

掌握AI最新动态

获取最新的AI新闻、分析和突破——尽在一处。

阅读更多AI新闻 →