Google DeepMind とシンガポール政府技術庁 (GovTech) は、個人的なメッセージが電話から出ることなく、操作的な会話についてスマートフォン ユーザーにリアルタイムで警告するように設計されたオンデバイス詐欺検出モデルを発表しました。 Google DeepMind ブログで公開され、2026 年のシンガポール国際サイバーウィークで発表されたこの発表では、地元の詐欺情勢に合わせて微調整され、一般的なスマートフォンで実行するように最適化された軽量モデルについて説明されています。

シンガポールが実験場となる理由 この件の詳細は、人工知能の最新情報をご覧ください。

シンガポールにおける詐欺問題の規模は、このプロジェクトに明確な根拠を与えています。 Google DeepMindのJJ Gewax氏とMiguel de Andrés氏が執筆したこの発表によると、国内で報告されている犯罪の半分以上を詐欺が占めており、2019年以来40億シンガポールドル以上の損失をもたらしているという。両社によると、詐欺の手口は単純なフィッシングから複雑なソーシャルエンジニアリングへと移行しており、攻撃者は数日から数週間かけて説得力のある会話を構築してから金銭を要求しており、現在このパターンが詐欺被害​​全体の最大80％を占めているという。

汎用 AI モデルは、局所的な欺瞞手法に苦戦することが多いと発表文には記載されています。これに対処するために、チームは、公共機関、銀行、地元の有名人のなりすましから、トレンドの地域スキームに至るまで、地域の詐欺会話に基づいて Google の軽量 Gemma モデルを微調整しました。このトレーニングは、モデルが無害な社交的な会話と本物の操作を区別できるようにすることを目的としています。

2 ステージのオンデバイス パイプラインの仕組み

このモデルは、会話データをすべてデバイス自体で処理します。従来の脅威検出はクラウド サーバー上のメッセージをスキャンするため、この設計の選択は重要です。これは、プロバイダーがプライベートな会話を検査したくてもできないため、エンドツーエンドの暗号化を使用する多くのメッセージング プラットフォームでは不可能なことです。

分析をローカルで実行すると検出も高速化されるため、財務的または資格情報の漏洩が発生する前に行動できるようになります。モデルが操作的な会話パターンを検出すると、デバイスにリアルタイムの警告が表示され、機密情報や金銭を共有する前に一時停止するようユーザーに促します。

発表によると、最新のスマートフォンで複雑な詐欺分類器を実行する場合、バッテリー効率は重大な懸念事項でした。チームは、2 段階のパイプラインを使用してこれを解決しました。

  • ステージ 1: 軽量で効率的な分類子は、潜在的な脅威を検出することに重点を置き、最小限の電力で受信メッセージを選別します。
  • ステージ 2: 微調整された Gemma モデルは、会話のより大きなスナップショットの状況に応じた評価を実行して、脅威を確認するか、誤報を破棄します。

ガバナンス: 国民データなし、主権サンドボックス

内務省によると、このコラボレーションはシンガポール国際サイバーウィーク2026で発表され、10月13日にシンガポール上級大臣兼内務大臣のK・シャンムガム氏が開会の辞を述べた。この発表では、ソブリンサンドボックス、市民データなし、ストレステストという 3 つの対策の下で、開発全体を通じて維持される厳格なガバナンスについて説明されています。

Sovereign Sandbox では、GovTech が管理する Google Cloud Platform 環境内で微調整が行われ、トレーニング データは隔離されました。 「市民データなし」の下では、トレーニングではプライベートまたは個人を特定できる情報が厳密に除外され、代わりに詐欺レポートやインテリジェンス フィードから抽出された匿名化されたデータセットに依存しました。ストレス テストでは、モデルは、多様な詐欺カテゴリと進化するなりすまし戦術をカバーする合成対話とローカル コーパスに対してテストされました。

「詐欺と戦うということは、個人のプライバシーを犠牲にすることを意味するべきではありません」と、GovTech Singapore の信頼と安全のディレクターであるマーク・チェン氏は発表の中で述べた。 「Google DeepMind と協力して、高度な AI 保護を国民のデバイスに直接導入しています。これにより、個人のコミュニケーションを完全にプライベートに保ちながら、ターゲットを絞ったローカルな詐欺行為をリアルタイムで捕捉することができます。」

Google とシンガポールの広範な AI パートナーシップの一環

この詐欺検出モデルは、Google DeepMind が前年にシンガポールに研究所を開設した後、2026 年 5 月 20 日に発表したシンガポール政府との Google 国家 AI パートナーシップの一環として提供されました。このパートナーシップには、他のさまざまなプログラムが含まれています。たとえば、公衆衛生クラスターとの AI 共同臨床医の協力の探求、Philanthropy Asia Alliance の Health for Human Potential 連合への Google.org の 700 万ドル寄付による感染症研究の支援、SG Enable でテストされた視覚障害者および弱視アスリート向けの Gemma 搭載ランニング アシスタント、国立研究財団とのエージェントティック AI 科学ツールに関する地元研究者向けトレーニング、教育者向けの Gemini for Education、マルチモーダルおよびInfocomm Media Development Authority および MLCommons による多言語安全ベンチマーク。

メッセージング プラットフォームの統合パス

Google DeepMind によれば、メッセージング プラットフォームとオペレーティング システム ベンダーは、これらの軽量モデルを直接統合してユーザーをローカルに保護し、プライベート データを公開することなくチャットのやり取りを安全に保つことができます。この発表では、このプロジェクトを、ユーザー保護とエンドツーエンドの暗号化のバランスをとるメッセージング プラットフォームのテンプレートとして位置づけ、また、政府とモデル プロバイダーが単独では解決できない安全性の問題に協力する例として位置づけています。

詐欺被害が年間数十億ドルに上る地域では、暗号化を尊重するオンデバイスのガードレールが重要であることが判明する可能性があります。他の政府がシンガポールの例に従うかどうかは、このモデルが実際のユーザーの携帯電話に届いたときにどのように機能するかによって決まります。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →