Google DeepMind וסוכנות הטכנולוגיה הממשלתית של סינגפור (GovTech) חשפו מודל זיהוי תרמית במכשיר שנועד להזהיר משתמשי סמארטפונים על שיחות מניפולטיביות בזמן אמת - מבלי שהודעות פרטיות ייצאו מהטלפון. ההכרזה, שפורסמה בבלוג Google DeepMind והוצגה בשבוע הסייבר הבינלאומי של סינגפור 2026, מתארת ​​דגם קל משקל המכוון לנוף ההונאה המקומי ומותאם לרוץ על סמארטפונים טיפוסיים.

מדוע סינגפור היא מגרש הניסויים For more context on this story, see our ongoing latest AI developments.

היקף בעיית ההונאה בסינגפור נותן לפרויקט רציונל ברור. על פי ההודעה, שנכתבה על ידי JJ Geewax מ-Google DeepMind ומיגל דה אנדרס, הונאות מהוות יותר ממחצית מהפשעים המדווחים במדינה וגרמו להפסדים של למעלה מ-4 מיליארד דולר סינגפורי מאז 2019. טקטיקות ההונאה, אומרים החברות, עברו מפישינג פשוט לכיוון של הנדסה חברתית מורכבת, שבה התוקפים בונים דפוס של הנדסה חברתית או שבוע זה, כמו הנדסה חברתית מורכבת, ותוקפים לפני שבוע. מהווה כעת עד 80% מכל הפסדי ההונאה.

דגמי AI גנריים נאבקים לעתים קרובות עם טכניקות הונאה מקומיות, מציינת ההודעה. כדי להתמודד עם זה, הצוות כוונן את מודל Gemma הקל של גוגל על ​​שיחות הונאה מקומיות, החל מהתחזות של מוסדות ציבוריים, בנקים ודמויות מקומיות ועד לתוכניות אזוריות מגמתיות. האימון הזה נועד לתת למודל להבחין בין פטפוט חברתי לא מזיק לבין מניפולציה אמיתית.

כיצד פועל הצינור הדו-שלבי במכשיר

המודל מעבד את נתוני השיחה כולו במכשיר עצמו. בחירת העיצוב הזו חשובה מכיוון שזיהוי איומים קונבנציונלי סורק הודעות בשרתי ענן - דבר שהוא בלתי אפשרי עבור פלטפורמות ההודעות הרבות המשתמשות בהצפנה מקצה לקצה, שבהן ספקים לא יכולים לבדוק שיחות פרטיות גם אם הם רוצים בכך.

הפעלת הניתוח באופן מקומי גם הופכת את הזיהוי למהיר יותר, כך שאנשים יכולים לפעול לפני שמתרחשת חשיפה פיננסית או אישור. כאשר המודל מזהה דפוסי שיחה מניפולטיביים, מופיעה אזהרה בזמן אמת במכשיר הקוראת למשתמש להשהות לפני שיתוף מידע רגיש או כסף.

יעילות הסוללה הייתה דאגה קריטית בהפעלת סיווג הונאה מורכב בסמארטפונים מודרניים, על פי ההודעה. הצוותים פתרו זאת באמצעות צינור דו-שלבי:

  • שלב 1: מסווג קל משקל ויעיל מסנן הודעות נכנסות תוך שימוש בצריכת חשמל מינימלית, מתמקד בתפיסת איומים פוטנציאליים.
  • שלב 2: מודל Gemma המכוונן עדין מבצע הערכה הקשרית של תמונת מצב גדולה יותר של השיחה כדי לאשר איום או לבטל אזעקת שווא.

ממשל: ללא נתוני אזרח, ארגז חול ריבוני

שיתוף הפעולה הוצג בשבוע הסייבר הבינלאומי של סינגפור 2026, שנאום הפתיחה שלו נשא ב-13 באוקטובר על ידי K Shanmugam, השר הבכיר ושר הפנים של סינגפור, לפי משרד הפנים. ההכרזה מתארת ​​ניהול קפדני שנשמר לאורך כל הפיתוח תחת שלושה אמצעים שהיא תויגת Sovereign Sandbox, No Citizen Data ו-Stress-Test.

תחת Sovereign Sandbox, כוונון עדין התרחש בתוך סביבת Google Cloud Platform המנוהלת של GovTech, תוך שמירה על מבודדת נתוני ההדרכה. במסגרת "ללא נתוני אזרח", הכשרה חריגה לחלוטין מידע פרטי או אישי מזהה, והסתמכה במקום זאת על מערכי נתונים אנונימיים שנלקחו מדוחות הונאה ומעדכוני מודיעין. במסגרת בדיקת מתח, המודל נבדק כנגד דיאלוגים סינתטיים וקורפוסים מקומיים המכסים קטגוריות הונאה מגוונות וטקטיקות התחזות מתפתחות.

"להילחם בהונאות לא אמורה להקריב את הפרטיות האישית", אמר מארק צ'ן, מנהל אמון ובטיחות ב-GovTech Singapore, בהודעה. "בעבודה עם Google DeepMind, אנו מביאים הגנת AI מתקדמת ישירות למכשירים של אזרחים. זה מאפשר לנו לתפוס ניסיונות הונאה מקומיים ממוקדים מאוד בזמן אמת תוך שמירה על תקשורת אישית פרטית לחלוטין."

חלק משותפות בינה מלאכותית רחבה יותר בין גוגל לסינגפור

מודל זיהוי ההונאה נמסר כחלק משותפות ה-AI הלאומית של גוגל עם ממשלת סינגפור, עליה הכריזה Google DeepMind ב-20 במאי 2026, לאחר שפתחה מעבדת מחקר בסינגפור בשנה הקודמת. שותפות זו כוללת מגוון תוכניות אחרות: חקירה של שיתוף פעולה של מטפלים בינה מלאכותית עם אשכולות בריאות הציבור, תמיכה במחקר מחלות זיהומיות באמצעות תרומה של 7 מיליון דולר מ-Google.org לקואליציית Health for Human Potential של Philanthropy Asia Alliance, עוזרת ריצה המופעלת על ידי Gemma לספורטאים עיוורים ובעלי ראייה לקויה, עם כלי אימון ל-SG AI Research Enable, Gemini for Education למחנכים, ומחקר על מדדי בטיחות רב-מודאליים ורב-לשוניים עם Infocomm Media Development Authority ו-MLCommons.

נתיב אינטגרציה לפלטפורמות העברת הודעות

Google DeepMind אומרת שפלטפורמות העברת הודעות וספקי מערכות הפעלה יכולים לשלב ישירות את המודלים הקלים האלה כדי להגן על המשתמשים באופן מקומי, ולשמור על אינטראקציות צ'אט מאובטחות מבלי לחשוף נתונים פרטיים. ההכרזה מציבה את הפרויקט כתבנית לפלטפורמות העברת הודעות המאזנות את הגנת המשתמש עם הצפנה מקצה לקצה - וכדוגמה לממשלות וספקי מודלים שעובדים יחד על בעיות בטיחות שאף אחת מהן לא יכולה לפתור לבד.

עבור אזור שבו הפסדי הונאה מגיעים למיליארדים מדי שנה, מעקה בטיחות במכשיר שמכבד הצפנה עשוי להיות תוצאה. אם ממשלות אחרות ילכו בעקבות סינגפור, תלוי בביצועי הדגם ברגע שהוא יגיע לטלפונים של משתמשים אמיתיים.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →