Google DeepMind و آژانس فناوری دولتی سنگاپور (GovTech) از یک مدل تشخیص کلاهبرداری روی دستگاه رونمایی کرده‌اند که برای هشدار به کاربران گوشی‌های هوشمند در مورد مکالمات دستکاری در زمان واقعی طراحی شده است - بدون اینکه پیام‌های خصوصی از تلفن خارج شود. این اعلامیه که در وبلاگ Google DeepMind منتشر شده و در هفته سایبری بین‌المللی سنگاپور در سال 2026 ارائه شده است، مدلی سبک وزن را توصیف می‌کند که برای منظره کلاهبرداری محلی تنظیم شده و برای اجرا در تلفن‌های هوشمند معمولی بهینه شده است.

چرا سنگاپور محل آزمایش است For more context on this story, see our ongoing more AI stories.

مقیاس مشکل کلاهبرداری در سنگاپور به پروژه منطق روشنی می دهد. بر اساس این اعلامیه که توسط جی جی جیواکس و میگل دی آندرس از Google DeepMind تهیه شده است، کلاهبرداری بیش از نیمی از جرایم گزارش شده در کشور را تشکیل می دهد و از سال 2019 بیش از 4 میلیارد دلار سنگاپور خسارت وارد کرده است. شرکت ها می گویند که تاکتیک های کلاهبرداری از فیشینگ ساده به سمت یک الگوی مهندسی اجتماعی پیچیده تغییر کرده است، که در آن چند هفته قبل از ایجاد یک مکالمه برای حمله به عنوان یک الگوی پیچیده، چند روز قبل از این که حملات بیش از چند روز به آنها حمله کند، آنها را متقاعد می کند. تا 80 درصد از کل ضررهای ناشی از کلاهبرداری را شامل می شود.

در این اطلاعیه اشاره شده است که مدل‌های هوش مصنوعی عمومی اغلب با تکنیک‌های فریب موضعی دست و پنجه نرم می‌کنند. برای رفع این مشکل، این تیم مدل سبک وزن Google Gemma را در مکالمات کلاهبرداری محلی، از جعل هویت موسسات عمومی، بانک‌ها، و شخصیت‌های محلی گرفته تا طرح‌های پرطرفدار منطقه‌ای تنظیم کرد. هدف از این آموزش این است که مدل اجازه دهد گفتگوهای اجتماعی بی ضرر را از دستکاری واقعی تشخیص دهد.

خط لوله دو مرحله ای روی دستگاه چگونه کار می کند

مدل داده های مکالمه را به طور کامل روی خود دستگاه پردازش می کند. این انتخاب طراحی اهمیت دارد زیرا تشخیص تهدید معمولی پیام‌ها را روی سرورهای ابری اسکن می‌کند – چیزی که برای بسیاری از پلتفرم‌های پیام‌رسانی که از رمزگذاری سرتاسر استفاده می‌کنند غیرممکن است، جایی که ارائه‌دهندگان حتی اگر بخواهند نمی‌توانند مکالمات خصوصی را بازرسی کنند.

اجرای تجزیه و تحلیل به صورت محلی نیز تشخیص را سریعتر می کند، بنابراین افراد می توانند قبل از مواجهه مالی یا اعتباری اقدام کنند. وقتی مدل الگوهای مکالمه دستکاری شده را تشخیص می‌دهد، یک هشدار بی‌درنگ روی دستگاه ظاهر می‌شود که از کاربر می‌خواهد قبل از به اشتراک گذاشتن اطلاعات حساس یا پول، مکث کند.

بر اساس این اعلامیه، کارایی باتری در اجرای یک طبقه‌بندی پیچیده کلاهبرداری در تلفن‌های هوشمند مدرن یک نگرانی اساسی بود. تیم ها این مشکل را با یک خط لوله دو مرحله ای حل کردند:

  • مرحله 1: یک طبقه بندی کننده سبک وزن و کارآمد، پیام های ورودی را با استفاده از حداقل قدرت، با تمرکز بر روی گرفتن تهدیدهای بالقوه نمایش می دهد.
  • مرحله 2: مدل جما تنظیم شده یک ارزیابی متنی از یک عکس فوری بزرگتر از مکالمه را برای تأیید یک تهدید یا کنار گذاشتن یک هشدار نادرست انجام می دهد.

حکومت: بدون داده شهروندی، Sandbox مستقل

به گفته وزارت امور داخله، این همکاری در هفته بین‌المللی سایبری سنگاپور 2026 ارائه شد که سخنرانی افتتاحیه آن در 13 اکتبر توسط K Shanmugam، وزیر ارشد و وزیر امور داخلی سنگاپور ارائه شد. این اعلامیه، حاکمیت سختگیرانه ای را که در طول توسعه تحت سه معیار تحت عنوان Sandbox Sovereign، No Citizen Data و Stress-Test حفظ می شود، توصیف می کند.

تحت Sovereign Sandbox، تنظیمات دقیق در محیط Google Cloud Platform مدیریت شده GovTech انجام شد و داده‌های آموزشی را ایزوله نگه داشت. تحت «داده‌های شهروندی»، آموزش به‌شدت اطلاعات خصوصی یا شخصی قابل شناسایی را حذف می‌کرد و در عوض بر مجموعه داده‌های ناشناس که از گزارش‌های کلاهبرداری و فیدهای اطلاعاتی استخراج می‌شد، تکیه می‌کرد. تحت تست استرس، این مدل در برابر گفتگوهای مصنوعی و مجموعه‌های محلی که دسته‌های کلاهبرداری مختلف را پوشش می‌دهند و تاکتیک‌های جعل هویت در حال تکامل را پوشش می‌دهند، آزمایش شد.

مارک چن، مدیر اعتماد و ایمنی در GovTech سنگاپور، در این اطلاعیه گفت: مبارزه با کلاهبرداری نباید به معنای قربانی کردن حریم شخصی باشد. "با کار با Google DeepMind، ما حفاظت پیشرفته هوش مصنوعی را مستقیماً روی دستگاه‌های شهروندان می‌آوریم. این به ما امکان می‌دهد تا تلاش‌های کلاهبرداری محلی بسیار هدفمند را در زمان واقعی و در عین حال ارتباطات شخصی را کاملاً خصوصی نگه داریم."

بخشی از مشارکت گسترده تر هوش مصنوعی گوگل و سنگاپور

مدل تشخیص کلاهبرداری به عنوان بخشی از مشارکت ملی هوش مصنوعی گوگل با دولت سنگاپور ارائه شد که Google DeepMind در 20 مه 2026 پس از افتتاح یک آزمایشگاه تحقیقاتی در سنگاپور در سال قبل اعلام کرد. این مشارکت شامل طیف وسیعی از برنامه‌های دیگر می‌شود: کاوش در همکاری پزشکان هوش مصنوعی با خوشه‌های سلامت عمومی، پشتیبانی از تحقیقات بیماری‌های عفونی از طریق کمک ۷ میلیون دلاری Google.org به ائتلاف سلامت برای انسان‌های بالقوه اتحادیه بشردوستانه، یک دستیار دویدن مجهز به Gemma برای ورزشکاران نابینا و کم‌بینا با استفاده از ابزارهای آموزشی علمی محلی SAI. با بنیاد تحقیقات ملی، Gemini برای آموزش برای مربیان، و تحقیق در مورد معیارهای ایمنی چندوجهی و چند زبانه با سازمان توسعه رسانه Infocomm و MLCommons.

مسیر یکپارچه سازی برای پلتفرم های پیام رسانی

Google DeepMind می‌گوید پلت‌فرم‌های پیام‌رسان و فروشندگان سیستم‌عامل می‌توانند مستقیماً این مدل‌های سبک را برای محافظت از کاربران به صورت محلی ادغام کنند و تعاملات چت را بدون افشای اطلاعات خصوصی ایمن نگه دارند. این اعلامیه، پروژه را به‌عنوان الگویی برای پلتفرم‌های پیام‌رسانی قرار می‌دهد که محافظت از کاربر را با رمزگذاری سرتاسر متعادل می‌کند - و به عنوان نمونه‌ای از دولت‌ها و ارائه‌دهندگان مدل با هم روی مشکلات ایمنی کار می‌کنند که هیچکدام به تنهایی نمی‌توانند آن‌ها را حل کنند.

برای منطقه‌ای که ضررهای ناشی از کلاهبرداری سالانه به میلیاردها می‌رسد، یک نرده محافظ روی دستگاه که به رمزگذاری احترام می‌گذارد می‌تواند نتیجه‌بخش باشد. اینکه آیا سایر دولت‌ها از سنگاپور پیروی می‌کنند یا نه، بستگی به عملکرد این مدل پس از رسیدن به تلفن‌های کاربران واقعی دارد.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →