گوگل ڈیپ مائنڈ اور سنگاپور کی گورنمنٹ ٹکنالوجی ایجنسی (GovTech) نے ایک آن ڈیوائس اسکیم کا پتہ لگانے والے ماڈل کی نقاب کشائی کی ہے جو اسمارٹ فون صارفین کو حقیقی وقت میں ہیرا پھیری سے متعلق گفتگو کے بارے میں متنبہ کرنے کے لیے ڈیزائن کیا گیا ہے — بغیر کسی نجی پیغام کے فون سے باہر نکلتے ہیں۔ اعلان، گوگل ڈیپ مائنڈ بلاگ پر شائع کیا گیا اور سنگاپور انٹرنیشنل سائبر ویک 2026 میں پیش کیا گیا، ایک ہلکا پھلکا ماڈل بیان کرتا ہے جو مقامی گھوٹالے کے منظر نامے کے لیے ٹھیک بنایا گیا ہے اور اسے عام اسمارٹ فونز پر چلانے کے لیے بہتر بنایا گیا ہے۔

سنگاپور کیوں ٹیسٹنگ گراؤنڈ ہے۔ For more context on this story, see our ongoing AI industry coverage.

سنگاپور میں گھوٹالے کے مسئلے کا پیمانہ اس منصوبے کو ایک واضح دلیل دیتا ہے۔ Google DeepMind کے JJ Geewax اور Miguel de Andrés کی طرف سے تصنیف کردہ اعلان کے مطابق، گھوٹالے ملک کے رپورٹ کردہ جرائم کا نصف سے زیادہ ہیں اور 2019 سے اب تک S$4 بلین سے زیادہ کا نقصان پہنچا چکے ہیں۔ کمپنیوں کا کہنا ہے کہ گھوٹالے کے حربے سادہ فشنگ سے پیچیدہ سماجی انجینئرنگ کی طرف منتقل ہو گئے ہیں - جس میں ہفتے کے دنوں میں بات چیت کے ذریعے پیسہ کمایا جاتا ہے۔ جو اب اسکام کے تمام نقصانات کا 80% تک بنتا ہے۔

عام AI ماڈل اکثر مقامی دھوکہ دہی کی تکنیکوں کے ساتھ جدوجہد کرتے ہیں، اعلان نوٹ کرتا ہے۔ اس کو حل کرنے کے لیے، ٹیم نے مقامی گھوٹالے کی بات چیت پر Google کے ہلکے وزن والے Gemma ماڈل کو ٹھیک بنایا، جس میں عوامی اداروں، بینکوں، اور مقامی شخصیات کی نقالی سے لے کر ٹرینڈنگ علاقائی اسکیموں تک شامل ہیں۔ اس تربیت کا مقصد ماڈل کو بے ضرر سماجی بات چیت کو حقیقی ہیرا پھیری سے ممتاز کرنے دینا ہے۔

ٹو اسٹیج آن ڈیوائس پائپ لائن کیسے کام کرتی ہے۔

ماڈل گفتگو کے ڈیٹا کو مکمل طور پر آلہ پر ہی پروسیس کرتا ہے۔ اس ڈیزائن کا انتخاب اہمیت رکھتا ہے کیونکہ روایتی خطرے کا پتہ لگانا کلاؤڈ سرورز پر پیغامات کو اسکین کرتا ہے - جو بہت سے پیغام رسانی پلیٹ فارمز کے لیے ناممکن ہے جو اینڈ ٹو اینڈ انکرپشن استعمال کرتے ہیں، جہاں فراہم کنندگان نجی بات چیت کا معائنہ نہیں کر سکتے چاہے وہ چاہتے ہوں۔

تجزیہ کو مقامی طور پر چلانے سے پتہ لگانے میں بھی تیزی آتی ہے، تاکہ لوگ مالی یا اسناد کے سامنے آنے سے پہلے کارروائی کر سکیں۔ جب ماڈل ہیرا پھیری والے بات چیت کے نمونوں کا پتہ لگاتا ہے، تو ڈیوائس پر ایک حقیقی وقت کی وارننگ ظاہر ہوتی ہے جو صارف کو حساس معلومات یا رقم کا اشتراک کرنے سے پہلے توقف کرنے کی تاکید کرتی ہے۔

اعلان کے مطابق، جدید اسمارٹ فونز پر ایک پیچیدہ اسکیم کلاسیفائر چلانے میں بیٹری کی کارکردگی ایک اہم تشویش تھی۔ ٹیموں نے اسے دو مرحلے والی پائپ لائن کے ساتھ حل کیا:

  • مرحلہ 1: ایک ہلکا پھلکا، موثر درجہ بندی کرنے والا کم سے کم طاقت کا استعمال کرتے ہوئے ان باؤنڈ پیغامات کو اسکرین کرتا ہے، جو ممکنہ خطرات کو پکڑنے پر مرکوز ہے۔
  • مرحلہ 2: فائن ٹیونڈ Gemma ماڈل کسی خطرے کی تصدیق کرنے یا غلط الارم کو مسترد کرنے کے لیے گفتگو کے ایک بڑے سنیپ شاٹ کا سیاق و سباق سے جائزہ لیتا ہے۔

گورننس: کوئی شہری ڈیٹا نہیں، خودمختار سینڈ باکس

یہ تعاون سنگاپور انٹرنیشنل سائبر ویک 2026 میں پیش کیا گیا، جس کا افتتاحی خطاب 13 اکتوبر کو سنگاپور کے سینئر وزیر اور وزیر داخلہ کے کے شانموگم نے کیا، وزارت داخلہ کے مطابق۔ اعلان تین اقدامات کے تحت پوری ترقی کے دوران برقرار رکھی جانے والی سخت حکمرانی کی وضاحت کرتا ہے جس میں خودمختار سینڈ باکس، کوئی شہری ڈیٹا، اور تناؤ کی جانچ کا لیبل لگایا گیا ہے۔

Sovereign Sandbox کے تحت، تربیتی ڈیٹا کو الگ تھلگ رکھتے ہوئے، GovTech کے زیر انتظام Google Cloud Platform ماحول کے اندر فائن ٹیوننگ ہوئی۔ No Citizen Data کے تحت، ٹریننگ میں سختی سے نجی یا ذاتی طور پر قابل شناخت معلومات کو خارج کر دیا گیا ہے، اس کے بجائے اسکام رپورٹس اور انٹیلی جنس فیڈز سے حاصل کردہ گمنام ڈیٹا سیٹس پر انحصار کیا گیا ہے۔ اسٹریس ٹیسٹنگ کے تحت، ماڈل کو مصنوعی مکالموں اور مقامی کارپورا کے خلاف جانچا گیا جس میں گھوٹالے کے متنوع زمروں کا احاطہ کیا گیا اور نقالی کی حکمت عملی تیار کی گئی۔

GovTech سنگاپور میں ٹرسٹ اینڈ سیفٹی کے ڈائریکٹر مارک چن نے اعلان میں کہا، "گھپلوں سے لڑنے کا مطلب ذاتی رازداری کو قربان کرنا نہیں ہونا چاہیے۔" "Google DeepMind کے ساتھ کام کرتے ہوئے، ہم براہ راست شہریوں کے آلات پر جدید ترین AI تحفظ لا رہے ہیں۔ یہ ہمیں ذاتی مواصلات کو مکمل طور پر نجی رکھتے ہوئے حقیقی وقت میں انتہائی ٹارگٹڈ، مقامی گھوٹالے کی کوششوں کو پکڑنے کی اجازت دیتا ہے۔"

ایک وسیع تر Google-Singapore AI پارٹنرشپ کا حصہ

گھوٹالے کا پتہ لگانے کا ماڈل سنگاپور کی حکومت کے ساتھ گوگل کی نیشنل اے آئی پارٹنرشپ کے حصے کے طور پر فراہم کیا گیا تھا، جس کا اعلان گوگل ڈیپ مائنڈ نے 20 مئی 2026 کو سنگاپور میں گزشتہ سال ایک ریسرچ لیب کھولنے کے بعد کیا تھا۔ اس شراکت میں دیگر پروگراموں کی ایک رینج شامل ہے: صحت عامہ کے کلسٹرز کے ساتھ AI شریک کلینشین کے تعاون کی تلاش، فلانتھروپی ایشیا الائنس کے ہیلتھ فار ہیومن پوٹینشل اتحاد کے لیے 7 ملین ڈالر کے Google.org کے تعاون کے ذریعے متعدی امراض کی تحقیق کے لیے معاونت، نابینا افراد کے لیے Gemma سے چلنے والا رننگ اسسٹنٹ اور کم ٹیسٹ کے ساتھ مقامی تحقیق کے لیے SG۔ نیشنل ریسرچ فاؤنڈیشن کے ساتھ ایجنٹی AI سائنس ٹولز، جیمنی فار ایجوکیشن فار ایجوکیشن، اور Infocomm Media Development Authority اور MLcommons کے ساتھ ملٹی موڈل اور کثیر لسانی حفاظتی معیارات پر تحقیق۔

پیغام رسانی کے پلیٹ فارمز کے لیے ایک انضمام کا راستہ

گوگل ڈیپ مائنڈ کا کہنا ہے کہ پیغام رسانی کے پلیٹ فارمز اور آپریٹنگ سسٹم وینڈرز ان ہلکے وزن والے ماڈلز کو براہ راست مربوط کر سکتے ہیں تاکہ صارفین کو مقامی طور پر محفوظ رکھا جا سکے، نجی ڈیٹا کو سامنے لائے بغیر چیٹ کے تعاملات کو محفوظ رکھا جائے۔ اعلان اس پروجیکٹ کو پیغام رسانی کے پلیٹ فارمز کے لیے ایک ٹیمپلیٹ کے طور پر رکھتا ہے جو صارف کے تحفظ کو اینڈ ٹو اینڈ انکرپشن کے ساتھ متوازن کرتا ہے — اور حکومتوں اور ماڈل فراہم کنندگان کی ایک مثال کے طور پر حفاظتی مسائل پر مل کر کام کر رہے ہیں جو دونوں اکیلے حل نہیں کر سکتے۔

ایک ایسے خطے کے لیے جہاں گھوٹالے کا نقصان سالانہ اربوں میں ہوتا ہے، ایک آن ڈیوائس گارڈریل جو خفیہ کاری کا احترام کرتا ہے نتیجہ خیز ثابت ہو سکتا ہے۔ آیا دوسری حکومتیں سنگاپور کی قیادت کی پیروی کرتی ہیں یا نہیں اس کا انحصار اس بات پر ہوگا کہ ماڈل کے حقیقی صارفین کے فونز تک پہنچنے کے بعد وہ کیسی کارکردگی دکھاتا ہے۔

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →