Google DeepMind dan Badan Teknologi Pemerintah Singapura (GovTech) telah meluncurkan model deteksi penipuan pada perangkat yang dirancang untuk memperingatkan pengguna ponsel cerdas tentang percakapan manipulatif secara real-time — tanpa perlu meninggalkan pesan pribadi di ponsel. Pengumuman tersebut, dipublikasikan di blog Google DeepMind dan dipresentasikan di Singapore International Cyber Week 2026, menggambarkan model ringan yang disesuaikan dengan lanskap penipuan lokal dan dioptimalkan untuk dijalankan pada ponsel pintar biasa.
Mengapa Singapura Menjadi Tempat Uji Coba For more context on this story, see our ongoing AI news.
Besarnya masalah penipuan di Singapura memberikan alasan yang jelas bagi proyek ini. Menurut pengumuman tersebut, yang ditulis oleh JJ Geewax dan Miguel de Andrés dari Google DeepMind, penipuan merupakan lebih dari separuh kejahatan yang dilaporkan di negara tersebut dan telah menyebabkan kerugian lebih dari S$4 miliar sejak tahun 2019. Taktik penipuan, menurut perusahaan, telah berubah dari phishing sederhana menjadi rekayasa sosial yang kompleks, di mana penyerang membangun percakapan yang meyakinkan selama berhari-hari atau berminggu-minggu sebelum meminta uang – sebuah pola yang kini menyumbang hingga 80% dari seluruh kerugian akibat penipuan.
Model AI generik sering kali kesulitan dengan teknik penipuan lokal, catat pengumuman tersebut. Untuk mengatasinya, tim menyempurnakan model Gemma Google yang ringan dalam percakapan penipuan lokal, mulai dari peniruan identitas lembaga publik, bank, dan tokoh lokal hingga skema regional yang sedang tren. Pelatihan tersebut dimaksudkan agar model dapat membedakan obrolan sosial yang tidak berbahaya dan manipulasi yang sebenarnya.
Cara Kerja Saluran Pipa Dua Tahap Pada Perangkat
Model memproses data percakapan seluruhnya di perangkat itu sendiri. Pilihan desain tersebut penting karena deteksi ancaman konvensional memindai pesan di server cloud – sesuatu yang tidak mungkin dilakukan oleh banyak platform perpesanan yang menggunakan enkripsi ujung ke ujung, di mana penyedia tidak dapat memeriksa percakapan pribadi meskipun mereka menginginkannya.
Menjalankan analisis secara lokal juga membuat deteksi lebih cepat, sehingga masyarakat dapat bertindak sebelum paparan finansial atau kredensial terjadi. Saat model mendeteksi pola percakapan manipulatif, peringatan real-time akan muncul di perangkat yang mendesak pengguna untuk berhenti sejenak sebelum membagikan informasi sensitif atau uang.
Efisiensi baterai menjadi perhatian penting dalam menjalankan pengklasifikasi penipuan yang kompleks pada ponsel pintar modern, menurut pengumuman tersebut. Tim menyelesaikan masalah ini dengan jalur pipa dua tahap:
- Tahap 1: Pengklasifikasi yang ringan dan efisien menyaring pesan masuk menggunakan daya minimal, dengan fokus untuk menangkap potensi ancaman.
- Tahap 2: Model Gemma yang disempurnakan melakukan evaluasi kontekstual terhadap cuplikan percakapan yang lebih besar untuk mengonfirmasi ancaman atau membuang alarm palsu.
Tata Kelola: Tidak Ada Data Warga Negara, Sovereign Sandbox
Kolaborasi ini dipresentasikan pada Singapore International Cyber Week 2026, yang pidato pembukaannya disampaikan pada 13 Oktober oleh K Shanmugam, Menteri Senior dan Menteri Dalam Negeri Singapura, menurut Kementerian Dalam Negeri. Pengumuman tersebut menggambarkan tata kelola ketat yang diterapkan selama pembangunan melalui tiga langkah yang diberi label Sovereign Sandbox, No Citizen Data, dan Stress-Testing.
Di bawah Sovereign Sandbox, penyesuaian dilakukan di dalam lingkungan Google Cloud Platform yang dikelola GovTech, sehingga data pelatihan tetap terisolasi. Di bawah No Citizen Data, pelatihan secara ketat mengecualikan informasi pribadi atau informasi identitas pribadi, dan mengandalkan kumpulan data anonim yang diambil dari laporan penipuan dan umpan intelijen. Dalam Pengujian Stres, model tersebut diuji terhadap dialog sintetik dan korpora lokal yang mencakup beragam kategori penipuan dan taktik peniruan identitas yang terus berkembang.
“Memerangi penipuan tidak berarti mengorbankan privasi pribadi,” kata Mark Chen, Direktur Kepercayaan dan Keamanan di GovTech Singapura, dalam pengumumannya. “Bekerja dengan Google DeepMind, kami menghadirkan perlindungan AI tingkat lanjut langsung ke perangkat masyarakat. Hal ini memungkinkan kami menangkap upaya penipuan lokal yang sangat bertarget secara real-time sambil menjaga komunikasi pribadi sepenuhnya bersifat pribadi.”
Bagian dari Kemitraan AI Google-Singapura yang Lebih Luas
Model deteksi penipuan ini disampaikan sebagai bagian dari Kemitraan AI Nasional Google dengan Pemerintah Singapura, yang diumumkan Google DeepMind pada 20 Mei 2026, setelah membuka laboratorium penelitian di Singapura pada tahun sebelumnya. Kemitraan tersebut mencakup serangkaian program lainnya: eksplorasi kolaborasi dokter AI dengan kelompok kesehatan masyarakat, dukungan untuk penelitian penyakit menular melalui kontribusi Google.org senilai $7 juta kepada koalisi Kesehatan untuk Potensi Manusia dari Philanthropy Asia Alliance, asisten lari bertenaga Gemma untuk atlet tunanetra dan rabun yang diuji dengan SG Enable, pelatihan untuk peneliti lokal tentang alat sains AI agen dengan National Research Foundation, Gemini for Education untuk para pendidik, dan penelitian tentang tolok ukur keselamatan multimodal dan multibahasa dengan Infocomm Media Development Authority dan MLCommons.
Jalur Integrasi untuk Platform Perpesanan
Google DeepMind mengatakan platform perpesanan dan vendor sistem operasi dapat secara langsung mengintegrasikan model ringan ini untuk melindungi pengguna secara lokal, menjaga interaksi obrolan tetap aman tanpa memaparkan data pribadi. Pengumuman tersebut menempatkan proyek ini sebagai contoh bagi platform pengiriman pesan yang menyeimbangkan perlindungan pengguna dengan enkripsi end-to-end – dan sebagai contoh kerja sama antara pemerintah dan penyedia model dalam mengatasi masalah keselamatan yang tidak dapat diselesaikan sendiri oleh keduanya.
Untuk wilayah yang kerugian akibat penipuan mencapai miliaran setiap tahunnya, pagar pembatas pada perangkat yang menghormati enkripsi bisa menjadi konsekuensinya. Apakah pemerintah negara lain akan mengikuti jejak Singapura akan bergantung pada kinerja model tersebut setelah menjangkau ponsel pengguna sebenarnya.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
