Google DeepMind і Урядове технологічне агентство Сінгапуру (GovTech) представили модель виявлення шахрайства на пристрої, призначену для попередження користувачів смартфонів про маніпулятивні розмови в режимі реального часу — без особистих повідомлень, які ніколи не залишають телефон. Оголошення, опубліковане в блозі Google DeepMind і представлене на Singapore International Cyber Week 2026, описує легку модель, налаштовану для місцевого шахрайства та оптимізовану для роботи на типових смартфонах.
Чому Сінгапур є випробувальним полігоном For more context on this story, see our ongoing artificial intelligence updates.
Масштаб проблеми шахрайства в Сінгапурі дає цьому проекту чітке обґрунтування. Згідно з повідомленням, авторами якого є Джей Джей Гівакс і Мігель де Андрес із Google DeepMind, шахрайство становить більше половини зареєстрованих злочинів у країні та спричинило збитки на понад 4 мільярди сінгапурських доларів з 2019 року. Тактика шахрайства, за словами компаній, змінилася від простого фішингу до складної соціальної інженерії, у якій зловмисники будують переконливі розмови протягом кількох днів або тижнів, перш ніж просити гроші — модель, яка тепер актуальна. до 80% усіх збитків від шахрайства.
Загальні моделі штучного інтелекту часто борються з локалізованими методами обману, зазначається в повідомленні. Щоб вирішити цю проблему, команда налаштувала легку модель Gemma від Google на місцеві розмови про шахрайство, починаючи від видавання себе за державні установи, банки та місцевих діячів до популярних регіональних схем. Цей тренінг має на меті дозволити моделі відрізнити нешкідливу соціальну балаканину від справжньої маніпуляції.
Як працює двоступеневий конвеєр на пристрої
Модель обробляє дані розмови повністю на самому пристрої. Цей вибір дизайну має значення, оскільки звичайне виявлення загроз сканує повідомлення на хмарних серверах — те, що неможливо для багатьох платформ обміну повідомленнями, які використовують наскрізне шифрування, де провайдери не можуть перевіряти приватні розмови, навіть якщо б хотіли.
Запуск аналізу на локальному рівні також пришвидшує виявлення, тож люди можуть діяти до того, як станеться розкриття фінансових чи облікових даних. Коли модель виявляє маніпулятивні шаблони розмови, на пристрої в режимі реального часу з’являється попередження, яке закликає користувача зробити паузу, перш ніж ділитися конфіденційною інформацією чи грошима.
Відповідно до оголошення, ефективність батареї була критичною проблемою для запуску складного класифікатора шахрайства на сучасних смартфонах. Команди вирішили це за допомогою двоетапного конвеєра:
- Етап 1: Легкий, ефективний класифікатор перевіряє вхідні повідомлення, використовуючи мінімальну потужність, зосереджену на виявленні потенційних загроз.
- Етап 2: точно налаштована модель Gemma виконує контекстну оцінку більшого знімка розмови, щоб підтвердити загрозу або відкинути помилкову тривогу.
Управління: немає громадянських даних, суверенна пісочниця
Співпраця була представлена на Сінгапурському міжнародному кібертижні 2026 року, вступну промову якого 13 жовтня виголосив К. Шанмугам, старший міністр і міністр внутрішніх справ Сінгапуру, повідомляє Міністерство внутрішніх справ. У оголошенні описується суворе управління, яке підтримується протягом усього періоду розробки за трьома заходами, які він позначає «Суверенна пісочниця», відсутність даних громадян і стрес-тестування.
У Sovereign Sandbox тонке налаштування відбувалося в керованому середовищі Google Cloud Platform GovTech, зберігаючи навчальні дані ізольованими. Під час навчання без громадянських даних суворо виключалася приватна чи ідентифікаційна інформація, натомість покладаючись на анонімні набори даних, отримані зі звітів про шахрайство та каналів розвідки. Під час стрес-тестування модель перевіряли на синтетичні діалоги та локальні корпуси, що охоплювали різноманітні категорії шахрайства та розвивалися тактики видавання себе за іншу особу.
«Боротьба з шахрайством не повинна означати жертвування особистою конфіденційністю», — сказав Марк Чен, директор із довіри та безпеки в GovTech Singapore, в повідомленні. «Працюючи з Google DeepMind, ми запроваджуємо розширений захист штучного інтелекту безпосередньо на пристрої громадян. Це дозволяє нам відловлювати чітко цільові локальні спроби шахрайства в режимі реального часу, зберігаючи при цьому особисту комунікацію повністю конфіденційною».
Частина ширшого партнерства Google і Сінгапуру щодо штучного інтелекту
Модель виявлення шахрайства було надано в рамках Національного партнерства Google у галузі штучного інтелекту з урядом Сінгапуру, про яке Google DeepMind оголосив 20 травня 2026 року після відкриття дослідницької лабораторії в Сінгапурі минулого року. Це партнерство включає в себе ряд інших програм: дослідження співпраці клініцистів штучного інтелекту з кластерами громадського здоров’я, підтримку досліджень інфекційних захворювань через внесок Google.org у розмірі 7 мільйонів доларів США в коаліцію Philanthropy Asia Alliance Health for Human Potential, помічника для бігу на Gemma для сліпих спортсменів і спортсменів із слабким зором, випробуваного за допомогою SG Enable, тренінги для місцевих дослідників із наукових інструментів штучного інтелекту за допомогою National Research Foundation, Gemini for Education для викладачів, а також дослідження мультимодальних і багатомовних тестів безпеки з Infocomm Media Development Authority і MLCommons.
Шлях інтеграції для платформ обміну повідомленнями
Google DeepMind каже, що платформи обміну повідомленнями та постачальники операційних систем можуть безпосередньо інтегрувати ці полегшені моделі, щоб захистити користувачів локально, зберігаючи безпеку взаємодії в чаті без розголошення особистих даних. В оголошенні проект позиціонується як шаблон для платформ обміну повідомленнями, що збалансовують захист користувачів із наскрізним шифруванням — і як приклад спільної роботи урядів і постачальників моделей над проблемами безпеки, які ніхто не може вирішити поодинці.
Для регіону, де збитки від шахрайства сягають мільярдів щорічно, огорожа на пристрої, яка поважає шифрування, може виявитися важливою. Чи інші уряди підуть приклад Сінгапуру, залежатиме від того, як модель працюватиме, коли вона досягне телефонів реальних користувачів.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
