Google DeepMind и Сингапурское государственное технологическое агентство (GovTech) представили модель обнаружения мошенничества на устройстве, предназначенную для предупреждения пользователей смартфонов о манипулятивных разговорах в режиме реального времени — при этом личные сообщения никогда не покидают телефон. В объявлении, опубликованном в блоге Google DeepMind и представленном на Сингапурской международной кибернеделе 2026 года, описывается облегченная модель, адаптированная к местным условиям мошенничества и оптимизированная для работы на типичных смартфонах.
Почему Сингапур является испытательным полигоном Подробнее об этой истории — в нашем больше статей об ИИ.
Масштаб проблемы мошенничества в Сингапуре дает этому проекту четкое обоснование. Согласно заявлению, авторами которого являются Джей Джей Джеевакс и Мигель де Андрес из Google DeepMind, мошенничество составляет более половины зарегистрированных преступлений в стране и с 2019 года принесло убытки на сумму более 4 миллиардов сингапурских долларов. убытки от мошенничества.
В объявлении отмечается, что общие модели ИИ часто сталкиваются с трудностями при использовании локальных методов обмана. Чтобы решить эту проблему, команда доработала облегченную модель Google Gemma для местных разговоров о мошенничестве, начиная от выдачи себя за государственные учреждения, банки и местных деятелей и заканчивая актуальными региональными схемами. Это обучение призвано помочь модели отличить безобидную социальную болтовню от настоящей манипуляции.
Как работает двухэтапный конвейер на устройстве
Модель обрабатывает данные разговора полностью на самом устройстве. Этот выбор конструкции имеет значение, поскольку обычное обнаружение угроз сканирует сообщения на облачных серверах — что невозможно для многих платформ обмена сообщениями, использующих сквозное шифрование, где провайдеры не могут проверять частные разговоры, даже если бы они этого захотели.
Локальный запуск анализа также ускоряет обнаружение, поэтому люди могут действовать до того, как произойдет финансовое или учетное раскрытие. Когда модель обнаруживает манипулятивные разговорные модели, на устройстве в режиме реального времени появляется предупреждение, призывающее пользователя сделать паузу, прежде чем делиться конфиденциальной информацией или деньгами.
Согласно сообщению, эффективность аккумулятора была решающим фактором при запуске сложного классификатора мошенничества на современных смартфонах. Команды решили эту проблему с помощью двухэтапного конвейера:
– Этап 1. Легкий и эффективный классификатор проверяет входящие сообщения с минимальными затратами энергии и фокусируется на выявлении потенциальных угроз.
– Этап 2. Тщательно настроенная модель Gemma выполняет контекстуальную оценку более крупного снимка разговора, чтобы подтвердить угрозу или исключить ложную тревогу.
Управление: нет данных граждан, суверенная песочница
Сотрудничество было представлено на Сингапурской международной кибернеделе 2026, вступительную речь которой произнес 13 октября К. Шанмугам, старший министр и министр внутренних дел Сингапура, по данным Министерства внутренних дел. В объявлении описывается строгое управление, поддерживаемое на протяжении всего процесса разработки, в рамках трех мер, которые он называет «суверенная песочница», «отсутствие данных граждан» и «стресс-тестирование».
В Sovereign Sandbox тонкая настройка происходила в управляемой GovTech среде Google Cloud Platform, сохраняя изолированность данных обучения. В рамках программы «Нет данных граждан» обучение строго исключало личную или личную информацию, вместо этого полагаясь на анонимные наборы данных, взятые из отчетов о мошенничестве и разведывательных данных. В рамках стресс-тестирования модель была протестирована на синтетических диалогах и местных корпусах, охватывающих различные категории мошенничества и развивающиеся тактики выдачи себя за другое лицо.
«Борьба с мошенничеством не должна означать принесение в жертву личной жизни», — заявил в своем заявлении Марк Чен, директор по доверию и безопасности GovTech Singapore. «Работая с Google DeepMind, мы внедряем расширенную защиту с помощью искусственного интеллекта непосредственно на устройства граждан. Это позволяет нам выявлять целенаправленные локальные попытки мошенничества в режиме реального времени, сохраняя при этом полную конфиденциальность личных сообщений».
Часть более широкого партнерства Google и Сингапура в области искусственного интеллекта
Модель обнаружения мошенничества была реализована в рамках Национального партнерства Google в области искусственного интеллекта с правительством Сингапура, о котором Google DeepMind объявила 20 мая 2026 года после открытия исследовательской лаборатории в Сингапуре в прошлом году. Это партнерство включает в себя ряд других программ: исследование сотрудничества совместных врачей ИИ с кластерами общественного здравоохранения, поддержка исследований инфекционных заболеваний посредством вклада Google.org в размере 7 миллионов долларов США в коалицию «Здоровье для человеческого потенциала» Филантропического азиатского альянса, помощник по бегу на базе Gemma для слепых и слабовидящих спортсменов, протестированный с помощью SG Enable, обучение местных исследователей использованию агентных научных инструментов ИИ с Национальным исследовательским фондом, Gemini for Education для преподавателей, а также исследования по мультимодальной и многоязычной безопасности. бенчмарки с Управлением по развитию СМИ Infocomm и MLCommons.
Путь интеграции платформ обмена сообщениями
Google DeepMind утверждает, что платформы обмена сообщениями и поставщики операционных систем могут напрямую интегрировать эти облегченные модели для локальной защиты пользователей, обеспечивая безопасность взаимодействия в чате без раскрытия личных данных. В объявлении проект позиционируется как шаблон для платформ обмена сообщениями, сочетающих защиту пользователей со сквозным шифрованием, а также как пример совместной работы правительств и поставщиков моделей над проблемами безопасности, которые ни один из них не может решить в одиночку.
Для региона, где потери от мошенничества ежегодно исчисляются миллиардами, защита на устройстве, поддерживающая шифрование, может оказаться важной. Последуют ли другие правительства примеру Сингапура, будет зависеть от того, как модель поведет себя, когда она достигнет телефонов реальных пользователей.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
