Google DeepMind y la Agencia de Tecnología del Gobierno de Singapur (GovTech) han presentado un modelo de detección de estafas en el dispositivo diseñado para advertir a los usuarios de teléfonos inteligentes sobre conversaciones manipuladoras en tiempo real, sin que los mensajes privados salgan del teléfono. El anuncio, publicado en el blog Google DeepMind y presentado en la Semana Cibernética Internacional de Singapur 2026, describe un modelo liviano ajustado al panorama de estafas local y optimizado para ejecutarse en teléfonos inteligentes típicos.
Por qué Singapur es el campo de pruebas Para más contexto sobre esta historia, consulta nuestra noticias de IA.
La magnitud del problema de las estafas en Singapur da al proyecto una justificación clara. Según el anuncio, escrito por JJ Geewax y Miguel de Andrés de Google DeepMind, las estafas representan más de la mitad de los delitos reportados en el país y han causado más de S$ 4 mil millones en pérdidas desde 2019. Las tácticas de estafa, dicen las compañías, han pasado del simple phishing a la ingeniería social compleja, en la que los atacantes construyen conversaciones convincentes durante días o semanas antes de pedir dinero, un patrón que ahora representa hasta el 80% de todas las pérdidas por estafa.
Los modelos genéricos de IA a menudo tienen problemas con técnicas de engaño localizadas, señala el anuncio. Para abordar esto, el equipo afinó el modelo ligero Gemma de Google en conversaciones de estafas locales, que van desde suplantaciones de instituciones públicas, bancos y figuras locales hasta esquemas regionales de tendencia. Esa capacitación tiene como objetivo permitir que el modelo distinga la charla social inofensiva de la manipulación genuina.
Cómo funciona el canal de dos etapas en el dispositivo
El modelo procesa los datos de la conversación completamente en el propio dispositivo. Esa elección de diseño es importante porque la detección de amenazas convencional escanea mensajes en servidores en la nube, algo que es imposible para las muchas plataformas de mensajería que utilizan cifrado de extremo a extremo, donde los proveedores no pueden inspeccionar conversaciones privadas incluso si quisieran.
La ejecución del análisis localmente también acelera la detección, de modo que las personas pueden actuar antes de que se produzca una exposición financiera o de credenciales. Cuando el modelo detecta patrones de conversación manipuladores, aparece una advertencia en tiempo real en el dispositivo instando al usuario a hacer una pausa antes de compartir información confidencial o dinero.
Según el anuncio, la eficiencia de la batería era una preocupación crítica al ejecutar un clasificador de estafas complejo en teléfonos inteligentes modernos. Los equipos resolvieron esto con un proceso de dos etapas:
- Etapa 1: Un clasificador ligero y eficiente analiza los mensajes entrantes utilizando una potencia mínima, centrándose en detectar amenazas potenciales.
- Etapa 2: El modelo Gemma ajustado realiza una evaluación contextual de una instantánea más grande de la conversación para confirmar una amenaza o descartar una falsa alarma.
Gobernanza: sin datos de los ciudadanos, zona de pruebas soberana
La colaboración se presentó en la Semana Cibernética Internacional de Singapur 2026, cuyo discurso de apertura fue pronunciado el 13 de octubre por K Shanmugam, Ministro Principal y Ministro del Interior de Singapur, según el Ministerio del Interior. El anuncio describe una gobernanza estricta mantenida durante todo el desarrollo bajo tres medidas que denomina Sovereign Sandbox, No Citizen Data y Stress-Testing.
Bajo Sovereign Sandbox, se realizaron ajustes dentro del entorno administrado de Google Cloud Platform de GovTech, manteniendo aislados los datos de entrenamiento. Bajo No Datos Ciudadanos, la capacitación excluyó estrictamente la información privada o de identificación personal, confiando en su lugar en conjuntos de datos anonimizados extraídos de informes de estafas y fuentes de inteligencia. En las pruebas de estrés, el modelo se probó con diálogos sintéticos y corpus locales que cubrían diversas categorías de estafas y tácticas de suplantación en evolución.
"La lucha contra las estafas no debería significar sacrificar la privacidad personal", afirmó en el anuncio Mark Chen, director de Confianza y Seguridad de GovTech Singapore. "Al trabajar con Google DeepMind, estamos brindando protección avanzada de IA directamente a los dispositivos de los ciudadanos. Esto nos permite detectar intentos de estafa locales altamente específicos en tiempo real y al mismo tiempo mantener las comunicaciones personales completamente privadas".
Parte de una asociación más amplia de inteligencia artificial entre Google y Singapur
El modelo de detección de estafas se entregó como parte de la Asociación Nacional de IA de Google con el Gobierno de Singapur, que Google DeepMind anunció el 20 de mayo de 2026, después de abrir un laboratorio de investigación en Singapur el año anterior. Esa asociación incluye una variedad de otros programas: una exploración de la colaboración co-clínica de IA con grupos de salud pública, apoyo a la investigación de enfermedades infecciosas a través de una contribución de Google.org de $ 7 millones a la coalición Health for Human Potential de la Philanthropy Asia Alliance, un asistente de carrera impulsado por Gemma para atletas ciegos y con baja visión probado con SG Enable, capacitación para investigadores locales sobre herramientas científicas de IA agente con la National Research Foundation, Gemini for Education para educadores e investigación sobre puntos de referencia de seguridad multimodales y multilingües con la Autoridad de Desarrollo de Medios de Infocomm y MLCommons.
Una ruta de integración para plataformas de mensajería
Google DeepMind dice que las plataformas de mensajería y los proveedores de sistemas operativos pueden integrar directamente estos modelos livianos para proteger a los usuarios localmente, manteniendo seguras las interacciones de chat sin exponer datos privados. El anuncio posiciona el proyecto como un modelo para plataformas de mensajería que equilibran la protección del usuario con el cifrado de extremo a extremo, y como un ejemplo de gobiernos y proveedores modelo que trabajan juntos en problemas de seguridad que ninguno de los dos puede resolver por sí solo.
Para una región donde las pérdidas por estafas ascienden a miles de millones anualmente, una barrera de seguridad en el dispositivo que respete el cifrado podría resultar importante. Que otros gobiernos sigan el ejemplo de Singapur dependerá de cómo funcione el modelo una vez que llegue a los teléfonos de los usuarios reales.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
