DeepMind y Singapur lanzan modelo de detección de estafas en el dispositivo

Google DeepMind y la Government Technology Agency of Singapore (GovTech) anunciaron un esfuerzo conjunto para abordar las estafas que representan más de la mitad de los delitos denunciados en Singapur y más de S$4 mil millones en pérdidas desde 2019. La asociación produjo una versión afinada del modelo ligero Gemma de DeepMind, entrenada con datos locales de conversaciones de estafas para distinguir charlas benignas de intenciones manipuladoras.

El modelo se ejecuta completamente en el dispositivo, procesando los datos de la conversación solo con el consentimiento del usuario y sin enviar mensajes a servidores en la nube. Utiliza una canalización de dos etapas: un clasificador eficiente filtra los mensajes entrantes, seguido de un análisis en contexto con el modelo Gemma afinado para confirmar amenazas. El desarrollo se realizó en el entorno GCP gestionado por GovTech, excluyendo datos privados, y se basó en informes de estafas anonimizados y diálogos sintéticos para las pruebas.

Para los estudiantes de IA, el proyecto ilustra cómo la IA de borde puede diseñarse para la seguridad en tiempo real mientras se preserva la privacidad, ofreciendo un ejemplo concreto de despliegue de modelos en el dispositivo y una estricta gobernanza de datos.