Meta dio a conocer un adelanto de Alerta de Estafa (Scam Alert), una nueva función de WhatsApp que utiliza aprendizaje automático en el dispositivo para identificar posibles mensajes fraudulentos, con el objetivo de reforzar la seguridad de los usuarios sin comprometer el cifrado de extremo a extremo. La compañía informó que la herramienta se implementó inicialmente en una versión beta limitada.
La nueva función responde a la evolución de las estafas digitales, que incorporan técnicas como la suplantación de identidad, la ingeniería social y contenidos generados mediante inteligencia artificial. De acuerdo con Meta, Alerta de Estafa es opcional y puede activarse o desactivarse en cualquier momento.
¿Cómo funciona Alerta de Estafa en WhatsApp?
Cuando el usuario activa la función, WhatsApp descarga un modelo de aprendizaje automático directamente en el dispositivo. Este analiza los mensajes recibidos de contactos desconocidos y determina, mediante una clasificación probabilística basada en la estructura de la conversación y señales lingüísticas, si existen patrones asociados con estafas conocidas.
El procesamiento se realiza en el propio teléfono. Meta señaló que el contenido de los mensajes no sale del dispositivo para ser clasificado ni se reporta automáticamente a WhatsApp, Meta o terceros.
Si el modelo detecta un posible intento de fraude, el usuario recibe una advertencia dentro del chat. Esta alerta únicamente es visible para el destinatario, quien puede decidir si bloquea, denuncia o continúa la conversación.
En caso de que la advertencia sea incorrecta, el usuario puede marcar el chat como confiable. Al hacerlo, la alerta desaparece y el sistema deja de identificar esa conversación como sospechosa. Además, puede compartir voluntariamente los últimos cinco mensajes recibidos para contribuir a mejorar la precisión de la herramienta.
Privacidad y seguridad en Alerta de Estafa
Meta explicó que el diseño de Scam Alert se basa en tres principios: procesamiento exclusivo en el dispositivo, ausencia de informes automáticos y control del usuario. El modelo y los datos que procesa permanecen en el teléfono, mientras que cualquier denuncia de contenido depende de una acción explícita del usuario.
Para medir el funcionamiento de la herramienta, el sistema utiliza únicamente datos agregados sobre la cantidad de advertencias mostradas y las acciones posteriores de los usuarios. Estos datos se procesan mediante un sistema de análisis federado confidencial y privacidad diferencial, de modo que Meta recibe estadísticas agregadas y anónimas, no información individual de las conversaciones.
La arquitectura incorpora además entornos de ejecución confiables (TEE), cifrado, credenciales anónimas y un relé OHTTP que elimina la dirección IP del solicitante. Las métricas individuales se agregan antes de que los resultados lleguen a WhatsApp.
WhatsApp impedirá modelos personalizados para usuarios específicos
Uno de los elementos centrales del sistema es evitar que Meta o WhatsApp puedan entregar un modelo diferente a una persona determinada. Cada versión del modelo, incluidas las variantes experimentales, se publica previamente en un registro público de transparencia.
Los modelos se distribuyen mediante una CDN y sus versiones incorporan hashes SHA-256. Antes de utilizar una actualización, el dispositivo verifica la firma digital, la información registrada públicamente y la integridad de los archivos. Si alguna comprobación falla, el modelo no se instala.
Meta también indicó que la experimentación se realiza desde el dispositivo, mediante asignaciones aleatorias que impiden al servidor seleccionar qué usuario recibe una determinada variante del modelo.
Usuarios e investigadores podrán verificar el funcionamiento
La compañía señaló que los usuarios podrán consultar información sobre la actividad del modelo, incluyendo los mensajes analizados, el resultado de cada análisis y la versión utilizada. Esta información estará disponible mediante Cuenta > Información de solicitud > Actividad de alertas de estafa.
Además, Meta informó que ampliará su programa de recompensas por detección de errores para que investigadores independientes puedan analizar los modelos, someterlos a diferentes escenarios y reportar posibles desviaciones de su propósito.
Alerta de Estafa de WhatsApp todavía está en beta
Por ahora, Alerta de Estafa se encuentra en una implementación beta limitada. Meta señaló que continuará desarrollando y perfeccionando la función antes de realizar su lanzamiento oficial.
El objetivo es incorporar una capa adicional de protección frente a las nuevas modalidades de fraude digital, manteniendo como principio central la privacidad de los mensajes y el cifrado de extremo a extremo.
NOTAS RELACIONADAS
Mejora WhatsApp los chats grupales
WhatsApp permitirá nombres de usuario sin compartir número