Google Mensajes tiene Empezó a implementar Advertencias de contenido sensible para la desnudez después de presentar la función primero A finales del año pasado. La nueva característica realizará dos acciones clave si el sistema basado en IA detecta un mensaje que contiene una imagen desnuda: desdibujará cualquiera de esas fotos y activará una advertencia si su hijo intenta abrirlos, enviarlos o reenviarlos. Finalmente, proporcionará recursos para que usted y su hijo obtengan ayuda. Toda la detección ocurre en el dispositivo para garantizar que las imágenes y los datos sigan siendo privados.
Las advertencias de contenido confidenciales están habilitadas de forma predeterminada para usuarios supervisados y adolescentes sin supervisión, señala la compañía. Los padres controlan la función para los usuarios supervisados a través de la aplicación Family Link, pero los adolescentes no supervisados de 13 a 17 años pueden apagarla en la configuración de mensajes de Google. La función está desactivada de forma predeterminada para todos los demás.
Con las advertencias de contenido confidencial habilitadas, las imágenes son borrosas y se abre una solicitud de «golpe de velocidad» que permite al usuario bloquear el remitente, al tiempo que ofrece un enlace a una página de recursos que detalla por qué los desnudos pueden ser dañinos. A continuación, le pregunta al usuario si todavía quiere abrir el mensaje con las opciones «no, no ver» y «sí, ver». Si se intenta enviar una imagen, proporciona opciones similares. Por lo tanto, no impide que los niños envíen desnudos, sino que simplemente proporciona una advertencia.
La función está alimentada por el sistema SafetyCore de Google que permitir Clasificación de contenido en el dispositivo con IA sin enviar «datos identificables o cualquiera de los resultados o resultados clasificados a los servidores de Google», según la compañía. Acaba de comenzar a llegar a dispositivos Android y aún no está ampliamente disponible, 9to5google escribió.
