Meta ha anunciado que está probando nuevas funciones en Instagram destinadas a ayudar a proteger a los jóvenes de estafas de desnudez no deseada o sextorsión. Esto incluye una función llamada Protección contra la desnudez en los mensajes directos, que difumina automáticamente las imágenes detectadas que contienen desnudez.
El gigante tecnológico también alentará a los adolescentes a protegerse mediante una advertencia que los animará a pensar dos veces antes de compartir imágenes íntimas. Meta dice que espera que esto aumente la protección contra los estafadores que pueden enviar imágenes de desnudos para engañar a las personas para que envíen sus propias imágenes a cambio.
Es también hacer los cambios que sugiere hacer que sea más difícil para posibles estafadores y delincuentes encontrar e interactuar con adolescentes. Meta dice que está desarrollando nueva tecnología para identificar cuentas que están «potencialmente» involucradas en estafas de sextorsión y aplicando algunos límites a cómo estas cuentas sospechosas pueden interactuar con otros usuarios.
En otro paso anunciado el jueves, Meta dijo que ha aumentado los datos que comparte con el programa multiplataforma de seguridad infantil en línea. Linterna — incluir más “señales específicas de sextorsión”.
El gigante de las redes sociales tiene políticas de larga data que prohíben el envío de desnudos no deseados o que buscan obligar a otros usuarios a enviar imágenes íntimas. Sin embargo, eso no impide que estos problemas abundan en línea y causen miseria a decenas de adolescentes y jóvenes, a veces con resultados extremadamente trágicos.
A continuación, reunimos la última serie de cambios con más detalle.
Pantallas de desnudos
La protección contra la desnudez en los mensajes directos tiene como objetivo proteger a los usuarios adolescentes de Instagram del ciberflashing colocando imágenes de desnudos detrás de una pantalla de seguridad. Los usuarios podrán entonces elegir si quieren verlo o no.
«También les mostraremos un mensaje animándolos a no sentirse presionados a responder, con una opción para bloquear al remitente y reportar el chat», dijo Meta.
La pantalla de seguridad contra desnudos se activará de forma predeterminada para menores de 18 años en todo el mundo. Los usuarios mayores verán una notificación que les animará a activarlo.
«Cuando se activa la protección contra desnudos, las personas que envían imágenes que contienen desnudos verán un mensaje que les recuerda que deben tener cuidado al enviar fotos sensibles y que pueden cancelar el envío de estas fotos si han cambiado de opinión», añadió.
Cualquiera que intente reenviar una imagen de desnudo verá la misma advertencia que le animará a reconsiderarlo.
La función funciona con aprendizaje automático en el dispositivo, por lo que Meta dijo que funcionará dentro de chats cifrados de extremo a extremo porque el análisis de la imagen se lleva a cabo en el propio dispositivo del usuario.
Consejos de seguridad
En otra medida de protección, los usuarios de Instagram que envíen o reciban desnudos serán dirigidos a consejos de seguridad (con información sobre los riesgos potenciales involucrados) que, según Meta, se desarrollaron con la orientación de expertos.
«Estos consejos incluyen recordatorios de que las personas pueden capturar o reenviar imágenes sin su conocimiento, que su relación con la persona puede cambiar en el futuro y que debe revisar los perfiles cuidadosamente en caso de que no sean quienes dicen ser», escribió. . “También se vinculan a una variedad de recursos, incluidos Centro de seguridad de Meta, líneas de ayuda de soporte, ParadaNCII.org para mayores de 18 años, y Llevarlo hacia abajo para menores de 18 años.
También está probando mensajes emergentes para personas que pueden haber interactuado con una cuenta que Meta ha eliminado por sextorsión que también los dirigirá a recursos expertos relevantes.
“También estamos agregando nuevas líneas de ayuda sobre seguridad infantil de todo el mundo a nuestros flujos de informes dentro de la aplicación. Esto significa que cuando los adolescentes denuncien problemas relevantes, como desnudez, amenazas de compartir imágenes privadas o explotación o solicitación sexual, los dirigiremos a líneas locales de ayuda para la seguridad infantil cuando estén disponibles”, agregó.
Tecnología para detectar sextorsionistas
Si bien Meta dice que elimina las cuentas de los sextorsionistas cuando se entera de su existencia, primero necesita detectar a los malos actores para cerrarlos. Por eso Meta está tratando de ir más allá: dice que está “desarrollando tecnología para ayudar a identificar dónde las cuentas pueden potencialmente participar en estafas de sextorsión, basándose en una serie de señales que podrían indicar un comportamiento de sextorsión”.
«Si bien estas señales no son necesariamente evidencia de que una cuenta ha infringido nuestras reglas, estamos tomando medidas de precaución para ayudar a evitar que estas cuentas encuentren e interactúen con cuentas de adolescentes», continúa, y agrega: «Esto se basa en la trabajo que ya hacemos para evitar que otras cuentas potencialmente sospechosas encuentren e interactúen con adolescentes”.
No está claro exactamente qué tecnología está usando Meta para esto, ni qué señales podrían indicar un posible sextorsionista (hemos pedido más), pero, presumiblemente, puede analizar patrones de comunicación para tratar de detectar malos actores.
Las cuentas que Meta marque como posibles sextorsionistas enfrentarán restricciones sobre cómo pueden enviar mensajes o interactuar con otros usuarios.
“[A]Cualquier solicitud de mensaje que una posible cuenta de sextorsión intente enviar irá directamente a la carpeta de solicitudes ocultas del destinatario, lo que significa que no será notificado del mensaje y nunca tendrá que verlo”, escribió.
Los chats de los usuarios que ya están chateando con cuentas potenciales de estafa o sextorsión no se cerrarán, pero se mostrarán. Avisos de seguridad “Animándolos a denunciar cualquier amenaza para compartir sus imágenes privadas y recordándoles que pueden decir no a cualquier cosa que los haga sentir incómodos”, según Meta.
Los usuarios adolescentes ya están protegidos contra la recepción de mensajes directos de adultos con los que no están conectados en Instagram (y también de otros adolescentes en algunos casos). Pero Meta está dando un paso más al no mostrar el botón «Mensaje» en el perfil de un adolescente a posibles cuentas de sextorsión, es decir, incluso si están conectados.
«También estamos probando ocultar a los adolescentes de estas cuentas en las listas de seguidores, seguidores y me gusta de las personas, y hacerles más difícil encontrar cuentas de adolescentes en los resultados de búsqueda», agregó.
Vale la pena señalar que la empresa es bajo creciente escrutinio en Europa por los riesgos para la seguridad infantil en Instagramy los encargados de hacer cumplir la ley cuestionan su enfoque desde que la Ley de Servicios Digitales (DSA) del bloque entró en vigor el verano pasado.
Un largo y lento avance hacia la seguridad
Meta ya ha anunciado medidas para combatir la sextorsión (la más reciente en Febrero cuando amplió el acceso a Llevarlo hacia abajo.
La herramienta de terceros permite a las personas generar un hash de una imagen íntima localmente en su propio dispositivo y compartirlo con el Centro Nacional para Niños Desaparecidos y Explotados, creando un depósito de hashes de imágenes no consensuales que las empresas pueden usar para buscar y eliminar venganza. pornografía.
Los enfoques anteriores de Meta habían sido criticados ya que exigían que los jóvenes subieran sus desnudos. En ausencia de leyes estrictas que regulen cómo las redes sociales deben proteger a los niños, Meta se vio obligada a autorregularse durante años, con resultados irregulares.
Sin embargo, con algunos requisitos que han llegado a las plataformas en los últimos años, como El Código de la Infancia del Reino Unidoque entró en vigor en 2021 (y, más recientemente, la DSA de la UE), los gigantes tecnológicos como Meta finalmente están teniendo que prestar más atención a la protección de los menores.
Por ejemplo, en julio 2021 Meta cambió a hacer privadas las cuentas de Instagram de los jóvenes justo antes de la fecha límite de cumplimiento en el Reino Unido. Se siguieron configuraciones de privacidad aún más estrictas para adolescentes en Instagram y Facebook. noviembre 2022.
este enero Meta también anunció que establecería de forma predeterminada para los adolescentes en Facebook e Instagram configuraciones de mensajes más estrictas, aún con límites para los adolescentes que envían mensajes a adolescentes con los que aún no están conectados, poco antes de la La fecha límite para el cumplimiento total de la DSA entró en vigor en febrero..
El lento e iterativo avance de las funciones de Meta cuando se trata de medidas de protección para usuarios jóvenes plantea preguntas sobre por qué tomó tanto tiempo aplicar salvaguardas más sólidas, lo que sugiere que se optó por un cínico mínimo en la salvaguardia en un intento por gestionar el impacto en el uso y priorizar el compromiso sobre seguridad. (Que es exactamente lo que Meta denunciante, Francisco Haugendenunció repetidamente a su antiguo empleador).
Cuando se le preguntó por qué no está implementando también las últimas protecciones que anunció para los usuarios de Instagram en Facebook, una portavoz de Meta dijo a TechCrunch: «Queremos responder a donde vemos la mayor necesidad y relevancia, que, cuando se trata de desnudez no deseada y educación adolescentes sobre los riesgos de compartir imágenes sensibles; creemos que es en los mensajes directos de Instagram, así que ahí es donde nos centraremos primero».
