Instagram probará funciones que difuminan los mensajes que contienen desnudos para proteger a los adolescentes y evitar que posibles estafadores lleguen a ellos, dijo su empresa matriz. Meta dijo el jueves mientras intenta disipar las preocupaciones sobre el contenido dañino en sus aplicaciones.
El gigante tecnológico está bajo una creciente presión en Estados Unidos y Europa por acusaciones de que sus aplicaciones eran adictivas y habían alimentado problemas de salud mental entre los jóvenes.
Meta dijo que la función de protección para los mensajes directos de Instagram utilizaría el aprendizaje automático en el dispositivo para analizar si una imagen enviada a través del servicio contiene desnudos.
La función se activará de forma predeterminada para usuarios menores de 18 años y Meta notificará a los adultos para animarlos a activarla.
«Debido a que las imágenes se analizan en el propio dispositivo, la protección contra desnudos también funcionará en chats cifrados de extremo a extremo, donde Meta no tendrá acceso a estas imágenes, a menos que alguien decida reportarnoslas», dijo la compañía.
A diferencia de las aplicaciones Messenger y WhatsApp de Meta, los mensajes directos en Instagram no están cifrados, pero la compañía ha dicho que planea implementar el cifrado para el servicio.
Meta también dijo que estaba desarrollando tecnología para ayudar a identificar cuentas que podrían estar potencialmente involucradas en estafas de sextorsión y que estaba probando nuevos mensajes emergentes para usuarios que podrían haber interactuado con dichas cuentas.
En enero, el gigante de las redes sociales había dicho que ocultaría más contenido a los adolescentes en Facebook e Instagram, añadiendo que esto les haría más difícil encontrar contenido sensible como el suicidio, las autolesiones y los trastornos alimentarios.
Los fiscales generales de 33 estados de EE.UU., incluidos California y Nueva York, demandaron a la empresa en octubre, alegando que engañó repetidamente al público sobre los peligros de sus plataformas.
En Europa, la Comisión Europea ha buscado información sobre cómo Meta protege a los niños de contenidos ilegales y dañinos.
© Thomson Reuters 2024