La autoridad italiana de competencia y consumo, la AGCM, ha multado a TikTok con 10 millones de euros (casi 11 millones de dólares) tras una investigación sobre problemas de seguridad algorítmica.
La autoridad abrió un investigación el año pasado en un desafío de “cicatrices francesas” en el que se informó que los usuarios de la plataforma habían compartido videos de marcas en sus rostros hechas al pellizcarse la piel.
en un presione soltar El jueves, la AGCM dijo que tres empresas regionales del grupo ByteDance, TikTok Technology Limited, con sede en Irlanda, TikTok Information Technologies UK Limited y TikTok Italy Srl, habían sido sancionadas por lo que resumió como una “práctica comercial desleal”.
“La empresa no ha implementado mecanismos adecuados para monitorear el contenido publicado en la plataforma, particularmente aquellos que puedan amenazar la seguridad de menores y personas vulnerables. Además, estos contenidos se vuelven a proponer sistemáticamente a los usuarios como resultado de su elaboración de perfiles algorítmicos, lo que estimula un uso cada vez mayor de la red social”, escribió la AGCM.
La autoridad dijo que su investigación confirmó la responsabilidad de TikTok en la difusión de contenidos «que puedan amenazar la seguridad psicofísica de los usuarios, especialmente si son menores y vulnerables», como vídeos relacionados con el desafío de la «cicatriz francesa». También encontró que la plataforma no tomó medidas adecuadas para evitar la difusión de dicho contenido y dijo que no cumplió plenamente con sus propias pautas de plataforma.
La AGCM también criticó cómo TikTok aplica las directrices, que, según afirma, se aplican “sin tener en cuenta adecuadamente la vulnerabilidad específica de los adolescentes”. Señaló, por ejemplo, que los cerebros de los adolescentes aún se están desarrollando y que los jóvenes pueden estar especialmente en riesgo, ya que pueden ser propensos a la presión de sus pares para emular el comportamiento grupal y tratar de encajar socialmente.
Los comentarios de la autoridad destacan particularmente el papel del sistema de recomendación de TikTok en la difusión de contenido «potencialmente peligroso», señalando el incentivo de la plataforma para impulsar la participación y aumentar las interacciones de los usuarios y el tiempo dedicado al servicio para aumentar los ingresos por publicidad. El sistema impulsa los feeds «Para ti» y «Seguidos» de TikTok y, de forma predeterminada, se basa en un perfil algorítmico de los usuarios, rastreando su actividad digital para determinar qué contenido mostrarles.
«Esto provoca un condicionamiento indebido de los usuarios, que se sienten estimulados a utilizar cada vez más la plataforma», sugirió la AGCM en otro comentario que se destaca por ser crítico con la participación impulsada por el contenido basado en perfiles.
Nos hemos comunicado con la autoridad con preguntas. Pero su evaluación negativa de los riesgos de la elaboración de perfiles algorítmicos parece interesante a la luz de los renovados llamamientos de algunos legisladores en Europa para Los feeds de contenido basados en perfiles estarán desactivados de forma predeterminada..
Grupos de la sociedad civil, como el ICCLtambién argumentan que esto cerraría el grifo de la indignación que las plataformas de redes sociales financiadas con publicidad monetizan a través de sistemas de recomendación centrados en la participación, que tienen el efecto secundario de amplificar la división y socavar la cohesión social con fines de lucro.
TikTok cuestiona la decisión de la AGCM de imponer una sanción.
En una declaración, la plataforma buscó restar importancia a su evaluación de los riesgos algorítmicos que representan para los menores y las personas vulnerables al enmarcar la intervención como relacionada con un único desafío controvertido pero de pequeña escala. Esto es lo que nos dijo TikTok:
No estamos de acuerdo con esta decisión. El contenido llamado “La cicatriz francesa” promediaba solo 100 búsquedas diarias en Italia antes del anuncio de la AGCM el año pasado, y hace mucho tiempo restringimos la visibilidad de este contenido a los menores de 18 años, y también lo hicimos no elegible para el feed For You.
Si bien la aplicación italiana se limita a un estado miembro de la UE, la Comisión Europea es responsable de supervisar el cumplimiento de TikTok con las disposiciones de transparencia y responsabilidad algorítmica de la Ley de Servicios Digitales (DSA) paneuropea, donde las sanciones por incumplimiento pueden escalar hasta el 6% de facturación anual mundial. TikTok fue designada como una plataforma muy grande bajo la DSA en abril del año pasado, y se espera que se cumpla el verano pasado.
Un cambio notable como resultado de la DSA es TikTok ofrece a los usuarios feeds sin perfiles. Sin embargo, estas fuentes alternativas están desactivadas de forma predeterminada, lo que significa que los usuarios siguen sujetos al seguimiento y la elaboración de perfiles basados en IA a menos que ellos mismos tomen medidas para desactivarlas.
El mes pasado La UE abrió una investigación formal sobre TikTok, citando el diseño adictivo y el contenido nocivo y la protección de menores entre sus áreas de interés. Ese procedimiento sigue en curso.
TikTok ha dicho que espera tener la oportunidad de brindar a la Comisión una explicación detallada de su enfoque para proteger a los menores.
Sin embargo, la compañía ha tenido varios enfrentamientos anteriores con autoridades regionales preocupadas por la seguridad infantil en los últimos años, incluyendo una intervención de protección infantil por la autoridad italiana de protección de datos; una multa de 345 millones de euros el otoño pasado sobre fallos en la protección de datos también relacionados con menores; y de larga duración quejas de grupos de protección al consumidor que son preocupado por la seguridad y los perfiles menores.
TikTok también enfrenta la posibilidad de aumentar la regulación por parte de las agencias a nivel de los estados miembros que aplican la Directiva de Servicios de Medios Audiovisuales del bloque. Como el Coimisiún na Meán de Irlanda, que ha sido considerando aplicar reglas a plataformas para compartir vídeos que requerirían que los algoritmos de recomendación basados en perfiles estén desactivados de forma predeterminada.
El panorama tampoco es mejor para la plataforma en los EE. UU., ya que Los legisladores acaban de proponer un proyecto de ley para prohibir TikTok. a menos que corte los lazos con la matriz china ByteDance, citando la seguridad nacional y el potencial de que el seguimiento y la elaboración de perfiles de los usuarios por parte de la plataforma proporcione una ruta para que un gobierno extranjero manipule a los estadounidenses.
