India está a menos de un mes de una Elección nacional en la democracia más grande del mundo. pero un nuevo reporte de la organización sin fines de lucro Global Witness y la Internet Freedom Foundation (IFF) descubre que YouTube y Koo, una alternativa local estilo Twitter que se especializa en idiomas indios, continúan permitiendo contenido de odio que viola sus políticas tanto en hindi como en inglés, dejándolos incluso después de que sean reportados. Esto, dicen los expertos, podría ser un presagio de cómo responderán a una avalancha de contenido divisivo relacionado con las elecciones.
“Creo que demuestra que están realmente mal equipados para las elecciones. No pueden lidiar con el contenido que se les informa de una manera transparente y responsable”, dijo a WIRED Henry Peck, activista de amenazas digitales a la democracia en Global Witness.
El informe se centró en el discurso de odio misógino. YouTube política prohíbe el contenido que «promueva la violencia o el odio contra individuos o grupos basándose en cualquiera de los siguientes atributos, que indican un estado de grupo protegido según la política de YouTube», e incluye el género. Prateek Waghre, director ejecutivo del IFF, dice que el objetivo de la investigación era probar qué tan receptiva sería la plataforma a los informes de los usuarios, una forma en que las plataformas identifican el contenido infractor.
«Esta investigación tenía como objetivo comprender cómo responderían sus propios mecanismos de denuncia si se pudieran identificar casos que, basándose en algún análisis, violaran sus políticas», dice.
India es YouTube mercado más grande, con más de 460.000 usuarios. Pero a pesar de su enorme base de usuarios, la plataforma históricamente ha luchado por abordar los problemas de discurso de odio en el país, donde el partido nacionalista hindú Bharatiya Janata, que actualmente ostenta el poder, ha fomentado el miedo contra la minoría musulmana del país para impulsar su popularidad. YouTube tiene influencers en plataformas que hicieron que sus nombres difundieran el odio antimusulmán divisivo y autogeneraran videos musicales odiosos. A informe 2022 del Centro de Empresas y Derechos Humanos de la Universidad de Nueva York descubrió que existe una “serie de peroratas misóginas” dentro del contenido nacionalista hindú de derecha en YouTube. En YouTube, algunos de los vídeos identificados por Global Witness y IFF eran de creadores más pequeños con sólo unos pocos miles de visitas, otros acumularon millones.
Un vídeo con más de 760.000 visitas fomenta la violencia contra las mujeres, y la voz en off dice que «si un hombre lastima a una mujer en la cama y la mujer se queda callada, es una indicación de su amor extremo por el hombre». Otros identifican el color de piel o el tipo de cuerpo que indican que una mujer será infiel.
“[The BJP] «Ha demostrado una y otra vez una estrategia para inflamar a la población mayoritariamente hindú creando miedo y odio hacia los musulmanes», dice Paul Barrett, subdirector del Centro para Empresas y Derechos Humanos de la Universidad de Nueva York y coautor del informe. “Esto se debe principalmente a líneas religiosas, pero también tiende a recoger e incluir una retórica muy misógina. Eso parece venir con el tiempo”.
Aunque YouTube dice que revisa el contenido reportado de manera constante, no respondió las preguntas de WIRED sobre cuánto tiempo lleva revisar los videos reportados, o si los videos marcados por Global Witness habían sido revisados en el momento de la publicación.