A principios de este mes, un tribunal alemán gobernó que el partido nacionalista de extrema derecha del país, Alternativa para Alemania (AfD), era potencialmente “extremista” y podría justificar la vigilancia por parte del aparato de inteligencia del país.
Los anuncios de campaña publicados por AfD todavía pueden aparecer en Facebook e Instagram, según un informe. nuevo reporte de la organización de defensa sin fines de lucro que Ekō compartió exclusivamente con WIRED. Los investigadores encontraron 23 anuncios que acumularon 472.000 visitas del partido en Facebook e Instagram y que parecen violar las propias políticas de Meta en materia de discurso de odio.
Los anuncios promueven la narrativa de que los inmigrantes son peligrosos y una carga para el estado alemán antes de las elecciones de la Unión Europea en junio.
Un anuncio colocado por el político de AfD, Gereon Bollman, afirma que Alemania ha visto “una explosión de violencia sexual” desde 2015, culpando específicamente a inmigrantes de Turquía, Siria, Afganistán e Irak. El anuncio fue visto por entre 10.000 y 15.000 personas en sólo cuatro días, entre el 16 y el 20 de marzo de 2024. Otro anuncio, que tuvo más de 60.000 visitas, muestra a un hombre de color tumbado en una hamaca. El texto superpuesto dice: “AfD revela: ¡686.000 extranjeros ilegales viven a nuestras expensas!”
Ekō también pudo identificar al menos tres anuncios que parecen haber utilizado IA generativa para manipular imágenes, aunque solo uno se publicó después de que Meta pusiera su Implementación de una política de medios manipulada.. Uno muestra a una mujer blanca con heridas visibles, acompañada de un texto que dice “la conexión entre migración y delincuencia se ha negado durante años”.
«Meta, y de hecho otras empresas, tienen una capacidad muy limitada para detectar herramientas de terceros que generan imágenes de IA», dice Vicky Wyatt, directora senior de campañas de Ekō. “Cuando los partidos extremistas utilizan esas herramientas con sus anuncios, pueden crear imágenes increíblemente emotivas que realmente pueden conmover a la gente. Por eso es increíblemente preocupante”.
En su presentación a la consulta de la Comisión Europea sobre directrices electorales, obtenida a través de una solicitud de libertad de información hecha por Ekō, Meta dice que «todavía no es posible para los proveedores identificar todo el contenido generado por IA, particularmente cuando los actores toman medidas para intentar evitarlo». detección, incluso mediante la eliminación de marcadores invisibles”.
meta propias políticas prohibir los anuncios que «afirmen que las personas son una amenaza para la seguridad, la salud o la supervivencia de otros en función de sus características personales» y los anuncios que «incluyan generalizaciones que indiquen inferioridad, otras declaraciones de inferioridad, expresiones de desprecio, expresiones de desprecio, expresiones de disgusto». , o maldecir basándose en el estatus migratorio”.
«No permitimos discursos de odio en nuestras plataformas y tenemos estándares comunitarios que se aplican a todo el contenido, incluidos los anuncios», dice el portavoz de Meta, Daniel Roberts. «Nuestro proceso de revisión de anuncios tiene varias capas de análisis y detección, tanto antes como después de que un anuncio se publique, y este sistema es uno de los muchos que tenemos implementados para proteger las elecciones europeas». Roberts dijo a WIRED que la compañía planea revisar los anuncios marcados por Ekō, pero no respondió a las preguntas sobre si la designación de AfD por parte del tribunal alemán como potencialmente extremista invitaría a un mayor escrutinio por parte de Meta.
Los anuncios dirigidos, dice Wyatt, pueden ser poderosos porque los grupos extremistas pueden dirigirse más efectivamente a personas que podrían simpatizar con sus puntos de vista y «usar la biblioteca de anuncios de Meta para llegar a ellos». Wyatt también dice que esto permite al grupo probar qué mensajes tienen más probabilidades de resonar entre los votantes.
