En una palabra: Google está tomando medidas enérgicas contra el sórdido mundo de la pornografía generada por computadora. La compañía ha anunciado una nueva política que prohíbe los anuncios de pornografía deepfake o aquellos que prometen desnudar digitalmente a personas sin consentimiento.
Si bien Google ha prohibido los anuncios explícitos durante años, esta es la primera vez que la compañía prohíbe la publicidad que promueve servicios de creación de pornografía deepfake. Anteriormente, la política era menos específica y cubría anuncios que promocionaban «texto, imagen, audio o video de actos sexuales gráficos destinados a excitar».
Los nuevos anuncios de Google actualización de política prohíbe los anuncios «que promuevan contenido sintético que haya sido alterado o generado para que sea sexualmente explícito o contenga desnudez». Esto incluye sitios web, aplicaciones y servicios que ofrecen herramientas de creación de pornografía ultrafalsa o contenido instructivo sobre cómo crear imágenes de desnudos no consensuales utilizando IA.
La actualización establece inequívocamente que Google considera las infracciones «atroces», lo que resulta en suspensiones de cuentas y prohibiciones permanentes de publicidad para los infractores: no hay segundas oportunidades. En palabras del propio gigante tecnológico, a los infractores «no se les permitirá volver a anunciarse con nosotros».
Tanto Google como Apple han tenido que purgar continuamente sus tiendas de aplicaciones de ofertas engañosas que se hacen pasar por aplicaciones o juegos inocuos, sólo para proporcionar capacidades para generar imágenes de desnudos no consensuales. Las plataformas publicitarias de Meta e incluso los canales promocionales en sitios web para adultos han visto tácticas similares, con actores maliciosos que emplean anuncios aparentemente benignos para dirigir el tráfico a sus herramientas pornográficas de inteligencia artificial.
Esta represión también sigue una inquietante tendencia de personas a ser víctimas de imágenes pornográficas generadas por IA y compartidas ampliamente en línea sin su consentimiento. En enero, los desnudos manipulados de Taylor Swift fueron vistos decenas de millones de veces en las plataformas sociales antes de ser eliminados, lo que provocó indignación.
legisladores tomó notay los miembros del Congreso denuncian cómo los deepfakes pueden infligir «daños emocionales, financieros y de reputación irrevocables». impactando desproporcionadamente a las mujeres. Luego, el mes pasado, se introdujo una legislación bipartidista denominada Ley DEFIANCE para permitir a las víctimas un recurso legal para demandar a los creadores y divulgadores de falsificaciones digitales no consensuadas.
Apple también se unió a la lucha, expulsando de su tienda aplicaciones que eran esencialmente fábricas de pornografía deepfake. Algunos desarrolladores promocionaron descaradamente estas aplicaciones con anuncios de Instagram usando lemas como «desnudar a cualquier chica gratis». Incluso Pornhub, el principal distribuidor online de contenidos para adultos, ha tenido una prohibición en deepfakes dentro de su plataforma desde 2018.
Al ampliar sus restricciones de anuncios sexualmente explícitos para cubrir herramientas y servicios de pornografía deepfake, Google está utilizando su dominio publicitario para combatir la aplicaciones más oscuras de IA generativa. Sin embargo, el juego del gato y el ratón de hacer cumplir la política contra determinados actores malos que operan a través de canales más descentralizados sigue siendo un desafío constante.
