Después de una imagen realista generada por IA del Papa Francisco con un abrigo acolchado se volvió viral en las redes sociales el año pasado, el propio Papa aparentemente se dio cuenta, informa Reuters. en un mensaje Para la 58ª Jornada Mundial de las Comunicaciones Sociales, Francisco escribe: «Basta pensar en el antiguo problema de la desinformación en forma de noticias falsas, que hoy pueden recurrir a los ‘deepfakes’, es decir, la creación y difusión de imágenes que parecen perfectamente plausible pero falso (yo también he sido objeto de esto)».
El Papa también advierte sobre los mensajes de audio que «utilizan la voz de una persona para decir cosas que esa persona nunca dijo«, continúa. «La tecnología de simulación detrás de estos programas puede ser útil en ciertos campos específicos, pero se vuelve perversa cuando distorsiona nuestra relación con los demás y con la realidad».
En marzo de 2023, un usuario de Twitter llamado «skyferrori» utilizó el servicio de síntesis de imágenes Midjourney v5 para crear una foto falsa convincente del Papa Francisco con un abrigo largo acolchado blanco y lo publiqué en el servicio. Rápidamente se volvió viral y hoy cuenta con más de 197.000 me gusta y 28,1 millones de visitas. Mucha gente pensó que era una foto real y se destacó en ese momento por ser una de las primeras imágenes generadas por IA que engañó a una gran audiencia en línea.
«Estaba teniendo esta discusión con un amigo y, para ser honesto, no pensé que fuera falso», escribió un comentarista llamado «emoción» en los foros de Ars Technica en ese momento. «Pensé que era genuino, aunque ese mismo día había leído que el Papa Francisco es un tipo frugal y no hace alarde de la riqueza del Vaticano… Fue divertido ayer , ahora es absolutamente horrible.»
Desde el lanzamiento de Difusión estable En 2022, cubrimos con frecuencia los deepfakes y nos preocupamos por ellos. socavando la confianza social, Reducir la calidad de la información en línea. inyectando ruido, alimentando acoso en líneay posiblemente alterando el registro histórico. Es un problema sin resolver, ya que la tecnología de marcas de agua a menudo considerado poco confiable y proyectos de etiquetado de metadatos aún no tiene un amplio apoyo. Fundamentalmente, nuestra capacidad de confiar en lo que vemos en línea se reducirá a cuánto confiemos en el mensajero.
«El desarrollo de sistemas de inteligencia artificial, al que dediqué mi reciente Mensaje para la Jornada Mundial de la Paz, está afectando radicalmente al mundo de la información y la comunicación y, a través de él, a ciertos fundamentos de la vida en sociedad», advierte el Papa. «Estos cambios afectan a todos, no sólo a los profesionales de esos campos. La rápida difusión de innovaciones asombrosas, cuyo funcionamiento y potencial están más allá de la capacidad de la mayoría de nosotros para comprender y apreciar, ha demostrado ser a la vez emocionante y desorientadora».
