Muchas empresas y plataformas están discutiendo cómo manejar el contenido generado por IA a medida que se vuelve más frecuente. Una preocupación clave para muchos es la para dejar en claro que un modelo de IA creó una foto, un video o un fragmento de audio. Con ese fin, tiene para etiquetar vídeos realizados con inteligencia artificial.
A partir de hoy, la plataforma exigirá que cualquier persona suba un vídeo de aspecto realista «realizado con medios alterados o sintéticos, incluidos » para etiquetarlo en aras de la transparencia. YouTube define contenido realista como cualquier cosa que un espectador pueda «confundir fácilmente» con una persona, evento o lugar real.
Si un creador usa una versión sintética de la voz de una persona real para narrar un video o reemplaza el rostro de alguien con el de otra persona, deberá incluir una etiqueta. También deberán incluir la divulgación si alteran imágenes de un evento o lugar real (por ejemplo, modificando un paisaje urbano existente o haciendo que parezca que un edificio real está en llamas).
YouTube dice que podría aplicar una de estas etiquetas a un vídeo si un creador no lo ha hecho, «especialmente si el contenido alterado o sintético tiene el potencial de confundir o engañar a las personas». El equipo señala que, si bien quiere darles a los creadores algo de tiempo para acostumbrarse a las nuevas reglas, es probable que YouTube penalice a aquellos que incumplan persistentemente la política al no incluir una etiqueta cuando debería hacerlo.
Estas etiquetas comenzarán a aparecer en YouTube en las próximas semanas, comenzando con la aplicación móvil y luego en computadoras de escritorio y televisores. Aparecerán principalmente en la descripción ampliada, señalando que el video incluye «contenido alterado o sintético», agregando que «el sonido o las imágenes fueron editados significativamente o generados digitalmente».
Sin embargo, cuando se trata de temas más delicados (como noticias, elecciones, finanzas y salud), YouTube colocará una etiqueta directamente en el reproductor de vídeo para hacerlo más destacado.
Los creadores no necesitarán incluir la etiqueta si solo usaron IA generativa para ayudar con cosas como la creación de guiones, generar ideas para videos o generar subtítulos automáticamente. Las etiquetas no serán necesarias para «contenido claramente poco realista» o si los cambios son intrascendentes. Ajustar los colores o usar efectos especiales como agregar desenfoque de fondo por sí solo no requerirá que los creadores usen la etiqueta de contenido modificado. Tampoco lo hará la aplicación de filtros de iluminación, filtros de belleza u otras mejoras.
Además, YouTube dice que todavía está trabajando en un proceso renovado de solicitud de eliminación de contenido sintético o alterado que representa el rostro o la voz de una persona real e identificable. Planea compartir más detalles sobre ese procedimiento actualizado pronto.