Tratar de distinguir entre contenido sintético y auténtico se está volviendo más difícil a medida que la calidad del Imágenes generadas por IA se vuelve cada vez más realista. Para ayudar a los usuarios a hacer la distinción mientras se desplazan Tik Tokla plataforma de vídeos de formato corto ha adoptado las credenciales de contenido.
El jueves, TikTok Anunciado etiquetará automáticamente el contenido generado por IA (AIGC) subido a la plataforma que tiene Credenciales de contenido adjunto. Al desplazarse, los usuarios verán que la «etiqueta generada por IA» aparece automáticamente en el contenido que tiene Credenciales de contenido que designan que fue generado por IA dentro de sus metadatos, como se ve en la foto en la parte superior del artículo.
También: Los mejores generadores de imágenes con IA de 2024: probados y revisados
Las credenciales de contenido, desarrolladas por la Coalición para la procedencia y autenticidad del contenido (C2PA), se refieren a metadatos a prueba de manipulaciones que sirven como una «etiqueta nutricional» para los ingredientes vitales de una parte del contenido, incluido el nombre del creador, las herramientas utilizadas para crear el contenido ( como una cámara o un programa de software), ediciones realizadas y más.
El autor puede agregar estas credenciales manualmente a un contenido de forma gratuita para garantizar que su contenido se atribuya correctamente. Muchas aplicaciones de IA, como Adobe luciérnaga, implementa automáticamente credenciales de contenido en AIGC. Si alguien intenta subir contenido creado con dicha herramienta, TikTok lo etiquetará automáticamente para los usuarios.
«El contenido generado por IA es una salida creativa increíble, pero la transparencia para los espectadores es fundamental. Al asociarnos con pares para etiquetar el contenido en todas las plataformas, estamos facilitando a los creadores la exploración responsable del contenido generado por IA mientras continuamos disuadiendo a los dañinos o AIGC engañoso que está prohibido en TikTok», dijo Adam Presser, jefe de operaciones y confianza y seguridad de TikTok, en un comunicado.
Esta medida de seguridad adicional garantiza que el contenido generado por IA esté correctamente etiquetado, incluso si la persona que sube el contenido no lo revela. Esta medida será útil en plataformas de vídeo como TikTok cuando potentes generadores de vídeo, incluidos Sora de OpenAI, estén disponibles de forma generalizada. La medida de seguridad comenzó a implementarse para los usuarios hoy y se aplicará a todos los usuarios a nivel mundial en las próximas semanas.
En los próximos meses, TikTok también adjuntará Credenciales al contenido de TikTok, lo que permitirá a todos identificar cuándo se creó AIGC en TikTok. Para mostrar un mayor compromiso con las credenciales de contenido, TikTok también se unió a la iniciativa liderada por Adobe. Iniciativa de autenticidad de contenido.
Las características de la credencial de contenido se basan en prácticas que TikTok ya tenía implementadas para garantizar prácticas seguras en las aplicaciones, como prohibir contenido engañoso generado por IA y etiquetar AIGC creado con efectos de IA de TikTok.