TikTok comenzará a trabajar con un sistema de marcas de agua digitales llamado Credenciales de contenido para ayudar a identificar más fotos, videos y contenido de solo audio creado con herramientas de inteligencia artificial de empresas como microsoft, Adobe y AbiertoAI.
El gigante chino de las redes sociales, que es luchando contra una posible prohibición en los EE. UU. Por preocupaciones de seguridad nacional, ya etiqueta contenido generado por IA creado con las herramientas de efectos de IA de TikTok. La compañía dijo que sus nuevas medidas serán parte de un esfuerzo cada vez mayor para combatir la desinformación y la desinformación.
«La IA ofrece increíbles oportunidades creativas, pero puede confundir o engañar a los espectadores si no saben que el contenido fue generado por IA», TikTok dijo en un comunicado. «El etiquetado ayuda a aclarar ese contexto».
Leer más: ¿Qué tan cerca está esa foto de la verdad? Lo que hay que saber en la era de la IA
Las medidas de TikTok marcan otra forma en que la industria tecnológica está respondiendo a las crecientes preocupaciones sobre la omnipresencia del contenido generado por IA. En particular, en los últimos años, la tecnología de inteligencia artificial que crea texto, videos y audio se ha vuelto mucho más fácil de usar. (Consulte las revisiones prácticas de CNET sobre herramientas de generación de imágenes de IA como ImageFX de Google, Adobe luciérnaga y Dall-E 3 de OpenAI así como más consejos, explicaciones y noticias sobre IA en nuestro Atlas de IA página de recursos.)
Al mismo tiempo, el contenido de IA se ha vuelto mucho más creíble también. Los expertos en medios e información han advertido que estas tendencias convergentes podrían crear riesgos significativos para el público, con mentiras realistas e información errónea inundando Internet.
Las preocupaciones no son sólo teóricas. A principios de este año, un consultor político hizo llamadas automáticas a gran escala utilizando una recreación impulsada por inteligencia artificial de la voz del presidente estadounidense Joe Biden. En ese caso, la grabación de IA que sonaba muy real animó a la gente de New Hampshire a no votar en las elecciones primarias.
Los expertos creen que es solo el comienzo de hacia dónde probablemente se dirige la desinformación sobre IA, particularmente con las próximas elecciones presidenciales de 2024.
TikTok no es la única empresa de redes sociales que trabaja para identificar publicaciones basadas en inteligencia artificial. El mes pasado, Meta, propietario de Facebook e Instagram, anunció planes para etiquetar videos, audio e imágenes como «Hecho con IA» ya sea cuando sus sistemas detectan la participación de la IA, independientemente de si los creadores revelan esa información durante una carga.
YouTube de Google también ha exigido a los creadores la divulgación de vídeos manipulados por IA, citando ejemplos que incluyen Semejanzas «realistas» de personas o escenas, así como imágenes alteradas de eventos o lugares reales. OpenAI también ha dicho que lo hará agregue datos de identificación AI a todas las imágenes generados utilizando sus sistemas.
Hasta ahora, parece que los usuarios aprecian ampliamente estos esfuerzos. El mes pasado, Meta citó un estudio en el que el 82% de más de 23.000 encuestados de 13 países favorecieron las etiquetas en el contenido generado por IA «que muestra a personas diciendo cosas que no dijeron».
TikTok dijo que planea expandir sus esfuerzos de etiquetado de IA, incluso agregando datos a fotos o videos creados con herramientas de IA en su plataforma que las personas puedan descargar y compartir en otros lugares.
«A medida que la IA evoluciona, continuamos invirtiendo en combatir el contenido dañino generado por la IA mediante la evolución de nuestros modelos de detección proactiva, consultando con expertos y asociándonos con pares en soluciones compartidas», agregó la compañía.
Leer más: Atlas de IA: su guía para la inteligencia artificial actual
Nota del editor: CNET utilizó un motor de inteligencia artificial para ayudar a crear varias docenas de historias, que están etiquetadas en consecuencia. La nota que está leyendo se adjunta a artículos que tratan de manera sustancial el tema de la IA, pero que fueron creados en su totalidad por nuestros editores y escritores expertos. Para obtener más información, consulte nuestro Política de IA.