Meta comenzará a marcar imágenes generadas por IA en FacebookInstagram y Hilos en un esfuerzo por mantener la transparencia en línea.
El gigante tecnológico ya etiqueta el contenido elaborado por sus Imagina un motor de IA con una marca de agua visible. En el futuro, hará algo similar con imágenes provenientes de fuentes de terceros como Abierto AI, Googley Midjourney, solo por nombrar algunos. Se desconoce exactamente cómo se verán estas etiquetas, aunque, mirando la publicación del anuncio, puede consistir simplemente en las palabras «Información AI» junto al contenido generado. Meta afirma que este diseño no es definitivo, insinuando que podría cambiar una vez que se lance oficialmente la actualización.
Además de las etiquetas visibles, la compañía dice que también está trabajando en herramientas para «identificar marcadores invisibles» en imágenes de generadores de terceros. Imagine AI también hace esto al incorporar marcas de agua en los metadatos de su contenido. Su propósito es incluir una etiqueta única que no pueda ser manipulada por herramientas de edición. Meta afirma que otras plataformas tienen planes de hacer lo mismo y quieren implementar un sistema para detectar los metadatos etiquetados.
Etiquetado de audio y vídeo.
Hasta ahora, todo se ha centrado en imágenes de marca, pero ¿qué pasa con el audio y el vídeo generados por IA? Lumière de Google es capaz de crear clips increíblemente realistas y OpenAI está trabajando en implementar creación de video para ChatGPT. ¿Existe algo para detectar formas más complejas de contenido de IA? Especie de.
Meta admite que actualmente no hay forma de detectar audio y video generados por IA al mismo nivel que las imágenes. La tecnología aún no ha llegado. Sin embargo, la industria está trabajando «hacia esta capacidad». Hasta entonces, la empresa se basará en el sistema de honor. Requerirá que los usuarios revelen si el videoclip o el archivo de audio que desean cargar fue producido o editado por inteligencia artificial. De no hacerlo resultará en una “sanción”. Es más, si un medio es tan realista que corre el riesgo de engañar al público, Meta le pondrá “una etiqueta más destacada” ofreciendo detalles importantes.
Actualizaciones futuras
En cuanto a sus propias plataformas, Meta también está trabajando para mejorar las herramientas propias.
El laboratorio de investigación de IA de la compañía, FAIR, está desarrollando un nuevo tipo de tecnología de marca de agua llamada Stable Signature. Aparentemente, es posible eliminar los marcadores invisibles de los metadatos del contenido generado por IA. Se supone que Stable Signature detendrá esto al hacer de las marcas de agua una parte integral del “proceso de generación de imágenes”. Además de todo esto, Meta ha comenzado a capacitar a varios LLM (modelos de lenguaje grande) en sus estándares comunitarios para que las IA puedan determinar si ciertos contenidos violan la política.
Espere ver las etiquetas de las redes sociales implementándose en los próximos meses. El momento de la publicación no debería sorprender: 2024 es un año electoral importante para muchos países, sobre todo Estados Unidos. Meta busca mitigar en la medida de lo posible la difusión de información errónea en sus plataformas.
Nos comunicamos con la compañía para obtener más información sobre qué tipo de sanciones puede enfrentar un usuario si no marca adecuadamente su publicación y si planea marcar imágenes de una fuente de terceros con una marca de agua visible. Esta historia se actualizará más adelante.
Hasta entonces, consulte la lista de TechRadar de Los mejores generadores de imágenes de IA para 2024.