AbiertoAI ha anunciado que agregará marcas de agua a los metadatos de las imágenes generadas por inteligencia artificial (IA) creadas por DALL-E 3. La compañía afirmó que ahora utilizará el estándar técnico abierto adoptado por la Coalición para la Procedencia y Autenticidad del Contenido (C2PA). ) y agregue la información de que la imagen fue generada por IA, el nombre de la herramienta de IA y el nombre de la aplicación utilizada para crear la imagen en sus metadatos. El movimiento viene como Meta. Anunciado que las empresas de IA deben adoptar un estándar común para ayudar a las herramientas de detección a identificar y etiquetar el contenido de IA en sus plataformas de redes sociales.
en un correo, OpenAI reveló el movimiento, así como los detalles técnicos al respecto. Decía que las imágenes generadas con ChatGPT en el cliente web y API, que utiliza el modelo DALL-E 3, ahora contendrá nuevos metadatos según el estándar C2PA. El mismo proceso de marca de agua se implementará en la aplicación ChatGPT el 12 de febrero. El estándar C2PA es una tecnología de marca de agua específica que agrega un sello en la imagen misma y también incrusta la información dentro de la imagen. Como resultado, se puede ver un símbolo CR en la parte superior izquierda de la imagen y se puede consultar una versión detallada en sus metadatos.
A través de los metadatos, los usuarios pueden comprobar los orígenes de la imagen, incluida información sobre el modelo de IA y la aplicación utilizada para crearla. En los ejemplos compartidos por OpenAI, los metadatos muestran un resumen de contenido que dice: «Esta imagen fue creada con una herramienta de IA». Una pestaña separada para Proceso muestra si se utilizó una API, un cliente web o ChatGPT, además de mostrar el modelo de IA subyacente. Según la empresa, agregar metadatos puede aumentar ligeramente el tamaño de la imagen, pero no tendrá ningún efecto en la calidad.
Si bien esto hace que la imagen sea más segura que un simple marcador visual, todavía hay formas de evitarlo. OpenAI destacó que muchas plataformas de redes sociales eliminan los metadatos de la imagen cargada y tomar una captura de pantalla de la imagen también los eliminará. Por lo tanto, este método puede no ser suficiente para determinar si una imagen fue realmente creada por DALL-E 3 u otros modelos de IA.
C2PA incluye empresas como Adobe, Microsoft, BBC, Sony, Leica, Nikon y más. Ha estado presionando para que se adopte esta tecnología como método para detectar y etiquetar correctamente el contenido generado por IA. El símbolo CR, creado por Adobe, también fue otorgado por el mismo grupo.
