Image Playground es la nueva herramienta de generación de imágenes impulsada por IA de Apple
Apple Intelligence se utilizará para la generación de imágenes en iOS 18y se marcarán las imágenes creadas con Image Playground. Así es como funcionará y cuáles son las limitaciones de las etiquetas.
Con Image Playground, los usuarios podrán crear imágenes únicas generadas por IA en diferentes aplicaciones de Apple, como Freeform, Messages y Keynote. Todo esto será posible una vez Inteligencia de Apple estará disponible más adelante en 2024.
A medida que la tecnología de generación de imágenes impulsada por IA mejora cada día que pasa, será cada vez más difícil identificar imágenes creadas mediante inteligencia artificial. Apple tiene un plan claro para abordar este problema, ya que su software marcará las imágenes generadas por IA y evitará la creación de contenido fotorrealista, para adultos y con derechos de autor.
Apple marcará a los magos generados por IA mediante datos EXIF
En una reunión informativa con Apple, AppleInsider Se ha enterado de que la empresa planea etiquetar las imágenes generadas por IA a través de metadatos de imágenes, también conocidos como datos EXIF.
Esto significa que las imágenes generadas por IA creadas a través de Image Playground estarían claramente marcadas a través de esos metadatos. La fuente de la imagen, que normalmente muestra el nombre y la marca de la cámara utilizada para tomar una fotografía, mostrará «Apple Image Playground», lo que sirve como una indicación clara de que la imagen fue creada por IA.
Sin embargo, la empresa no llega tan lejos como la taquigrafía. En la actualidad, no parece haber planes para incorporar la acreditación de Image Playground en la propia imagen.
Además, los metadatos de las imágenes se pueden eliminar o modificar fácilmente a través de muchos sitios web y herramientas de modificación de imágenes disponibles públicamente. Una captura de pantalla de una imagen tampoco conserva los metadatos.
Etiquetar una imagen a través de datos EXIF no fue suficiente para Apple, ya que la compañía se aseguró de que su software solo pudiera generar imágenes en estilos específicos y no realistas.
En la misma sesión informativa, supimos que el software de Apple impedirá efectivamente que los usuarios generen imágenes fotorrealistas. En cambio, los usuarios podrán generar imágenes en los siguientes tres estilos aprobados por Apple dentro de Image Playground: animación, ilustración y boceto.
Ninguno de estos estilos de imagen podría confundirse jamás con una fotografía de un objeto, persona o lugar del mundo real. El estilo Animación crea imágenes que se parecen vagamente a fotografías de películas animadas en 3D, mientras que los estilos Ilustración y Boceto generan imágenes de un tipo bidimensional aún más obvio.
Apple trabajó con artistas digitales y les pidió que crearan imágenes en los tres estilos antes mencionados. Luego, estas imágenes se utilizaron para entrenar el software de IA generativa de la empresa, de modo que pudiera generar imágenes con un aspecto similar.
Image Playground evitará la creación de contenido para adultos, fotorrealista y con derechos de autor mediante múltiples controles
Al hablar con personas familiarizadas con el asunto, AppleInsider ha conocido los detalles del material de referencia que Apple utilizó para Image Playground.
Para el estilo de imagen de animación, la compañía utilizó la imagen de un pollito amarillo tridimensional, que se asemeja a un personaje de una película animada de Pixar o Dreamworks con ojos estilo dibujos animados.
Para el estilo Sketch de Image Playground, Apple usó un dibujo obvio de una flor rosa y naranja. Para entrenar el software de IA para el estilo Ilustración, la empresa utilizó una imagen de una persona en un estilo bastante reconocible y algo abstracto conocido como Memphis corporativo.
Image Playground brindará a los usuarios la opción de crear imágenes generadas por IA en los siguientes tres estilos: animación, ilustración y boceto.
A través de nuestro investigación independiente, AppleInsider se ha enterado de un cuarto estilo de imagen conocido como Line Art, que Apple abandonó en algún momento durante el desarrollo de Image Playground. Hasta la fecha, no ha habido ninguna referencia a este estilo de imagen y no apareció en las primeras versiones beta para desarrolladores de los últimos sistemas operativos de Apple.
Al crear estos diferentes estilos de imagen y encargar material de referencia, Apple quería entrenar su IA para crear tipos específicos de imágenes que no fueran fotorrealistas y, por lo tanto, no pudieran confundirse con una imagen de la vida real de una entidad o ubicación. Image Playground también tendrá la capacidad de crear imágenes obvias generadas por IA de personas que el usuario conoce, a través de la integración con la biblioteca de fotos del usuario.
En nuestra sesión informativa con Apple durante WWDC, también nos enteramos de que Apple aparentemente ha creado «controles múltiples» para evitar la generación de material para adultos y con derechos de autor. También habrá una opción de comentarios de los usuarios, que les brindará una forma de informar sobre contenido para adultos o con derechos de autor creado inadvertidamente dentro de la aplicación.
Estas nuevas comprobaciones de derechos de autor y contenido para adultos, junto con el etiquetado de imágenes mediante metadatos, parecen haberse agregado tarde durante el período de desarrollo de Image Playground, según personas familiarizadas con el asunto. Nos dijeron que las primeras versiones de desarrollo de Image Playground no parecen tener estos controles de seguridad, ya que no estaban destinadas a uso externo.
En esencia, todo esto significa que Apple hizo todo lo posible para impedir la creación de contenido fotorrealista, para adultos y con derechos de autor. La compañía quiere que sus imágenes generadas por IA sean fácilmente identificables, razón por la cual dichas imágenes están marcadas mediante metadatos que cualquiera puede verificar.
