Taylor Swift deepfakes Maldita sea, Google está lanzando una nueva herramienta impulsada por IA, TextFX, para la creación de imágenes.
Respaldado por Imagen 2TextFX, un modelo de imagen GenAI desarrollado por el equipo DeepMind de Google, ofrece una interfaz de usuario basada en indicaciones para crear y editar imágenes. Eso no es diferente a herramientas como OpenAI DE-E 3, A mitad del viajeMeta’s Imagínese con Meta AI y microsoft Diseñador. Pero el giro único de TextFX son los “chips expresivos”, básicamente una lista de sugerencias de palabras clave que permiten a los usuarios experimentar con “dimensiones adyacentes” de sus creaciones e ideas.
«Diseñado para la experimentación y la creatividad, ImageFX te permite crear imágenes con un mensaje de texto simple y luego modificarlas fácilmente con una nueva versión de los mensajes utilizando chips expresivos», escribe Google en una publicación de blog.
Pero, ¿qué pasa con el potencial de abuso, especialmente a la luz de eventos recientes?
Google afirma que ha tomado medidas para garantizar que TextFX no pueda usarse de maneras no previstas, por ejemplo agregando «protecciones técnicas» para limitar los «resultados problemáticos» como contenido violento, ofensivo y sexualmente explícito. TextFX también tiene un filtro de nivel de solicitud para «personas nombradas», presumiblemente figuras públicas, aunque Google no fue especialmente claro sobre ese punto en sus materiales de prensa.
«Invertimos en la seguridad de los datos de entrenamiento desde el principio», dijo Google. «De acuerdo con nuestros principios de IA, también llevamos a cabo extensas pruebas adversas y equipos rojos para identificar y mitigar contenido potencialmente dañino y problemático».
Como medida de seguridad adicional, Google etiqueta las imágenes producidas con ImageFX con SynthIDuna marca de agua digital que supuestamente es resistente a ediciones y recortes de imágenes.
«Las marcas de agua SynthID son imperceptibles para el ojo humano pero detectables para su identificación», continúa Google en la publicación del blog. «Con información adicional en ‘Acerca de esta imagen’, sabrás si una imagen puede haber sido generada con las herramientas de inteligencia artificial de Google cuando la encuentres en la Búsqueda de Google o Chrome».
Encontrarás ImageFX en AI Test Kitchen, la aplicación web de Google para proyectos experimentales de IA.
Imagen 2 ampliada
En noticias relacionadas hoy, Google dijo que llevará Imagen 2 a más productos y servicios a partir de esta semana, incluida su experiencia de búsqueda de IA de próxima generación y su familia de servicios de IA administrados Vertex AI.
Imagen 2, que ahora también impulsa las capacidades de conversión de texto a imagen en Google Ads y Duet AI en Workspace, el conjunto de productos GenAI de Google para la productividad, ha llegado a SGE (Experiencia generativa de búsqueda) de Google. SGE, que comenzó a presentar herramientas de generación de imágenes para los usuarios en la Búsqueda de imágenes de Google último Octubre, ahora toca Imagen 2 para generar imágenes. Los usuarios pueden ingresar un mensaje especificando qué tipo de imagen desean y SGE devolverá cuatro resultados directamente en la experiencia conversacional de SGE.
En Vertex AI, Imagen 2 está disponible a través de una API para los clientes de Google Cloud. En otros lugares, Imagen 2 ahora se puede invocar a través de Bard, el chatbot impulsado por inteligencia artificial de Google.
«Con Imagen 2, Bard comprende indicaciones simples o complejas para que puedas generar una variedad de imágenes de alta calidad», explica Google. «Simplemente escribe una descripción, como ‘crea una imagen de un perro montando una tabla de surf’, y Bard generará imágenes personalizadas y de amplio alcance para ayudarte a hacer realidad tu idea».
Google aún no ha revelado los datos que utilizó para entrenar Imagen 2, lo cual, si bien es decepcionante, no es exactamente una sorpresa. Es una cuestión legal abierta si los proveedores de GenAI como Google pueden entrenar un modelo con datos disponibles públicamente (incluso con derechos de autor) y luego darle la vuelta y comercializar ese modelo.
Las demandas relevantes se están abriendo camino en los tribunales, y los proveedores argumentan que están protegidos por la doctrina del uso legítimo. Pero pasará algún tiempo antes de que el polvo se asiente.
Mientras tanto, Google va a lo seguro manteniendo silencio sobre el asunto.