Databricks se está preparando para ofrecer más soporte a las empresas que crean aplicaciones de IA generativa, con la incorporación de nuevas capacidades de Mosaic AI, dijo el miércoles.
Las nuevas funciones, vistas previas en el casa del lago de datos La Cumbre Data + AI en curso del proveedor, busca simplificar la capacitación y gestión de aplicaciones de IA generativa. Se unen a un conjunto de otros creados a partir de la adquisición de modelo de lenguaje grande (LLM) y proveedor de software de entrenamiento de modelos MosaicML por 1.300 millones de dólares Hace un año.
Mosaic AI Agent Framework para acelerar el desarrollo de aplicaciones de IA de generación
En primer lugar, Mosaic AI Agent Framework, ahora en versión preliminar pública, tiene como objetivo acelerar el desarrollo de aplicaciones de IA generativa respaldadas por recuperación de generación aumentada (RAG)una técnica útil para fundamentar modelos fundamentales en datos empresariales.
Si bien los usuarios de Databricks han podido construir RAG sobre su plataforma durante algún tiempo utilizando medios alternativos, Mosaic AI Agent Framework puede verse como la empresa que operacionaliza y produce esta faceta de la IA generativa, dijeron los analistas.
«AI Agent Framework facilita que las empresas pongan en funcionamiento los canales RAG sin tener que implementar sus propios modelos integrados, integrar algoritmos y crear su propio almacén de vectores», dijo Bradley Shimmin, analista jefe de Omdia.
Además, el analista dijo que la decisión de Databricks de obtener una vista previa del AI Agent Framework está en línea con la tendencia del mercado de todos los fabricantes de modelos que presionan para desarrollar sus capacidades patentadas de modelos de incrustación.
“Al principio, el modelo de integración de OpenAI realmente se convirtió en la norma, pero a medida que estamos aprendiendo, los modelos de integración son tan importantes, si no más, que los LLM generativos en términos de garantizar que el significado contextual de la información corporativa se presente de manera más efectiva a un LLM para un gran cantidad de casos de uso”, explicó Shimmin.
En noviembre, su rival Snowflake agregó capacidades similares a su oferta Cortex.
Además del marco de Agent AI, Databricks también ha agregado la herramienta de evaluación de agentes de AI, que también se encuentra en versión preliminar pública.
La herramienta, según la empresa, utiliza IA para comprobar si los resultados de una aplicación basada en RAG son de alta calidad y proporciona una interfaz para permitir la retroalimentación de las partes interesadas humanas.
En la fase de experimentación e investigación, la empresa denominó esta capacidad como Laboratorio de calidad Mosaic AI.
Mosaic AI Gateway para ayudar a gobernar aplicaciones y modelos
Otra incorporación, Mosaic AI Gateway, tiene como objetivo ayudar a las empresas a gestionar sus LLM y aplicaciones generativas basadas en IA. Proporciona una interfaz unificada para consultar, administrar e implementar cualquier modelo propietario o de código abierto, dijo Databricks, y agregó que esto permite a las empresas cambiar el LLM que impulsa sus aplicaciones sin necesidad de realizar cambios complicados en el código de la aplicación. Sus barreras de seguridad también permiten a las empresas rastrear quién llama al modelo, establecer límites de tarifas para controlar el gasto y filtrar por seguridad e información de identificación personal (PII).
La nueva capacidad, según Shimmin de Omdia, se basa en la API ML Gateway de la compañía presentada el año pasado.
«Básicamente, está destinado a ayudar a los clientes a optimizar la forma en que los desarrolladores escriben código para los LLM, creando una capa de abstracción de coherencia para intercambiar mejor varios activos de IA, como modelos, fuentes de datos, etc.». Dijo Shimmin.
La interfaz AI Gateway también aborda «una necesidad crucial» para que las empresas monitoreen y controlen el uso del modelo mientras garantizan el cumplimiento, según Steven Dickens, líder de práctica de nube híbrida en The Futurum Group.
La compañía también está presentando un conjunto de herramientas para ejecutar LLM y operarlos, bajo el título del Catálogo de herramientas Mosaic AI. A diferencia de las otras incorporaciones, esta se encuentra en una vista previa privada.
¿Estas nuevas características mantendrán a Databricks por delante de Snowflake?
Se espera que las nuevas funciones y herramientas agregadas a Databricks solidifiquen su posición en el mercado, dijeron los analistas, y agregaron que la compañía todavía está rezagada en algunas áreas, especialmente en comparación con Snowflake.
Doug Henschen, analista principal de Constellation Research, dijo: «Databricks es líder en las áreas de AI e IA generativa, pero todavía tiene mucho que demostrar almacenamiento de datos y está detrás de Snowflake en el mercado de datos y las aplicaciones de datos”.
«Snowflake tiene una plataforma sólida y ofrece relativamente más facilidad de uso, tiene más ingresos, mejores oportunidades de asociación de plataformas y, como resultado, lo que parece ser una oportunidad de mercado más grande», explicó Henschen.
Al explicar con más detalle la rivalidad entre Snowflake y Databricks, el analista jefe de dbInsights, Tony Baer, dijo que ambas compañías se acercan a la IA desde diferentes puntos de partida y ambas buscan llegar al mismo lugar.
Databricks siempre ha sido la plataforma para ingenieros y científicos de datos y, por lo tanto, se ha diferenciado por su enfoque hacia profesionales más técnicos desde los días de Flujo mlfexplicó el analista, y agregó que Snowflake, por otro lado, proviene del mercado tradicional de almacenamiento de datos y está dirigido a analistas de negocios.
“Ambos apuntan a los electores del otro. Y así puede verlo en los últimos anuncios, donde Databricks ha introducido herramientas para trabajar con agentes de IA mientras Snowflake Cortex, en esencia, enterrará las complejidades de RAG bajo el capó”, dijo Baer.
Por otra parte, el analista jefe de Amalgam Insights, Hyoun Park, señaló que Databricks había comenzado a denominar la mayoría de sus capacidades generativas relacionadas con la IA con la marca Mosaic.
«Esto podría ser un esfuerzo de Databricks para aumentar la cantidad de ingresos asociados con MosaicML, lo que a su vez ayudaría a justificar la adquisición de 1.300 millones de dólares», dijo Park.
Copyright © 2024 IDG Communications, Inc.
