Fireworks.ai es una empresa con sede en California inteligencia artificial (AI) startup que ofrece una solución única para las empresas. La empresa de IA no construye grandes modelos de lenguaje (LLM) o modelos básicos desde cero, sino que afina los modelos de código abierto y los convierte en una interfaz de programación de aplicaciones (API) para ayudar a las empresas a implementar las capacidades de IA sin problemas. El ajuste reduce el alcance del modelo de IA y lo centra en una funcionalidad específica. Esto les permite reducir los casos de alucinaciones de IA y mejorar significativamente las capacidades del modelo.
La empresa de inteligencia artificial fue cofundada por Lin Qiao, quien también ocupa el puesto de director ejecutivo de la empresa. Después de desempeñarse como directora senior de ingeniería en Meta y trabajar con marcos y plataformas de inteligencia artificial, Qiao y su equipo fundaron la startup en octubre de 2022, según su LinkedIn. perfil. en un conversación Con TechCrunch, explicó el modelo de negocio de Fireworks.ai, destacando el servicio de ajuste que brindan. Ella dijo: “Pueden ser modelos disponibles en el mercado, de código abierto, o los modelos que ajustamos o los modelos que nuestros clientes pueden ajustar por sí mismos. Las tres variedades se pueden ofrecer a través de la API de nuestro motor de inferencia”.
Esto coloca a la empresa en una posición única en la que, si bien no está innovando a nivel del modelo básico, está cerrando la brecha entre un LLM y un producto listo para el negocio que se puede implementar sin problemas. Con un enfoque principal en la creación de API, Fireworks.ai permite a sus clientes empresariales conectar y utilizar cualquier modelo de IA de código abierto de su catálogo. Según el informe, la empresa también permite a las empresas experimentar con diferentes modelos de IA para elegir el que se adapte a sus necesidades.
En la actualidad, el puesta en marcha afirma contener 89 LLM de código abierto, como Mixtral MoE 8x7B Instruct, meta Llama 2 70B Chat, de google Gemma 7B Instruct, Stable Diffusion XL de Stability AI y más. La firma de IA ofrece los modelos en formato sin servidor que no requiere que las empresas configuren hardware o implementen modelos, o como modelos bajo demanda que están disponibles para implementaciones dedicadas, servidos en configuraciones de GPU reservadas según las necesidades comerciales.
Para el formato bajo demanda, Fireworks.ai tiene tres planes de pago: Desarrollador, Empresarial y Empresarial; donde el plan Desarrollador viene con una estructura de pago por uso y un límite de velocidad de 600 solicitudes por minuto, el nivel Empresarial tiene opciones personalizadas. ofertas de precios y límites de tarifas ilimitados. El formato sin servidor se factura con un plan de precios por token en el que diferentes modelos, dependiendo de si son solo texto, solo imágenes o multimodales, obtendrán un precio diferente.