Como sabe la mayoría del personal de TI, las GPU tienen una gran demanda y son fundamentales para el funcionamiento y la capacitación. IA generativa modelos. El sector de la nube alternativa, también conocido como micronubes, está experimentando un aumento significativo. Empresas como CoreWeave, Lambda Labs, Voltage Park y Together AI están a la vanguardia de este movimiento. CoreWeave, que comenzó como una empresa de minería de criptomonedas, se ha convertido en un importante proveedor de infraestructura de GPU.
Este cambio ilustra una tendencia más amplia en la que las empresas dependen cada vez más de los servicios de GPU alojados en la nube, principalmente debido al alto costo y los requisitos técnicos de instalar y mantener el hardware necesario en el sitio. Dado que los proveedores de nube pública no descartan estos servicios informáticos, las micronubes ofrecen un mejor camino para muchas empresas.
¿Por qué no nos quedamos con los servicios en la nube «tradicionales» proporcionados por AWS, Google Cloud y Microsoft Azure, que también ofrecen una variedad de recursos de GPU? La respuesta, como siempre, es dinero. Las micronubes suelen ser una solución más rentable para proyectos de inteligencia artificial que requieren GPU. El costo de alquilar GPU populares como la A100 de 40 GB de Nvidia puede ser significativamente menor en CoreWeave u otra plataforma de micronube, en comparación con Azure o Google Cloud (consulte los precios actuales; esta es una observación muy general).
Empresas, tengan cuidado
A pesar de la vitalidad de este sector, el futuro sigue siendo algo incierto. La viabilidad del crecimiento de estos proveedores depende de garantizar un suministro constante de GPU en grandes cantidades y a precios competitivos. Además, dado que los principales operadores de la nube están invirtiendo en hardware de procesamiento de IA a medida, las presiones competitivas podrían intensificarse y manifestarse en precios más bajos que mantengan competitivos a los grandes proveedores de la nube.
Además, si bien las GPU son actualmente preferibles para tareas de IA generativa debido a su velocidad y capacidad para hacer muchas cosas a la vez, no todas las cargas de trabajo de IA requieren GPU. Como he señalado antes, las GPU son excesivas para la mayoría de las cargas de trabajo de IA generativa. Hoy en día suelen ser más un símbolo de estatus que una necesidad.
Las CPU aún se pueden utilizar para tareas menos urgentes, donde un ritmo más lento es aceptable. Se están desarrollando algunos procesadores nuevos y prometedores similares a las GPU que podrían ofrecer un procesamiento más específico para la IA generativa a un costo menor que las GPU actuales.
El objetivo principal de utilizar cualquier recurso, incluidos los procesadores, es hacer el máximo con el mínimo. Para la mayoría de los casos de uso de la IA, los costos harán que muchas empresas vuelvan a la realidad y las exageraciones se tirarán por la ventana.
Un futuro brillante para las micronubes
Ésa es una buena noticia para las empresas que podrían quedar cegadas por el revuelo. Las perspectivas inmediatas para las micronubes son optimistas. Los analistas esperan que el floreciente campo de la IA generativa continúe impulsando la demanda, lo que debería alentar más empresas emergentes de IA en la nube centradas en GPU.
¿Mi consejo? Si se necesitarán GPU para próximos proyectos, las empresas deberían considerar soluciones que requieran GPU. El costo del cambio, al menos por ahora, no debería ser un factor determinante para la mayoría de estas arquitecturas.
Estos nuevos participantes podrían ofrecer una dura competencia a los actores de la nube establecidos, especialmente para los clientes que están abiertos a adoptar tecnologías más nuevas y más baratas para gestionar sus entornos multinube. Las empresas están luchando con el alto costo de la nube, que excede sus presupuestos. Una alternativa más barata sería un avance bienvenido.
Hace casi dos décadas, los principales actores comenzaron a surgir en el mercado de la computación en la nube. Entre 2012 y 2016, pasamos de unas tres docenas de empresas de nube a solo un puñado a medida que el mercado de la nube se normalizó. Espero ver el mismo patrón aquí.
Cualquier nuevo advenedizo tiene grandes preocupaciones. Podrían perder financiación, ser aplastados por actores más grandes o experimentar una miríada de otras catástrofes imprevistas. Lo más probable es que se compren en el futuro y se combinen con un sistema de nube más grande, o tal vez algunas de estas nuevas empresas combinen fuerzas. Algunos de estos resultados significan problemas para las empresas, pero la mayoría no. El futuro de las micronubes sigue siendo brillante.
Copyright © 2024 IDG Communications, Inc.
