Como he estado diciendo durante el último año, Las conferencias en la nube se han convertido en conferencias de IA generativa., al igual que conferencias de centros de datos, conferencias de bases de datos y lo que sea. Es claramente más que una simple tendencia: es un impulso que cambia las reglas del juego. Pero hemos visto que esto ha sucedido suficientes veces en los últimos 30 años como para saber que nada garantiza que sea una verdadera tendencia. ¿Recuerda la “tecnología de empuje”? Exactamente.
A medida que las empresas se precipitan hacia la IA generativa, seleccionar una infraestructura adecuada es fundamental para lograr un rendimiento y una rentabilidad óptimos. La comparación de la computación en la nube y las soluciones locales tradicionales revela algunas cosas interesantes cuando las plataformas en la nube alojan aplicaciones de IA generativa. Estas debilidades pueden significar que las plataformas públicas de computación en la nube no son un pan comido cuando se trata del mejor lugar para IA generativa sistemas para vivir. Exploremos esto.
Comodidad versus rentabilidad
La nube es una mejor plataforma para la IA generativa cuando se trata de conveniencia. Las plataformas de nube pública están bien arraigadas en todo el ecosistema de herramientas de IA generativa y asistencia para el desarrollo, lo que hace que construir e implementar sistemas de IA generativa en plataformas de nube pública sea el “botón fácil” de la IA.
Este hecho por sí solo hará que la nube sea la primera plataforma que utilicen la mayoría de los emprendedores, considerando que apenas se están volviendo inteligentes acerca de los casos de uso de genAI y cómo se deben implementar los sistemas. Me he centrado en la nube para la mayoría de mis proyectos de IA en los últimos 10 años por razones similares. Es simplemente más fácil.
¿Pero es más rentable? La historia nos dice que acudimos a la nube para facilitar la implementación y la escalabilidad, pero rápidamente aprendemos que las plataformas en la nube generalmente cuestan más que sus contrapartes locales. Su kilometraje puede variar y depende específicamente de su caso de uso. Pero en general se puede afirmar que la nube será una plataforma más cara para la IA generativa, en general. Esto viene de un tipo que tiene un blog en la nube, un podcast en la nube, un libro en la nube y un canal de YouTube en la nube.
Aprendiendo del pasado reciente
Esto no significa que las empresas deban comprar o construir sus propios centros de datos. Las mejores opciones incluyen proveedores de colocación (colo) y proveedores de servicios administrados que alquilan hardware y espacio en el centro de datos y que también pueden operar esos sistemas por usted.
Además, hay que considerar las micronubes que están surgiendo. Estas son nuevas empresas de proveedores de nube .ai que brindan GPU y TPU como servicio. Tendrán que cobrar menos que los proveedores de nube pública para competir. Por lo tanto, pueden resultar más rentables para cualquier empresa que quiera arriesgarse con ellos. Es seguro asumir que la mayoría de ellos serán absorbidos por los proveedores más grandes dentro de unos años.
Las lecciones que hemos aprendido en el pasado reciente son aplicables aquí. Las nubes públicas son buenas, pero tienen un costo que muchas empresas consideran poco útil, aproximadamente 2,5 veces mayor de lo que pensaban. Ese número es arbitrario pero bastante preciso, según mi experiencia.
Por supuesto, la mayoría de estos sobrecostos son heridas autoinfligidas. Muchas empresas trasladaron cargas de trabajo a la nube con la esperanza de modernizarlas en algún momento para gastar menos dinero. Nunca lo hicieron y ahora algunos de ellos están regresando a los sistemas locales. Los sistemas de IA generativa serán en su mayoría completamente nuevos, por lo que este tipo de errores de «patear la lata en el camino» no deberían ocurrir.
¿Qué considerar?
Por supuesto, hay otras cuestiones además del coste. Me viene a la mente la seguridad. Alojar datos confidenciales en la nube genera temores de seguridad, ya que es posible que los proveedores de la nube no ofrezcan el mismo nivel de seguridad que las configuraciones locales. Ciertas industrias tienen demandas regulatorias específicas con respecto al almacenamiento y procesamiento de datos.
Algo de esto es percepción versus realidad. En muchos casos, los proveedores de nube pública poder Proporcionar mejor seguridad que en las instalaciones. Sin embargo, algunos casos de uso involucran datos muy confidenciales y modelos de conocimiento que son una situación de apuesta para el negocio si esos datos se perdieran. Por lo tanto, muchas empresas insisten en mantener los datos y los modelos de IA internamente.
Además, La infraestructura de la nube puede introducir latencia. debido a la transmisión de datos a ubicaciones de procesamiento remotas y la naturaleza distribuida de las configuraciones de la nube pueden surgir preocupaciones sobre la privacidad de los datos. Además, acceder a los servicios en la nube requiere una conexión a Internet estable para realizar operaciones sin problemas. Las interrupciones pueden alterar la disponibilidad del servicio y afectar la continuidad operativa.
Finalmente, los escenarios de nube híbrida pueden encontrar desafíos para estructurar adecuadamente los datos para múltiples plataformas y administrar diversas capacidades en diferentes entornos. Gestionar los procesos de sincronización y garantizar la coherencia de los datos puede resultar complejo en un entorno de datos distribuidos, que es lo que es la computación en la nube.
Todo esto significa que las personas que ven la nube como la única plataforma para sistemas generativos de IA aún no han pagado la factura. Sospecho que unos pocos años en la nube, millones pagados en tarifas de infraestructura de nube y el hecho de que el hardware ahora sea barato llevarán a muchas empresas a regresar a los centros de datos tradicionales para obtener IA generativa.
En respuesta, creo que muchos proveedores de nube reducirán temporalmente sus precios con la esperanza de atraer a grandes empresas y luego subirlos más tarde. Han invertido miles de millones para ingresar sólidamente al espacio de la IA generativa y eventualmente tendrán que recuperar su inversión.
Todos tenemos que tomar decisiones sobre qué devolverá el mayor valor a nuestros respectivos negocios. Veo que ahora se están trazando las líneas de batalla. Que gane la plataforma que más valor devuelva.
Copyright © 2024 IDG Communications, Inc.