Durante su presentación en el escenario, Intel ofreció nuevos detalles sobre la arquitectura y el rendimiento de Gaudi 3 y los OEM comprometidos a llevarlo al mercado y promocionó una serie de nuevos clientes. La compañía citó a más de una docena de «socios» que utilizan sus aceleradores Gaudí 3, entre ellos Naver Corp., Bosco, NielsenIQy Buscador.
Históricamente, Nvidia ha liderado el mercado de hardware de IA con sus GPU (unidades de procesamiento de gráficos) y TPU. [tensor processing units]creado para potenciar y entrenar grandes modelos de lenguaje y aplicaciones de IA. Intel posicionó su Gaudí 3 como competidor directo de GPU H100 de Nvidia.
El Gaudi 3 ofrece un 50% de mejor inferencia en promedio y un 40% de mejor eficiencia energética en promedio en comparación con la Nvidia H100, «a una fracción del costo», dijo Gelsinger. Según Intel, los aceleradores Gaudí 3 pueden ofrecer cuatro veces computación de IA para sistemas de memoria de computadora, demandando al bf16 formato de coma flotante y 1,5 veces el ancho de banda en memoria sobre Gaudí 2; también ofrece el doble de ancho de banda de red en comparación con su predecesor.
Intel utilizó el proceso de 5 nm de TSMC para construir los chips Gaudi 3, que ahora están disponibles para los fabricantes de equipos originales (OEM), incluidos Dell, HPE, Lenovo y Supermicro, para el mercado de centros de datos de IA. El chip está diseñado para ser conectado junto con miles de otros en bastidores dentro de los centros de datos.
El año pasado, Nvidia controlaba alrededor del 83% del mercado de chips para centros de datos, y gran parte del 17% restante estaba dominado por las unidades de procesamiento tensorial (TPU) personalizadas de Google.
Benjamin Lee, profesor de la Escuela de Ingeniería y Ciencias Aplicadas de la Universidad de Pensilvania, dijo que la trayectoria de Intel no es fácil y tiene desafíos para ser competitivo con Nvidia.
