Por qué las GPU necesitan memoria de gran ancho de banda
Según Lee, sin los chips HBM, el sistema de memoria del servidor de un centro de datos no podría seguir el ritmo de un procesador de alto rendimiento, como una GPU. Los HBM son los que suministran a las GPU los datos que procesan. «Cualquiera que compre una GPU para computación de IA también necesitará una memoria de gran ancho de banda», dijo Lee.
“En otras palabras, las GPU de alto rendimiento se utilizarían mal y, a menudo, permanecerían inactivas esperando transferencias de datos. En resumen, la alta demanda de chips de memoria SK Hynix se debe a la alta demanda de chips GPU de Nvidia y, en menor medida, a la demanda de chips de IA alternativos, como los de AMD, Intel y otros”, dijo.
«HBM es relativamente nuevo y está ganando un fuerte impulso debido a lo que ofrece HBM: más ancho de banda y capacidad», dijo Gaurav Gupta, analista de Gartner. “Es diferente a lo que venden Nvidia e Intel. Con excepción de SK Hynix, la situación para HBM es similar para otros reproductores de memoria. Para Nvidia, creo que existen limitaciones, pero más asociadas con la capacidad de empaquetar sus chips con las fundiciones”.
Mientras SK Hynix está alcanzando sus límites de suministro, Samsung y Micron están aumentando la producción de HBM y deberían poder satisfacer la demanda a medida que el mercado se vuelve más distribuido, según Lee.
La escasez actual de HBM se produce principalmente en los envases de TSMC (es decir, chip-on-wafer-on-substrate o CoWoS), que es el proveedor exclusivo de la tecnología. Según Lee, TSMC está duplicando con creces su capacidad SOIC y aumentando la capacidad para CoWoS en más del 60%. «Espero que la escasez disminuya a finales de este año», dijo.
Al mismo tiempo, más proveedores de embalaje y fundición se están conectando y calificando su tecnología para admitir NVIDIA, AMD, Broadcom, Amazon y otros que utilizan la tecnología de embalaje de chips de TSMC, según Lee.
