El tamaño importa: El secreto para una mejor aceleración de hardware para los algoritmos de IA parece estar relacionado con el tamaño de los microchips reales que procesan números. El último «XPU» personalizado de Broadcom podría ser el mayor de estos aceleradores de IA mostrados hasta ahora.
Broadcom organizó recientemente un «día del inversor en IA» para mostrar sus últimas soluciones de mercado. El gigante de las redes introdujo una serie de innovaciones diseñadas específicamente para acelerar y gestionar algoritmos de inteligencia artificial. Una de las innovaciones fue una gran «XPU» que, según Broadcom, se construyó sobre tecnologías fundamentales de clase mundial como SerDes y DSP.
Intel define una XPU como cualquier arquitectura informática que mejor se adapte a las necesidades de la aplicación de una empresa. Ya sea una CPU, GPU, FPGA o ASIC con diseño de silicio personalizado, una XPU puede, en teoría, proporcionar una experiencia perfecta en PC, automóviles, brazos robóticos o cualquier otra pieza de hardware «inteligente». El analista tecnológico Patrick Moorhead asistió el evento de Broadcom y pude obtener documentación visual interesante sobre los últimos productos de la empresa.
En uno de los fotos compartido en Twitter, Moorhead sostenía un trozo de silicio muy grande con una etiqueta «XPU». Según Frank Ostojic, jefe del grupo de silicio personalizado de Broadcom, la XPU en cuestión ha sido diseñada específicamente para una gran «empresa de consumo de IA». La XPU está equipada con dos unidades de cómputo en el centro, mientras que la memoria de alto ancho de banda (HBM) ocupa los lados izquierdo y derecho del chip.
Algunas fotos divertidas del @Broadcom Día del inversor en IA hoy. Obviamente se trata de una oblea en su funda protectora. Este chip «XPU» (acelerador de IA) utiliza un paquete 3D. El troquel superior es un acelerador de 700 mm2 encima de una SRAM de 800 m2. Sí, me sorprende que:
R/ No lo sé $AVGO tenía chuletas 3D. (Él… pic.twitter.com/SjoVY90yiq–Patrick Moorhead (@PatrickMoorhead) 21 de marzo de 2024
Moorhead especula que la XPU de Broadcom incluye «montones, montones» de potencia informática, conectividad dentro del chip de muy alta velocidad y el «más alto rendimiento» para comunicaciones de redes externas. Nvidia recientemente presentada Acelerador de IA Blackwell También emplea dos unidades de cómputo integradas en el mismo chip, pero la XPU de Broadcom es tan grande o incluso más grande que eso.
Hasta el momento, no se ha proporcionado información sobre la «compañía de IA» de terceros para la cual Broadcom diseñó su supuestamente poderosa XPU. La corporación es conocida principalmente por sus equipos y servicios de redes, pero también proporciona chips personalizados para organizaciones de consumidores destacadas como Google. Como muchos otros diseñadores de chips sin fábrica, Broadcom utilizará los servicios de fundición del gigante taiwanés TSMC para fabricar el XPU.
Los aceleradores de IA personalizados son parte de la estrategia de Broadcom para vender soluciones de centros de datos que sean eficaces, eficientes y escalables. Las aplicaciones de IA para el consumidor están impulsando la necesidad de un silicio de IA personalizado e innovador, según la empresa dicho, mientras que una «infraestructura de IA» adecuada requeriría una cartera completa de productos relacionados con la red que puedan mover todos esos datos lo más rápido posible. Y Broadcom está, por supuesto, más que dispuesto a vender su cartera de IA a empresas tecnológicas centradas en la IA en el futuro.