El inicio de la CPU Tachyum ha dicho anteriormente que uno de sus Procesador universal Prodigy Las unidades pueden rivalizar con docenas de NVIDIA GPU H200. El procesador de 192 núcleos y 5 nm ofrece 4,5 veces el rendimiento del mejores procesadores para cargas de trabajo en la nube y afirma ser seis veces más eficaz que las GPU para IA.
Ahora la firma ha anunciado la Plataforma Prodigy ATX, una IA puesto de trabajo que promete ejecutar modelos avanzados de IA por sólo 5.000 dólares. El ambicioso sistema, que cuenta con una impresionante memoria de 1 TB, está diseñado para hacer que los modelos sofisticados de IA sean accesibles a un público más amplio.
La plataforma Prodigy ATX está construida alrededor de un procesador Prodigy de 96 núcleos, que está diseñado con solo la mitad de su matriz habilitada, una estrategia destinada a reducir el consumo de energía y mejorar el rendimiento, reduciendo así los costos y haciendo la plataforma más accesible.
Efectivo para LLM
Se espera que el sistema venga equipado con 1 TB de SDRAM DDR5-6400 utilizando 16 módulos de memoria, ofreciendo un ancho de banda máximo de 819,2 GB/s. El diseño del sistema incluye tres ranuras PCIe x16 5.0, tres ranuras NVMe M.2-2280 con una interfaz PCIe 5.0 x4 y conectores SATA para SSD y HDD.
Tachyum dice que su plataforma Prodigy ATX es particularmente efectiva para ejecutar LLM que son conocidos por sus altos requisitos de capacidad de memoria.
Según se informa, un solo sistema Prodigy puede ejecutar un modelo ChatGPT4 con 1,7 billones de parámetros, lo que requeriría 52 GPU NVIDIA H100 para funcionar a un costo y consumo de energía significativamente mayores.
A pesar de las impresionantes especificaciones, existen dudas sobre la viabilidad económica de la plataforma Prodigy ATX para Tachyum. Como Hardware de Tom Como señala, se estima que el coste total de los componentes del sistema, excluyendo el procesador Prodigy, ronda los 4.800 dólares. Sin embargo, el director ejecutivo de Tachyum, Dr. Radoslav Danilak, sigue siendo optimista y afirma que las potentes capacidades de IA de la plataforma permitirán a organizaciones de todos los tamaños competir en iniciativas de IA.
«La IA generativa se utilizará ampliamente mucho más rápido de lo que nadie anticipó originalmente», afirmó el Dr. Danilak. «En uno o dos años, la IA será un componente necesario en sitios web, chatbots y otros componentes críticos de productividad para garantizar una buena experiencia de usuario. Las poderosas capacidades de IA de Prodigy permiten que los LLM se ejecuten de manera mucho más fácil y rentable que las CPU + GPGPU existentes. basados en sistemas, empoderando a organizaciones de todos los tamaños para competir en iniciativas de IA que de otro modo estarían dominadas por los actores más grandes de su industria».
El lanzamiento de la plataforma Prodigy ATX se ha retrasado varias veces y el último plan fija el lanzamiento del procesador para la segunda mitad de 2024. Queda por ver si Tachyum puede cumplir sus promesas y revolucionar el panorama de la IA.
