Hemos escrito anteriormente sobre caja pequeña. El sistema de servidor de IA de 15.000 dólares funciona con AMD Tarjetas gráficas Radeon RX 7900 XTX y, según se informa, pueden ofrecer el 37% de NVIDIA Rendimiento informático H100.
Sin embargo, parece que los creadores de tinybox han tenido problemas con errores que afectan a la plataforma basada en Radeon. Después de que la empresa matriz, tiny corp, publicara varios tweets expresando frustración con el kit de herramientas de aceleración de IA de AMD, en los que etiquetaba descaradamente a los rivales de AMD, Nvidia y Intel – La directora ejecutiva de AMD, Lisa Su, intervino y dijo que su equipo estaba trabajando para solucionar los problemas.
Desafortunadamente, las soluciones no fueron lo suficientemente buenas para la pequeña empresa, que disparó otra ronda de tweets frustrados, pidiendo a AMD que «arreglara sus cosas básicas» y sugiriendo que el gigante tecnológico abriera su firmware para que la pequeña startup pudiera hacer lo que necesitaba. AMD parecía incapaz de, es decir, «arreglar su error de derrame de LLVM y escribir un fuzzer para HSA».
Si AMD abre el código fuente de su firmware, solucionaré el error de derrame de LLVM y escribiré un fuzzer para HSA. De lo contrario, no vale la pena esforzarse mucho en corregir errores en una plataforma que no es de su propiedad. https://t.co/c4I2So27YG5 de marzo de 2024
El dilema
Después de que las cosas se pusieron aún más acaloradas, Su tuiteó: “Gracias por la colaboración y los comentarios. Todos estamos dispuestos a conseguirle una buena solución. El equipo está en ello”.
Si bien eso podría ser una buena noticia para una pequeña empresa (el tiempo lo dirá), Su bien podría enfrentar una reacción violenta por intervenir esencialmente para respaldar el uso de sus productos de consumo en un servidor dirigido a la empresa.
Como comentó jlake3 Hardware de Tom, “tinybox está comprando tarjetas de consumo en lugar de modelos de centros de datos, pero ¿parece esperar un acuerdo de nivel de servicio para centros de datos? Obtuvieron firmware revisado dentro de las 6 horas posteriores al primer tweet vinculado y una llamada con ingeniería al día siguiente, que es más de lo que yo pensaría que una startup que compra un montón de tarjetas de juego calificaría cuando hay clientes empresariales reales que pagan, y Parece que estamos teniendo una crisis pública porque AMD no está haciendo más por una startup con menos de 100 servidores construidos y ninguno enviado todavía (y evitando expresamente el uso de GPU profesionales)».
También hizo otro buen comentario. «En cuanto a Nvidia, su EULA prohíbe el uso de productos GeForce para aplicaciones CUDA de centros de datos, por lo que definitivamente no contratarían a nadie para hablar con tinybox en esta situación, excepto quizás un abogado».
