Grupo de evaluación comparativa de inteligencia artificial MLComunes el miércoles publicó un nuevo conjunto de pruebas y resultados que califican la velocidad a la que el hardware de primera línea puede ejecutar aplicaciones de inteligencia artificial y responder a los usuarios.
Los dos nuevos puntos de referencia agregados por MLCommons miden la velocidad a la que los chips y sistemas de IA pueden generar respuestas a partir de los potentes modelos de IA repletos de datos. Los resultados demuestran aproximadamente la rapidez con la que una aplicación de IA como ChatGPT puede entregar una respuesta a la consulta de un usuario.
Uno de los nuevos puntos de referencia agregó la capacidad de medir la velocidad de un escenario de preguntas y respuestas para modelos de lenguaje grandes. Llamado Llama 2incluye 70 mil millones de parámetros y fue desarrollado por Meta Platforms.
Los funcionarios de MLCommons también agregaron un segundo generador de texto a imagen al conjunto de herramientas de evaluación comparativa, llamado MLPerfResidencia en IA de estabilidad Modelo Difusión Estable XL.
Servidores alimentados por Nvidia H100 chips construidos por empresas como Alphabet GoogleSupermicro y NVIDIA ganó cómodamente ambos nuevos puntos de referencia en cuanto a rendimiento bruto. Varios fabricantes de servidores presentaron diseños basados en el chip L40S, menos potente de la empresa.
El fabricante de servidores Krai presentó un diseño para el punto de referencia de generación de imágenes con un chip Qualcomm AI que consume mucha menos energía que los procesadores de última generación de Nvidia.
Intel también presentó un diseño basado en sus chips aceleradores Gaudi2. La empresa calificó los resultados de «sólidos».
El rendimiento bruto no es la única medida crítica al implementar aplicaciones de IA. Los chips de IA avanzados consumen enormes cantidades de energía y uno de los desafíos más importantes para las empresas de IA es implementar chips que ofrezcan una cantidad óptima de rendimiento con una cantidad mínima de energía.
MLCommons tiene una categoría de referencia separada para medir el consumo de energía.
© Thomson Reuters 2024
(Esta historia no ha sido editada por el personal de NDTV y se genera automáticamente a partir de un feed sindicado).
Para lo último noticias tecnicas y opinionessigue Gadgets 360 en X, Facebook, WhatsApp, Hilos y noticias de Google. Para ver los últimos vídeos sobre gadgets y tecnología, suscríbete a nuestro Canal de Youtube. Si quieres saber todo sobre los principales influencers, sigue nuestro interno. ¿Quién es ese 360? en Instagram y YouTube.