Sin una forma eficiente de extraer potencia informática adicional de la infraestructura existente, las organizaciones a menudo se ven obligadas a comprar hardware adicional o retrasar proyectos. Esto puede provocar tiempos de espera más prolongados para obtener resultados y, potencialmente, perder frente a los competidores. Este problema se ve agravado por el aumento de las cargas de trabajo de IA que requieren una alta carga informática de GPU.
ClearML ha encontrado lo que cree que es la solución perfecta para este problema: capacidad de GPU fraccionada para usuarios de código abierto, lo que permite «dividir» una sola GPU para que pueda ejecutar múltiples tareas de IA simultáneamente.
Esta medida recuerda los primeros días de la informática, cuando los mainframes podían compartirse entre individuos y organizaciones, dándoles la posibilidad de utilizar la potencia informática sin necesidad de comprar hardware adicional.
Capacidades fraccionarias para GPU Nvidia
ClearML dice que la nueva característica permite a los profesionales de DevOps y líderes de infraestructura de IA dividir sus NVIDIA GPU habilitadas para MIG, GTX, RTX y de nivel de centro de datos en unidades más pequeñas para admitir múltiples cargas de trabajo de IA y HPC, lo que permite a los usuarios alternar entre pequeños trabajos de I+D y trabajos de capacitación más grandes y exigentes.
El enfoque admite multiinquilino, ofreciendo informática segura y confidencial con limitación de memoria. ClearML dice que las partes interesadas pueden ejecutar cargas de trabajo paralelas aisladas en un único recurso informático compartido, lo que aumenta la eficiencia y reduce los costos.
«Con nuestra nueva oferta gratuita que ahora admite capacidades fraccionarias para la gama más amplia de GPU de Nvidia que cualquier otra empresa, ClearML está democratizando el acceso a la computación como parte de nuestro compromiso de ayudar a nuestra comunidad a construir una mejor IA a cualquier escala, más rápido», dice Moses Guttmann. , director ejecutivo y cofundador de ClearML. «Esperamos que las organizaciones que puedan tener una combinación de infraestructura puedan utilizar ClearML y sacar más provecho de la computación y los recursos que ya tienen».
La nueva funcionalidad de GPU fraccionaria de código abierto está disponible de forma gratuita en Página de GitHub de ClearML.
