Qualcomm ha presentado su AI Hub, una biblioteca con todo incluido de modelos de IA preoptimizados listos para usar en dispositivos que se ejecutan en plataformas Snapdragon y Qualcomm.
Estos modelos admiten una amplia gama de aplicaciones, incluido el procesamiento del lenguaje natural, la visión por computadora y la detección de anomalías, y están diseñados para ofrecer un alto rendimiento con un consumo mínimo de energía, un factor crítico para los dispositivos móviles y de vanguardia.
La biblioteca AI Hub incluye actualmente más de 75 modelos populares de IA e IA generativa, incluidos Whisper, ControlNet, Stable Diffusion y Baichuan 7B. Todos los modelos se incluyen en varios tiempos de ejecución y están optimizados para aprovechar la aceleración de hardware de Qualcomm AI Engine en todos los núcleos (NPU, CPU y GPU). Según Qualcomm, ofrecerán tiempos de inferencia cuatro veces más rápidos.
Documentación y tutoriales proporcionados.
AI Hub también maneja automáticamente la traducción de modelos desde el marco de origen a tiempos de ejecución populares. Funciona directamente con el SDK directo de Qualcomm AI Engine y aplica optimizaciones basadas en hardware. Los desarrolladores pueden buscar modelos según sus necesidades, descargarlos e integrarlos en sus aplicaciones, ahorrando tiempo y recursos.
AI Hub también proporciona herramientas y recursos para que los desarrolladores personalicen estos modelos y puedan ajustarlos utilizando el SDK de procesamiento neuronal de Qualcomm y el kit de herramientas de eficiencia de modelos AI, ambos disponibles en la plataforma.
Para utilizar AI Hub, los desarrolladores necesitan un modelo capacitado en formato PyTorch, TorchScript, ONNX o TensorFlow Lite, y una buena comprensión del objetivo de implementación, que puede ser un dispositivo específico (como Samsung Galaxy S23 Ultra) o una variedad de dispositivos.
Sin embargo, AI Hub no es exclusivo para desarrolladores experimentados. También sirve como plataforma de aprendizaje, proporcionando documentación completa y tutoriales para quienes se aventuran en el mundo de la IA.
Qualcomm planea actualizar periódicamente AI Hub con nuevos modelos y soporte para plataformas adicionales y sistemas operativos. Los desarrolladores pueden registrarse para acceder a estos modelos en dispositivos alojados en la nube basados en plataformas Qualcomm y obtener acceso temprano a nuevas funciones y modelos de IA.
