El año pasado vimos un aumento del interés y de los avances en IA generativa aplicaciones. Ahora estamos en la próxima era de la tecnología: la IA en los dispositivos se está volviendo más frecuente en nuestros dispositivos personales. En Congreso Mundial de Telefonía MóvilQualcomm presentó una herramienta que simplifica la forma en que los desarrolladores pueden acceder y descargar modelos de IA directamente en sus dispositivos de prueba.
El nuevo Qualcomm AI Hub contiene una biblioteca de más de 75 modelos de IA generativa que los desarrolladores pueden descargar fácilmente en dispositivos con tecnología Qualcomm, y continuamente se agregan nuevos modelos con el tiempo.
La biblioteca contiene algunos de los modelos más populares de la industria, como Whisper, el sistema de reconocimiento automático de voz (ASR) de OpenAI y Difusión estable, Modelo de texto a imagen de Stability AI. Qualcomm AI Hub aplica automáticamente optimizaciones basadas en hardware a los modelos para lograr un rendimiento superior de IA en el dispositivo.
Además, los modelos se perfeccionan para aprovechar al máximo todos los núcleos que se encuentran dentro del Qualcomm AI Engine, incluidos NPU, CPU y GPU, lo que da como resultado una mejor eficiencia energética, una menor utilización de la memoria y velocidades de inferencia hasta cuatro veces mayores, según al lanzamiento del lunes de la compañía.
La ventaja de la IA en el dispositivo, además del mayor rendimiento general de las aplicaciones, es que al renunciar a cualquier fricción con la nube, se aumenta la privacidad, lo cual es especialmente importante cuando se crean modelos que utilizan bases de datos con datos confidenciales o propietarios.
También: Evolución instantánea: si la IA puede diseñar un robot en 26 segundos, ¿qué más puede hacer?
«Qualcomm AI Hub proporciona a los desarrolladores una biblioteca integral de modelos de IA para integrar rápida y fácilmente modelos de IA preoptimizados en sus aplicaciones, lo que genera experiencias de usuario más rápidas, confiables y privadas», dijo Durga Malladi, vicepresidente senior de planificación tecnológica y borde de Qualcomm. soluciones.
Qualcomm comparte que los modelos optimizados están disponibles hoy tanto en el Centro de IA de Qualcomm, GitHuby abrazando la cara. Los desarrolladores pueden registrarse para obtener acceso a partir de hoy.