Algo que espero con impaciencia: Ahora que estamos en el segundo año del fenómeno GenAI, es hora de comenzar a profundizar en las implicaciones de segundo y tercer orden de lo que esta revolución realmente puede traer. Una pregunta que ha seguido evolucionando durante el año pasado es el impacto potencial que la IA generativa tendrá en los dispositivos de hardware, como PC, teléfonos inteligentes, tabletas, dispositivos portátiles y otros dispositivos.
Inicialmente, parecía que estos dispositivos informáticos desempeñarían un papel menor, ya que las primeras aplicaciones y servicios de GenAI estaban basados en la nube y se accedía a ellos como cualquier sitio web o aplicación típico. Se suponía que los requisitos informáticos para este tipo de cargas de trabajo excedían con creces las capacidades incluso de los sistemas informáticos personales más avanzados, y sólo podían ser manejados por megacentros de datos basados en la nube.
Sin embargo, esta perspectiva comenzó a cambiar el año pasado debido a diversos desarrollos y al rápido ritmo de evolución y avance en el dominio GenAI. En particular, la introducción de varios modelos básicos con menos de 10 mil millones de parámetros, capaces de operar dentro de los límites de memoria y computación de los dispositivos personales, marcó un cambio significativo.
Versiones de Meta’s Llama2, Géminis de GoogleEstabilidad AI Difusión estable, y otros se han demostrado ejecutándose en PC o teléfonos. Esto generó especulaciones sobre los esfuerzos de empresas como Microsoft, Apple y otras para integrar esta tecnología en los dispositivos cotidianos para 2024.
Los avances tecnológicos como la cuantificación y poda de modelos, junto con conceptos como la generación aumentada de recuperación (RAG), han cambiado el enfoque hacia la ejecución de modelos básicos y aplicaciones GenAI en dispositivos. Este enfoque ahora ha sido ampliamente aceptado.
En Samsung Galaxia S24 En el evento de lanzamiento, observamos algunas de las primeras implementaciones en el mundo real de IA en el dispositivo, incluidas funciones de traducción en tiempo real. Es probable que este año y el próximo traigan muchos más ejemplos de productos que utilizan IA en el dispositivo.
Además, la introducción de capacidades de aceleración de hardware de IA en nuevos semiconductores ha sido un punto destacado. Qualcomm comenzó con demostraciones de modelos GenAI que se ejecutan en procesadores móviles Snapdragon 8 Gen 3. La compañía continuó ese tema con el anuncio de su Snapdragon X Elite Procesador de PC cuyo lanzamiento está previsto para mediados de 2024. AMD debutó el Ryzen 7040 PC SoC con su primera NPU Ryzen y lanzó el 8040 actualizado más recientemente. Finalmente, Intel cerró 2023 con el lanzamiento de su tan esperado SoC central Ultraque es el primero en incorporar un acelerador de IA dedicado.
Tan impresionante como esta oleada de actividad en el sector de los semiconductores es el ritmo acelerado al que se esperan nuevos lanzamientos en los próximos meses. Se espera que tanto AMD como Intel tengan chips de PC más potentes con mejores aceleradores de IA antes de fin de año. Por su parte, Microsoft también ha insinuado varias capacidades nuevas que llegarán a las PC con Windows que las aprovecharán. Y aunque hasta la fecha ha guardado mucho silencio sobre el tema, Manzana Se anticipa que tendrá noticias relacionadas con GenAI en los frentes de hardware y software en el momento de su WWDC evento que normalmente ocurre a principios de junio.
En conjunto, todos estos avances ya reflejan un profundo impacto en el mundo de los dispositivos. Y, sin embargo, yo diría que sólo representan la punta del iceberg. En primer lugar, en el mercado en general, hay algunas señales tempranas alentadoras de que las PC y los teléfonos con IA revitalizarán las ventas de estas categorías que recientemente han fracasado. El mayor impacto probablemente no se producirá hasta la segunda mitad de 2024 y quizás no hasta 2025, pero después de uno o dos años difíciles, es una gran noticia.
En todos los dispositivos, esto requerirá elementos como micrófonos de mayor calidad, más y mejores sensores y formas nuevas y más sencillas de conectarse con periféricos y otros dispositivos.
También deberíamos esperar algunas mejoras espectaculares en la usabilidad general y las capacidades de nuestros dispositivos gracias a GenAI. Agregar cosas como entradas de voz y gestos verdaderamente utilizables y confiables puede abrir una amplia gama de nuevas aplicaciones y reducir las frustraciones que muchas personas tienen con sus dispositivos actuales. También permitirá tipos de dispositivos completamente nuevos, particularmente en el mundo de los wearables, donde la dependencia de las pantallas para una interfaz de usuario comenzará a disminuir. En todos los dispositivos, esto requerirá elementos como micrófonos de mayor calidad, más y mejores sensores y formas nuevas y más sencillas de conectarse con periféricos y otros dispositivos.
También espero ver nuevos tipos de arquitecturas de software, como aplicaciones distribuidas que realizan parte de su trabajo en la nube y parte en el dispositivo. De hecho, creo que este concepto de IA híbrida demostrará ser uno de los medios principales para ejecutar aplicaciones GenAI en dispositivos durante los próximos años, particularmente hasta que haya una base instalada más grande de dispositivos con coprocesadores de IA dedicados y potentes.
Nos dirigimos hacia tiempos interesantes y emocionantes en el mundo de las PC, los teléfonos inteligentes, las tabletas y los dispositivos portátiles.
Al final, eso es justo lo que tendremos. Si bien inicialmente podemos llamar a estos nuevos dispositivos PC con IA o teléfonos inteligentes con IA, pronto volverán a ser simplemente PC y teléfonos inteligentes, y las capacidades de la IA serán inherentes y asumidas.
Es muy parecido a cómo surgieron los gráficos y las GPU. Inicialmente, ningún PC (o smartphone) tenía chips gráficos dedicados, y fue un gran problema cuando se empezaron a incorporar las primeras GPU. Ahora, todos los dispositivos tienen cierto nivel de aceleración de gráficos integrada y algunos, como las PC para juegos, todavía tienen GPU dedicadas e independientes para necesidades más exigentes.
Creo que sucederá casi exactamente lo mismo con las NPU y la aceleración de la IA. La mayoría de los dispositivos tendrán algún nivel de aceleración de IA dentro de dos o tres años, pero seguirá habiendo algunos que utilicen procesadores de IA dedicados para aplicaciones más avanzadas.
Mientras tanto, tendremos que descubrir cómo pensamos, hablamos y categorizamos estos nuevos tipos de dispositivos informáticos influenciados por GenAI. No hay duda de que las cosas pueden volverse confusas por un tiempo, pero también está claro que nos dirigimos hacia tiempos interesantes y emocionantes en el mundo de las PC, los teléfonos inteligentes, las tabletas y los dispositivos portátiles.
Bob O’Donnell es el fundador y analista jefe de Investigación tecnológica, LLC una firma de consultoría tecnológica que brinda servicios de consultoría estratégica e investigación de mercado a la industria tecnológica y la comunidad financiera profesional. Puedes seguirlo en X. @bobodtech