Las “PC con IA” estuvieron por todas partes en CES 2024 la semana pasada, y empresas como Intel, AMD, NVIDIA y Qualcomm están promocionando lo excelente que es su hardware para ejecutar tareas de IA. Como microsoft lo pusoeste es «el año de las PC con Windows impulsadas por IA».
Pero dado que estas “PC con IA” ya están en los estantes y usted puede comprarlas ahora mismo, debemos dejar de lado el revuelo y centrarnos en lo que obtiene por su dinero.
Alerta de spoiler: estas PC no son tan buenas como parecen, y si esperas algo transformador cuando compres una a principios de 2024, te decepcionarás. Es posible que algún día ofrezcan muchas funciones interesantes, pero todavía no.
Hablemos de lo que realmente está sucediendo y de por qué, incluso si te apasiona la IA generativa (genAI), deberías saltarte esta ola de chips aceleradores de IA y recurrir a un hardware completamente diferente: ¡hardware que quizás ya tengas!
¿Quiere mantenerse actualizado sobre Windows y el futuro de su PC? Mi gratis Boletín de inteligencia de Windows ofrece los mejores consejos y trucos de Windows directamente en su bandeja de entrada, junto con las noticias que realmente importan. Además, obtendrá copias gratuitas de las guías de campo de Windows 11 y Windows 10 de Paul Thurrott (con un valor de $10) ¡solo por suscribirse!
La IA actual no «está sucediendo en tu computadora»
Antes de comprender los detalles aquí, es importante darse cuenta de lo que está sucediendo con la mayoría de las herramientas genAI actuales. cuando usas Copiloto en Windows 11levantar ChatGPTrecurre a Adobe Firefly para generar imágeneso interactuar con herramientas genAI populares similares, el trabajo en realidad no se realiza en su computadora.
En cambio, todo ese procesamiento ocurre en algún centro de datos: computadoras increíblemente poderosas utilizan una gran cantidad de recursos y electricidad para ejecutar el modelo de inteligencia artificial y generar una imagen de un perro celebrando una fiesta de cumpleaños o una respuesta a su pregunta.
Puedes hacer mucho de esto localmente en tu computadora; observa herramientas de código abierto como Modelo de texto a imagen de difusión estable o el LLAMA modelo de lenguaje grande. Pero, para obtener buenos resultados, generalmente necesitará una PC con una potencia de procesamiento sólida. En particular, necesitará una GPU muy rápida, el mismo tipo de hardware que la gente usaba recientemente para extraer criptomonedas.
El sueño es una PC convencional que pueda ejecutar estos modelos genAI localmente, en su propio hardware, sin enviar datos a un centro de procesamiento central. Pero no todo va a empezar a suceder en tu PC de la noche a la mañana. Nos estamos moviendo hacia un futuro más “híbrido”, donde las tareas más exigentes se envían a centros de datos y las tareas más simples que brindan sugerencias contextuales y lo ayudan a reescribir ese correo electrónico se llevan a cabo en su computadora.
La promesa de las unidades de procesamiento neuronal (NPU)
Todos estamos hablando de PC con IA gracias a los recientes avances en hardware, específicamente, la adición de una «unidad de procesamiento neuronal» (NPU) en la última versión de Intel. Chip del lago Meteors y chips AMD recientes.
La promesa es que estas NPU sean hardware dedicado y de bajo consumo que pueda ejecutar localmente modelos genAI y acelerar el procesamiento de IA. La idea es que pronto cada La PC que compre tendrá una NPU. No consumirán mucha energía, por lo que las tareas genAI pueden ejecutarse en segundo plano incluso con batería.
Los fabricantes de PC no están solos en esto. Tienes un Teléfono Google Pixel 8 o Pixel 8 Pro? de google Tensores G3 El chip hace algo similar; de hecho, Google lo dice «[paves] el camino para la IA generativa en el dispositivo”. En el mundo real, habilita funciones de IA como resumir audio en la aplicación Grabadora y generar respuestas inteligentes en el teclado Gboard.
En un teléfono Pixel, ese hardware sí no Proporcionar una manera de ejecutar el poderoso Google. Experiencia de IA de bardo en la zona. Corre un modelo más pequeño llamado Gemini Nano. De la misma manera, las NPU de bajo consumo en una PC ofrecerán más experiencias de IA en su PC, pero lo harán no le permitirá ejecutar Copilot o ChatGPT localmente en el corto plazo.
Sí, como vimos en CES 2024, el hardware está aquí: usted poder ¡Compre “PC con IA” con NPU! Pero el hecho de que el hardware esté aquí no significa que todavía haya ocurrido algo transformador.
Windows aún no está listo para las ‘PC con IA’
Dada la charla de Microsoft sobre cómo este es el año de las PC con IA con Windows gracias a las NPU, se podría asumir que hay mucho que puedes hacer ahora. Si es así, te decepcionarás.
De hecho, la estrategia de marketing de PC con IA de Microsoft es el ejemplo perfecto de lo que está pasando. Microsoft está impulsando una nueva llave copiloto como parte del impulso de AI PC. Esa clave iniciará la misma barra lateral antigua de Copilot a la que puede acceder en otras PC con Windows, sin funciones adicionales de “PC AI” que utilicen ese elegante hardware. (Quizás eso cambie en el futuro).
Windows 11 apenas puede hacer nada con una NPU en este momento. De fábrica, todo lo que obtienes son “Efectos de Windows Studio” para reuniones de video y voz, cosas como desenfocar el fondo y hacer que parezca que tus ojos miran directamente a la cámara cuando no es así.
Paul Thurrott, que ha estado cubriendo Windows durante décadas, acaba de revisó una versión 2024 del HP Spectre x360, una computadora portátil que viene con una NPU. Después de probar Studio Effects, dijo que “[assumes] «Que sacar este trabajo de la CPU y la GPU mejora el rendimiento general del sistema y la duración de la batería». Sin embargo, dice que «este software no es superior, en términos de calidad, a las mejoras de la cámara web de terceros que he usado en las PC de revisión durante el año pasado, ninguna de las cuales requiere una NPU».
En otras palabras, Windows Studio Effects, que es la única característica integrada en Windows 11 que usa una NPUno ofrece nada que no pueda hacer con el software tradicional de ajuste de cámaras web.
En lo que respecta a Windows, todos estamos esperando con gran expectación la prometida “versión AI” de Windows que debería lanzarse a finales de este año, según fugas reportadas por Windows Central. Se supone que esa versión ofrecerá muchas características impulsadas por NPU que mejorarán la forma en que trabajamos con nuestras computadoras, aunque Microsoft aún no ha hecho comentarios.
Aún así, falta casi un año para que el propio Windows utilice esa NPU. No compre una PC con IA y espere hoy la prometida transformación de IA de su sistema operativo.
No puedes hacer mucho con una NPU
Dado que Windows no puede hacer mucho con una NPU, tendrás que recurrir a software de terceros. Cuando Intel muestra una NPU que acelera las cargas de trabajo genAI, muestra complementos para aplicaciones de código abierto como Difusión estable en el lamentablemente llamado editor de imágenes GIMP y Herramientas de IA en el programa de audio Audacity. Puede buscar y configurar estos complementos usted mismo para aprovechar una NPU en su PC.
Pero no hay mucho más. Mundo PC’Brad Chacos estuvo presente en el CES y señala que “La IA que impulsa la NPU aún no es convincente.” Los fabricantes están mostrando pequeñas herramientas integradas que utilizan la NPU, como una reducción mejorada del ruido del micrófono y un «motor inteligente de IA» que detecta si se activan (o disminuyen) los ventiladores de su PC.
Como se puede imaginar, estas son sólo ligeras variaciones de lo que ya hacen las computadoras, con o sin NPU. (De hecho, recuerdo haber visto una empresa anunciando una “computadora portátil con IA” que usaba un software inusual para controlar la velocidad de giro de los ventiladores en el CES hace más de cinco años).
Las GPU aún superan a las NPU en IA
Por lo tanto, las NPU todavía no pueden hacer mucho por la persona promedio: son una forma de habilitar software futuro potente. De todos modos, esa es la promesa de las NPU en este momento.
Pero las cosas se vuelven un poco más confusas cuando empiezas a mirar los puntos de referencia. Mundo PCMark Hachman fue directo: «Probablemente ya tengas una PC con IA».
¿Qué diablos significa eso? En resumen, estas NPU no son tan buenas como parecen. Las cargas de trabajo actuales de genAI, como generar imágenes con Stable Diffusion y ejecutar LLM de código abierto directamente en su PC, funcionan mucho mejor usando una GPU tradicional que una de estas nuevas NPU.
Esto se debe a que las NPU realmente tienen que ver con la eficiencia y el bajo uso de energía: puede imaginar una versión futura de Windows que siempre esté realizando algún tipo de tarea de IA en segundo plano con esa NPU, y su computadora portátil aún tenga una buena duración de la batería. Pero si desea ejecutar cargas de trabajo de IA actuales, los puntos de referencia muestran que debe optar por una GPU potente. Eso significa adquirir una computadora de escritorio o portátil que consuma mucha energía y que tenga una potente GPU dedicada.
Consejos de compra de ‘PC AI’ para 2024
¡Ahora hablemos de lo que realmente deberías comprar!
Si está esperando funciones útiles de IA integradas en Windows, debe esperar. Esas funciones no llegarán hasta finales de 2024. Es posible que para entonces haya computadoras portátiles con IA completamente nuevas y mejores, ¡o tal vez puedas obtener una gran oferta en una el próximo Black Friday!
Si realmente desea ejecutar cargas de trabajo de IA actuales en su PC, debe evitar el revuelo de NPU y adquirir una computadora con una potente GPU de NVIDIA o quizás AMD. (Me gusta el hardware AMD, pero estos modelos tienden a estar más optimizados para el hardware NVIDIA por lo que he visto). El mejor rendimiento provendrá de una PC de escritorio con una GPU de alta gama. También puedes optar por una computadora portátil con una GPU de alta gama; solo prepárate para enchufarla, ya que no tendrás una batería de larga duración mientras procesas estas cosas.
Si solo necesita una computadora portátil nueva, le recomiendo que compre una de esas «computadoras portátiles con IA». Es probable que muchas funciones futuras de Windows requieran una NPU de alguna manera, o tal vez también puedan usar una GPU potente. Cuando recomiendo una computadora portátil con IA, en realidad solo recomiendo comprar hardware actual: una PC con una CPU Intel Meteor Lake moderna o un chip AMD moderno equivalente, por ejemplo.
Elijas lo que elijas, seguirás teniendo casi todas las funciones actuales de IA en Windows y otras aplicaciones. Esto se debe a que cosas como Copilot y ChatGPT hacen el trabajo en centros de datos lejanos, no en su PC. Esto es cierto tanto si tienes una “PC con IA” como si no.
Dicho todo esto, las piezas parecen estar encajando. En el futuro, esa NPU debería ser útil para Windows y las aplicaciones que utiliza. Pero por ahora, no me apresuraría a comprar hardware que no comenzará a cumplir sus promesas hasta dentro de casi un año.
Ese consejo va más allá de las PC: no compre hardware basándose en lo que podría hacer en el futuro; compre hardware por lo que puede hacer hoy.
¡Mantengámonos en contacto! Obtenga los mejores consejos para PC con Windows con mi Boletín de inteligencia de Windows – tres cosas para probar todos los viernes. Además, obtenga copias gratuitas de las guías de campo de Windows 11 y Windows 10 de Paul Thurrott (con un valor de $10) por registrarse.
Copyright © 2024 IDG Communications, Inc.