Hola, niño prodigio del cyberpunk, listo para cambiar todos los paradigmas y salir de cada caja que puedas encontrar. ¿Quieres ejecutar una inteligencia artificial superpoderosa y alucinante? directamente en tu propia computadora? Bien tu puedesy has podido por un momento. Pero ahora Nvidia lo está haciendo muy fácil, sin apenas un inconveniente, con una IA de texto generativo preconfigurada que se ejecuta en sus tarjetas gráficas de consumo. Se llama «Chatear con RTX» y está disponible como versión beta en este momento.
El chat con RTX se basa completamente en texto y viene «entrenado» en una gran base de datos de documentos de texto públicos propiedad de la propia Nvidia. En su forma original, el modelo puede “escribir” bastante bien, pero su conocimiento real parece ser extremadamente limitado. Por ejemplo, puede brindarle un desglose detallado de qué es un núcleo CUDA, pero cuando pregunté: «¿Qué es una baraccuda?» respondió: «Parece ser un tipo de pez» y citó un Ciberpunk 2077 actualización del controlador como referencia. Fácilmente podría darme una quintilla de siete versos sobre una hermosa placa de circuito impreso (no una especialmente buena, claro está, pero sí que cumplía con el mensaje), pero ni siquiera podía intentar decirme quién ganó la Guerra de 1812. Al menos, es un ejemplo de cuán profundamente dependen los grandes modelos lingüísticos de una gran variedad de entrada de datos para que sea útil.
Michael Crider/Fundición
Con ese fin, puede ampliar manualmente las capacidades de Chat with RTX apuntándolo a una carpeta llena de archivos .txt, .pdf y .doc para “aprender”. Esto podría ser un poco más útil si necesita buscar en gigabytes de texto y necesita contexto al mismo tiempo. Sorprendentemente, como alguien cuyo trabajo completo está en línea, no tengo muchos archivos de texto locales para rastrear.
Michael Crider/Fundición
Para probar esta capacidad potencialmente más útil, descargué archivos de texto disponibles públicamente de varias traducciones de la Biblia, con la esperanza de darle a Chat with RTX algunas pruebas que mis antiguos maestros de la Escuela Dominical probablemente podrían resolver. Pero después de una hora, la herramienta todavía procesaba menos de 300 MB de archivos de texto y ejecutaba mi RTX 3070 casi al 100 por ciento, sin un final a la vista, por lo que una evaluación más cualitativa tendrá que esperar para otro día.
Para ejecutar la versión beta, necesitará Windows 10 u 11 y una GPU RTX serie 30 o 40 con al menos 8 GB de VRAM. Es también una descarga bastante masiva de 35 GB para el programa de inteligencia artificial y su base de datos de materiales de capacitación predeterminados, y el servidor de archivos de Nvidia parece estar sufriendo un duro golpe en este momento, por lo que instalar esto en su PC podría ser un ejercicio de paciencia.