TL;DR
- NVIDIA ha lanzado una nueva herramienta gratuita llamada «Chat with RTX» que permite a los propietarios de GeForce RTX serie 30 y superiores ejecutar un chatbot en su propio contenido desde su propia PC.
- Los usuarios pueden alimentar sus propios archivos o dirigirlos a videos y listas de reproducción de YouTube. Luego pueden realizar consultas para obtener respuestas de estas fuentes.
- El chat con RTX se ejecuta sin conexión, por lo que es inherentemente más privado que los chatbots de IA en línea como ChatGPT y Gemini.
La IA ha permeado todos los aspectos de nuestra vida. Entre ChatGPT y Géminis, prácticamente todos tenemos acceso a un asistente virtual inteligente de IA que puede buscarnos en Internet y brindarnos información relevante en segundos. Pero donde estos asistentes gratuitos de IA fallan es cuando necesitas acciones en tu propio conjunto de datos. Ejecutar su propio chatbot de IA localmente no es del agrado de todos, y suscribirse a niveles más altos puede que tampoco sea una opción para algunos. NVIDIA está haciendo que sea mucho más fácil para los propietarios de GPU GeForce ejecutar su propio chatbot de IA con la nueva herramienta Chat with RTX.
Chatea con RTX es una herramienta gratuita ofrecida por NVIDIA que permite a los usuarios personalizar un chatbot con su propio contenido. Las consultas son aceleradas por la GPU NVIDIA en su PC con Windows, con soporte restringido a GeForce RTX serie 30 y superiores con al menos 8 GB de VRAM. También necesita Windows 10 o superior y los controladores de GPU NVIDIA más recientes. NVIDIA también aclara que la herramienta es una demostración técnica, así que no esperes un nivel de pulido de ChatGPT desde el principio.
Chat con RTX esencialmente brinda capacidades de IA generativa a su propia PC. Puede introducir sus propios archivos como conjunto de datos y utilizar grandes modelos de lenguaje de código abierto como Mistral o Meta’s Llama 2 para permitir consultas y obtener respuestas rápidas y contextualmente relevantes.
Puede alimentar Chat con RTX en varios formatos de archivo, incluidos .txt, .pdf, .doc/.docx y .xml. También puedes alimentarlo con información de vídeos y listas de reproducción de YouTube. Dado que Chat with RTX se ejecuta localmente, sus datos permanecen en su dispositivo, lo cual es perfecto si desea procesar datos confidenciales sin conexión.
NVIDIA observa algunas limitaciones para Chat con RTX. El chat con RTX no puede recordar el contexto, por lo que no puede hacer preguntas de seguimiento. La herramienta también funciona mejor si busca datos distribuidos en unos pocos documentos en lugar de solicitar un resumen de unos pocos documentos. NVIDIA se contenta con llamar a esto una demostración técnica, pero sigue siendo una gran herramienta para empezar.
