Benj Edwards/Getty Images
El martes, OpenAI Anunciado que está experimentando con agregar una forma de memoria a largo plazo a ChatGPT que le permitirá recordar detalles entre conversaciones. Puedes pedirle a ChatGPT que recuerde algo, ver qué recuerda y pedirle que lo olvide. Actualmente, solo está disponible para prueba para una pequeña cantidad de usuarios de ChatGPT.
Hasta ahora, los modelos de lenguaje grandes normalmente han utilizado dos tipos de memoria: una integrada en el modelo de IA durante el proceso de entrenamiento (antes de la implementación) y una memoria en contexto (el historial de conversaciones) que persiste durante la sesión. Por lo general, ChatGPT olvida lo que le has contado durante una conversación una vez que inicias una nueva sesión.
Varios proyectos han experimentado dando a los LLM una memoria que persiste más allá de una ventana de contexto. (La ventana de contexto es el límite estricto en la cantidad de tokens que el LLM puede procesar a la vez). Las técnicas incluyen gestionar dinámicamente el historial de contextocomprimir el historial anterior mediante resúmenes, enlaces a bases de datos vectoriales que almacenan información externamente o simplemente inyectar información periódicamente en un mensaje del sistema (las instrucciones que recibe ChatGPT al comienzo de cada chat).
AbiertoAI
OpenAI no ha explicado qué técnica utiliza aquí, pero la implementación nos recuerda Instrucciones personalizadasuna función que OpenAI introdujo en julio de 2023 que permite a los usuarios agregar adiciones personalizadas al mensaje del sistema ChatGPT para cambiar su comportamiento.
Las posibles aplicaciones para la función de memoria proporcionada por OpenAI incluyen explicar cómo prefiere que se formatee las notas de su reunión, decirle que dirige una cafetería y hacer que ChatGPT asuma que de eso está hablando, guardar información sobre su niño pequeño al que le encantan las medusas para que pueda Puede generar gráficos relevantes y recordar preferencias para los diseños de planes de lecciones de jardín de infantes.
Además, OpenAI dice que las memorias pueden ayudar a los suscriptores de ChatGPT Enterprise y Team a trabajar mejor juntos, ya que las memorias compartidas del equipo pueden recordar preferencias de formato de documentos específicos o qué marcos de programación utiliza su equipo. Y OpenAI planea traer recuerdos a GPT Pronto, cada GPT tendrá sus propias capacidades de memoria aisladas.
Control de memoria
Obviamente, cualquier tendencia a recordar información conlleva implicaciones para la privacidad. Ya debería saber que enviar información a OpenAI para su procesamiento en servidores remotos introduce la posibilidad de fugas de privacidad y que OpenAI entrena modelos de IA con información proporcionada por el usuario de forma predeterminada, a menos que el historial de conversaciones está deshabilitado o estás utilizando una cuenta Enterprise o Team.
En ese sentido, OpenAI dice que sus recuerdos guardados también están sujetos al uso de capacitación de OpenAI a menos que cumpla con los criterios enumerados anteriormente. Aún así, la función de memoria se puede desactivar por completo. Además, la compañía dice: «Estamos tomando medidas para evaluar y mitigar los sesgos y evitar que ChatGPT recuerde de manera proactiva información confidencial, como sus detalles de salud, a menos que usted lo solicite explícitamente».
Los usuarios también podrán controlar lo que ChatGPT recuerda mediante una interfaz «Administrar memoria» que enumera los elementos de la memoria. «Los recuerdos de ChatGPT evolucionan con tus interacciones y no están vinculados a conversaciones específicas», dice OpenAI. «Eliminar un chat no borra sus recuerdos; debes eliminar el recuerdo en sí».
Las funciones de memoria de ChatGPT no están disponibles actualmente para todas las cuentas de ChatGPT, por lo que aún no hemos experimentado con ellas. El acceso durante este período de prueba parece ser aleatorio entre las cuentas ChatGPT (gratuitas y de pago) por ahora. «Esta semana lo implementaremos para una pequeña parte de los usuarios de ChatGPT gratuito y Plus para aprender lo útil que es», escribe OpenAI. «Compartiremos planes para una implementación más amplia pronto».
