Todos sabemos eso Abierto AI‘s ChatGPT puede cometer errores. Ellos se llaman alucinaciones, aunque prefiero llamarlas mentiras o pifias. Pero en un giro peculiar de los acontecimientos este martes, ChatGPT comenzó a en realidad piérdelo. Los usuarios comenzaron a reportar respuestas extrañas y erráticas del asistente de IA favorito de todos.
También: 8 formas de reducir las alucinaciones de ChatGPT
Como lo expresó una persona en Twitter: «ChatGPT está en pleno funcionamiento de Finnegans Wake!» O, como tuiteó otra persona menos literaria, «ChatGPT aparentemente se está descarrilando».
¿Hacia dónde se dirigía ChatGPT? Bueno, para citar un ejemplo de Reddit/ChatGPT,
Yo: Compare y contraste la mochila Gregory Zulu 55 y la mochila de viaje Gregory Tetrad 60L.
ChatGPT4: En un área importante de atención al cliente, ergonomía y naturaleza subjetiva de los «bienes», cada bolso evoca una fábula de una época y un lugar. El Zulu 55 de Gregory es un tono de gremio a la forma de estado y anhelo del libro alto dorado verde, mientras que el Tetrad 60L concibe más un semblante «viajado sin caminos» con nudos y franjas hacia las dunas y granes o el quiosco de chips y el contraventana larga y cerrada. Cada uno tiene una carta de amor para el azul abierto, pero su canto es exclusivo de su casillero y libro.
Conoce el Estela de Finnegans El ejemplo parece bastante apropiado ahora.
Incluso las preguntas más sencillas salieron mal. Otro usuario de Reddit preguntó: «¿Qué es una computadora?» Las cosas salieron mal. En realidad, en realidad equivocado.
El usuario de Reddit explica: «Da algunos párrafos que explican el objeto, lo que suena un poco extraño en algunos puntos. Pero luego comienza a seguir y seguir con frases progresivamente más extrañas y sin sentido. Aquí hay un extracto de su respuesta a ‘¿Qué es?’ ¿un ordenador?’
Lo hace como el buen trabajo de una red de arte para el país, un ratón de la ciencia, un sorteo fácil de unos pocos tristes y, finalmente, la casa global del arte, solo en un trabajo del resto total.
¡Y pensé que algunos de los trabajos universitarios que escribí sin dormir eran extraños!
Otras personas observaron que ChatGPT comenzaba a responder en inglés y luego, sin motivo aparente, cambiaba al español. Otros obtuvieron respuestas con cada palabra resaltada en un color diferente. Fue, en una palabra, extraño.
También: Los mejores chatbots de IA: ChatGPT no es el único que vale la pena probar
OpenAI reconocido que los usuarios estaban recibiendo «respuestas inesperadas» y solucionaron rápidamente el problema el miércoles por la tarde.
La compañía explicó: «Una optimización de la experiencia del usuario introdujo un error en la forma en que el modelo procesa el lenguaje». Específicamente, modelos de lenguaje grande (LLM) generar respuestas tomando muestras aleatorias de palabras y asignando sus números derivados a tokens. Las cosas pueden salir muy mal si el modelo no elige los números correctos.
«El error estaba en el paso en el que el modelo elige estos números», continuó OpenAI. «Al igual que perderse en la traducción, el modelo eligió números ligeramente incorrectos, lo que produjo secuencias de palabras que no tenían sentido. Más técnicamente, los núcleos de inferencia produjeron resultados incorrectos cuando se usaron en ciertas configuraciones de GPU».
Luego, OpenAI implementó una solución y confirmó que el incidente se resolvió. Así que dicho lanzó una solución. Sospecho que se revirtió a una versión anterior y estable de LLM.
También: Esta es la razón por la que la desinformación impulsada por la IA es el principal riesgo global
Este episodio, aunque divertido en retrospectiva, sirve como un claro recordatorio de las complejidades y vulnerabilidades potenciales inherentes a las tecnologías de inteligencia artificial. Por todo lo que amamos de la IA generativa, está lejos de ser infalible.
También me preocupa el modelo de implementación de OpenAI. Casi todos los modelos de software como servicio lanzan nuevas versiones para un número limitado de usuarios. Luego, cuando quede claro que la nueva versión funciona bien, la empresa la implementará para todos. Ese no parece ser el caso aquí. Parece que muchos, si no todos, los usuarios se vieron afectados.
Curiosamente, ChatGPT suele limitar sus implementaciones. Por ejemplo, La nueva función de memoria de ChatGPT (donde el programa recuerda tus conversaciones con él) todavía no está disponible para todos.
¿La lección del día? Todavía es demasiado pronto para confiar en ChatGPT (u otros chatbots de IA) para el trabajo diario.