Algunas de las respuestas más desconcertantes que recibí de Gemini ocurrieron cuando intenté utilizar los servicios de Google con los que se integra. Con todas las extensiones activadas en la configuración, le pregunté a qué productos y servicios de Google tiene acceso. Su respuesta fue una mentira descarada, como me dijo con confianza el chatbot: «No tengo acceso a ningún dato privado de usuario ni a productos de Google que requieran inicios de sesión personales». Esto fue momentos después de que revisó con éxito mis correos electrónicos para resumir mi bandeja de entrada.
Géminis, como cualquier otra IA de la generación actual, en realidad no sabe lo que sabe. Puede hablar en primera persona o mostrar otras características de conocimiento, pero simplemente escupe palabras una tras otra basándose en la probabilidad estadística de que esas palabras tengan sentido juntas. Como físico y experto en IA Daniel McQuillan escribió en una publicación de blog: «A pesar del impresionante ju-jitsu técnico de los modelos de transformadores y los miles de millones de parámetros que aprenden, sigue siendo un juego de adivinanzas computacional… Si una oración generada tiene sentido para usted, el lector, significa la ecuación matemática». «El modelo ha hecho una conjetura lo suficientemente buena como para pasar el filtro de dar sentido. El modelo de lenguaje no tiene idea de lo que está hablando porque no tiene idea de nada en absoluto».
Google está mostrando sus ambiciones con Gemini, pero cuando esas ambiciones chocan contra las rocas de la realidad, el juego se da por vencido. Gemini, al ser el modelo de IA de consumo más capaz, demuestra que la IA de consumo sigue siendo un producto alfa poco elaborado. A menos que te gusten las pruebas beta, debes evitar usar Gemini, o cualquier otra IA de la generación actual, como asistente inteligente de tu teléfono.