de google Resúmenes de IA La función estaba destinada a brindar resúmenes ordenados de los resultados de búsqueda, investigados y escritos en cuestión de segundos mediante IA generativa. El problema es que tengo cosas mal.
¿Con qué frecuencia? Es difícil decirlo, aunque los ejemplos se acumularon rápidamente este mes, poco después de que Google comenzara a implementar AI Overviews a gran escala. Considere estos errores bien publicitados:
![Etiqueta de insignia de arte AI Atlas](https://www.cnet.com/a/img/resize/6bd4587def86e9b1261141196ef1cac4f6209007/hub/2024/04/16/660f9254-c869-4a08-9ba6-93c16106b001/ai-atlas-tag.png?auto=webp&width=768)
Cuando se le preguntó cómo conservar el queso en la pizza, sugirió agregando un octavo de taza de pegamento no tóxico. Ese es un consejo que originado desde un comentario de hace 11 años en Reddit.
Y en respuesta a una pregunta sobre la ingesta diaria de rocas por parte de una persona, recomendado que comamos «al menos una piedra pequeña por día». Ese consejo provino de una historia de 2021 en The Onion.
El jueves por la noche, Google dijo que ahora es reducir el servicio sobre consultas relacionadas con la salud, así como cuando considere que los usuarios realizan búsquedas sin sentido o satíricas. Tampoco deberías ver los resultados de AI Overviews «para temas de noticias difíciles, donde la frescura y la factualidad son importantes».
En una publicación de blogLiz Reid, vicepresidenta y directora de Búsqueda de Google, reconoció que «ciertamente aparecieron algunas descripciones generales de IA extrañas, inexactas o inútiles» y dijo que Google ha «realizado más de una docena de mejoras técnicas en nuestros sistemas» en la última semana y «seguirá mejorando».
Si bien todavía estamos aprendiendo sobre el futuro de las descripciones generales de IA y de la IA generativa en la búsqueda en general, sabemos más sobre algunos de estos problemas iniciales.
¿Por qué sucede esto ahora?
Esencialmente, los errores de AI Overview fueron una variación de Alucinaciones de IA, que ocurren cuando un modelo de IA generativa ofrece información falsa o engañosa y la presenta como un hecho. Las alucinaciones son el resultado de datos de entrenamiento defectuosos, errores algorítmicos o malas interpretaciones del contexto.
El modelo de lenguaje grande detrás de los motores de IA como los de Google, Microsoft y OpenAI está «predecir estadísticamente los datos que puede ver en el futuro basándose en lo que ha visto en el pasado», dijo Mike Grehan, director ejecutivo de la agencia de marketing digital Chelsea Digital. «Así que hay un elemento de ‘entrar y salir’ que todavía existe».
De ahí los tan ridiculizados resultados de AI Overviews y más mala prensa para Google mientras intenta afianzarse en las arenas movedizas de la era de la IA generativa.
El motor de búsqueda que debutó en 1998 controla alrededor del 86% del mercado. Los competidores de Google no se acercan: Bing controla el 8,2%, Yahoo tiene el 2,6%, DuckDuckGo el 2,1%, Yandex el 0,2% y AOL el 0,1%.
Pero el advenimiento de la IA generativa y su crecimiento entre los consumidores: la adopción es proyectado para alcanzar casi 78 millones de usuarios, o alrededor de una cuarta parte de la población estadounidense, para 2025, podría decirse que amenaza el dominio absoluto de Google en el mercado, lo que se traduce en aproximadamente 8.5 mil millones de búsquedas por día y 240 mil millones de dólares en ingresos publicitarios anuales.
Google tiene su propia generación de chatbot con inteligencia artificial. Geminisque está compitiendo con el abuelo de todos ellos, ChatGPTy muchos otros de Perplejidad, antrópico, microsoft y más. Todos luchan por la relevancia a medida que nuestro acceso a la información vuelve a cambiar, como ocurrió con la introducción de Google hace 26 años.
Lo último que necesita Google es perder la confianza de los millones de personas que realizamos búsquedas en Google.
En una declaración la semana pasada, cuando los problemas surgieron por primera vez, un portavoz de Google dijo que la mayoría de las descripciones generales de IA proporcionan información precisa con enlaces para verificación. Muchos de los ejemplos que aparecen en las redes sociales son lo que ella llamó «consultas poco comunes», así como «ejemplos que fueron manipulados o que no pudimos reproducir».
«Realizamos pruebas exhaustivas antes de lanzar esta nueva experiencia y, al igual que con otras funciones que lanzamos en la Búsqueda, apreciamos los comentarios», dijo el portavoz.
¿Qué son las descripciones generales de IA?
Resúmenes de IA es un nuevo giro en la búsqueda de Google y recién estaba comenzando a implementarse en los EE. UU.
Google lleva mucho tiempo modificando la página de resultados de su motor de búsqueda para mejorar la experiencia del usuario e impulsar los ingresos. Después de su inicio con 10 enlaces azules en 1998, Google introdujo enlaces patrocinados y anuncios unos años más tarde y realmente revolucionó las cosas con la incorporación del Gráfico de conocimiento en 2012. Ese es el cuadro que indica una respuesta sobre una persona, lugar o cosa. para responder más rápidamente a su consulta (y evitar que haga clic fuera de lugar).
AI Overviews fue la última actualización en este sentido.
En lugar de tener que dividir una consulta en varias preguntas, puedes hacer algo más complejo desde el principio. Google utiliza el ejemplo de la búsqueda de un estudio de yoga popular entre los locales, conveniente para viajar y con un descuento para nuevos miembros. En teoría, lo que antes eran tres búsquedas ahora son una.
El objetivo general de la generación de IA aquí es hacer que la búsqueda sea más visual, interactiva y social.
«A medida que las herramientas de generación de imágenes y vídeos basadas en IA se vuelvan populares y los consumidores prueben funciones de búsqueda múltiple, los medios enriquecidos de las SERP captarán eficazmente la atención de los consumidores», dijo Nikhil Lai, analista senior de la firma de investigación Forrester. «Después de todo, el 90% de la información que se transmite a nuestro cerebro es visual».
Reid de Google dijo en su blog el jueves que AI Overviews funciona de manera diferente a los chatbots de IA, que obtienen sus respuestas de grandes modelos de lenguaje construidos sobre vastas extensiones de lo que se conoce como datos de entrenamiento y que a menudo no están conectados a la Internet abierta. AI Overviews utiliza un modelo de lenguaje «personalizado» que se integra con los sistemas tradicionales de clasificación web de búsqueda de Google.
«Las descripciones generales de IA están diseñadas para mostrar únicamente información respaldada por los mejores resultados web», escribió Reid.
«Esto significa que AI Overviews generalmente no ‘alucina’ ni inventa cosas de la misma manera que lo harían otros productos LLM», escribió. «Cuando AI Overviews se equivoca, generalmente es por otras razones: malinterpretar consultas, malinterpretar un matiz del idioma en la web, o no tener mucha información disponible».
AJ Kohn, propietario de la empresa de marketing digital Blind Five Year Old, comparó AI Overviews con un resumen de resultados de búsqueda tradicionales. (Google proporciona enlaces a los sitios que ayudan a informar la descripción general). Los resultados regulares a los que estamos acostumbrados aparecen debajo de cada descripción general de IA.
«Si bien el resumen generativo es algo complejo, el usuario final realmente obtiene una especie de TL;DR para esa búsqueda, lo que puede hacer que a algunos les resulte más fácil encontrar una respuesta satisfactoria», dijo Kohn.
Esos errores que estaba cometiendo AI Overviews
Para ser claros, AI Overviews hace muchas cosas bien. Cuando le pregunté cómo deshacerse del dolor de garganta, con qué frecuencia teñir una valla de madera e incluso por qué la IA alucina, todas las respuestas fueron acertadas.
Pero también según se informa enumeró, erróneamente, los beneficios para la salud de correr con tijeras y bañarse con una tostadora, así como el número de presidentes musulmanes y si un perro alguna vez jugó en la NHL. (La respuesta de AI Overviews aparentemente nos haría creer que la respuesta es sí, su nombre era Pospisil y fue una selección de cuarta ronda en 2018). Una cuenta X relativamente nueva, @Goog_Enoughtiene un recuento acumulado.
![Una captura de pantalla de un tweet con una respuesta incorrecta de las descripciones generales de IA de Google.](https://www.cnet.com/a/img/resize/1c4c190402ec1604638f57799ef77ab140d43888/hub/2024/05/24/b4e0da01-011e-4903-8659-db4d16c675dd/screenshot-2024-05-24-at-4-15-37pm.png?auto=webp&width=1200)
![Otra captura de pantalla de una respuesta incorrecta de las descripciones generales de IA de Google.](https://www.cnet.com/a/img/resize/9dc075c8fddac2ef394433c77195f79478a5c1c0/hub/2024/05/24/73027f7c-0357-49bc-bedd-2e6532f0b87c/screenshot-2024-05-24-at-4-17-04pm.png?auto=webp&width=1200)
Algunas de estas malas respuestas son respuestas a lo que Kohn llamó «preguntas muy improbables».
Parece claro que al menos en algunos de los casos, AI Overview está recogiendo material de publicaciones de parodias, chistes malos y sitios satíricos como The Onion.
«Pero lo que esto subraya», dijo Kohn, «es lo fácil que es incluir contenido engañoso en AI Overview».
En última instancia, revela un problema con el contenido de base y verificación de datos en las descripciones generales de IA.
En su revisión de Géminis de Google chatbot, que está impulsando la nueva experiencia de búsqueda, Imad Khan de CNET dijo que la propensión del modelo a alucinar debería venir con un descargo de responsabilidad: «Honestamente, para estar seguro, simplemente busque en Google».
Supongo que deberíamos agregar Google a la antigua usanza y luego profundizar en los enlaces. Peter Butler de CNET ha consejos sobre cómo para obtener esos resultados de búsqueda de Google de la vieja escuela.
Puntos de dolor
Incluso antes de que comenzaran a aparecer errores en las descripciones generales de IA, no todos estaban contentos con el cambio. («Para mí tiene más sentido buscar en TikTok«, escribe mi colega Katelyn Chedraoui.)
Mientras tanto, los editores y otros sitios web están preocuparse por perder tráfico.
Según Grehan, es posible que los sitios experimenten una disminución en las visitas orgánicas si las personas dejan de desplazarse debajo de los resúmenes. «Lo dudo porque, como todo comportamiento humano en general, incluso si el resumen proporciona muchos detalles desde el principio, probablemente también querrás una segunda opinión», dijo.
Los errores de AI Overview constituyen un argumento sólido para obtener esa segunda opinión.
Por su parte, en una publicación de blog del 14 de mayo que anuncia lo que puede hacer AI Overviews, Reid escribió que uso temprano en sus experimentos de Search Labs durante el último año mostraron que los usuarios visitaban una «mayor diversidad de sitios web» con descripciones generales de IA y los enlaces incluidos «obtenían más clics que si la página hubiera aparecido como una lista web tradicional para esa consulta».
Pero apenas tres meses después de otra vergüenza pública: la función de generación de imágenes de Gemini. fue puesto en espera porque mostraba imprecisiones históricas como personas de color con uniformes nazis, la pregunta sigue siendo si estamos empezando a ver grietas en los cimientos de la otrora omnipotente potencia de búsqueda.
En esa publicación del 14 de mayo, Reid también escribió: «Hemos perfeccionado meticulosamente nuestros sistemas centrales de calidad de la información para ayudarlo a encontrar lo mejor que hay en la web».
Aparentemente eso sigue abierto al debate.
Nota del editor: CNET utilizó un motor de inteligencia artificial para ayudar a crear varias docenas de historias, que están etiquetadas en consecuencia. La nota que está leyendo se adjunta a artículos que tratan de manera sustancial el tema de la IA, pero que fueron creados en su totalidad por nuestros editores y escritores expertos. Para obtener más información, consulte nuestro Política de IA.