Google decidió implementar ampliamente su función AI Overviews en los EE. UU. a principios de este mes, ofreciendo resúmenes generados por AI para diversas consultas. Desafortunadamente, muchas respuestas fueron inexacto, extraño o completamente peligroso.
Ahora, Google ha confirmado en respuesta a Autoridad de Android que está tomando «medidas rápidas» ante consultas ofensivas:
La gran mayoría de las descripciones generales de IA proporcionan información de alta calidad, con enlaces para profundizar en la web. Muchos de los ejemplos que hemos visto han sido consultas poco comunes y también hemos visto ejemplos que fueron manipulados o que no pudimos reproducir. Realizamos pruebas exhaustivas antes de lanzar esta nueva experiencia y, al igual que con otras funciones que lanzamos en la Búsqueda, agradecemos los comentarios. Estamos tomando medidas rápidas cuando corresponde según nuestras políticas de contenido y utilizando estos ejemplos para desarrollar mejoras más amplias en nuestros sistemas, algunas de las cuales ya han comenzado a implementarse.
Algunas de las descripciones generales de IA más notables que se volvieron virales incluyen una recomendación de comer una piedra pequeña cada día, decirle a la gente que use pegamento no tóxico para asegurarse de que el queso se pegue a la pizza y una sugerencia de beber al menos dos litros de orina cada día para pasar un cálculo renal. Uno de los errores aparentes más profundamente preocupantes fue la recomendación de saltar de un puente si los usuarios notaban que estaban deprimidos. Parece que al menos algunas de estas respuestas provienen de estas descripciones generales de IA que hacen referencia a artículos satíricos o trolls en foros (por ejemplo, Reddit).
Este es sólo el último de una serie de Errores de IA Hemos visto a Google aparentemente apresurarse a llevar la IA a todo. Más recientemente, la función de generación de imágenes de Gemini fue criticada por crear imágenes de nazis racialmente diversos de la Segunda Guerra Mundial en lugar de imágenes históricamente precisas. Las versiones anteriores de Bard (ahora Géminis) también aparecieron en los titulares por alucinaciones y respuestas incorrectas.