Palma de la cara: Otro día, otro ejemplo de la tecnología de inteligencia artificial generativa de Google haciendo algo que no debería. Esta vez, son los resultados de búsqueda impulsados por inteligencia artificial de la compañía los que se comportaron mal, recomendando sitios web maliciosos, incluidos aquellos que promocionan estafas, malware y obsequios falsos.
Google comenzó a implementar su experiencia generativa de búsqueda (SGE) a principios de este mes. La compañía se jacta de que la función permite a los usuarios hacer preguntas complejas y más descriptivas, y la IA generativa proporciona resúmenes de texto de sitios y recomendaciones relacionadas con la búsqueda de un usuario.
Puede parecer útil, pero la consultora de SEO Lily Ray notó que algo andaba mal con Google SGE. Según su publicación en X, SGE recomendaba sitios potencialmente maliciosos como parte de sus respuestas. La pregunta de Ray sobre los cachorros de Pitbull a la venta en Craigslist arrojó recomendaciones de varios sitios peligrosos y fraudulentos que podrían estar llenos de malware.
OH DIOS.
SGE INCLUSO RECOMENDARÁ LOS SITIOS DE SPAM COMO PARTE DE LA RESPUESTA. pic.twitter.com/wqgFFXqbMB
– Lily Ray ð (@lilyraynyc) 22 de marzo de 2024
pitidocomputadora señala que todos los resultados sospechosos enumerados por SGE tienden a utilizar el mismo dominio .online, plantillas HTML y sitios para realizar redireccionamientos, lo que indica que son parte de la misma campaña de envenenamiento de SEO que les permitió ser parte del índice de Google.
La publicación descubrió que hacer clic en estos enlaces conducía a los visitantes a través de una serie de redireccionamientos hasta llegar al sitio fraudulento. La mayoría de las veces, las personas son dirigidas a captchas falsos o sitios de YouTube que intentan que los visitantes se suscriban a las notificaciones del navegador, lo que enviará una gran cantidad de anuncios fraudulentos, como soporte técnico y obsequios falsos, al escritorio. También había un anuncio del antivirus McAfee que instaba a los usuarios a realizar un escaneo o renovar su licencia, ganando así una comisión de afiliado para el remitente.
Otro usuario de X intentó una búsqueda similar de cachorros en Craigslist a la venta. SGE descubrió un sitio con el dominio alemán .de. El primer clic lo llevó al spam de tarjetas de regalo de Amazon, mientras que el segundo lo llevó a la pornografía.
Tuve que verlo por mí mismo
Este sitio que está apareciendo es un dominio .de alemán. La primera vez que hice clic en él, recibí una tarjeta de regalo de Amazon como spam. La segunda vez que obtuve porno directo. Bonito ð¬ pic.twitter.com/c1QC4tDBHQ
– Simón Jadeo (@PantingYO) 22 de marzo de 2024
Google lo dice constantemente actualizaciones sus sistemas y algoritmos de clasificación para proteger contra el spam. Parece que la empresa ha eliminado estos resultados de SGE desde que fueron destacados.
El mes pasado, la función de generación de imágenes Gemini AI de Google se detuvo después de que la herramienta produjera imágenes que mostraban a personas de color y mujeres en contextos históricamente inexactoscomo los soldados alemanes de la era nazi y los Padres Fundadores.