Lo usas libros de Google ¿Buscar libros sobre determinados temas? O Google Académico sumergirse en la investigación académica? Aquí hay algo que debe saber: estos sitios, que permiten a los usuarios «buscar en el índice de libros de texto completo más completo del mundo» (y buscar literatura académica en cualquier disciplina), han comenzado a indexar libros de baja calidad generados por IA que aparecen ser escrito por autores humanos reales.
Esta preocupante tendencia fue detectada por primera vez por 404 medios de comunicación, que utilizó un truco simple para rastrear libros generados por IA. Si consultas ChatGPT para eventos actuales, a menudo será recibido con la frase «A partir de mi última actualización de conocimientos». Esa es solo la forma que tiene OpenAI de informarle que el chatbot tiene limitaciones de tiempo sobre la información a la que puede acceder.
Si busca en Google Libros «A partir de mi última actualización de conocimientos», encontrará libros que aparentemente incluyen contenido generado por ChatGPT palabra por palabra. Una búsqueda rápida de esa frase muestra una página tras otra de títulos. Algunos de los libros tratan sobre ChatGPT e incluyen la frase para discutir los límites del chatbot, pero docenas de otros están tratando de hacer pasar los escritos generados por IA como escritos por un autor humano.
Por ejemplo, un libro sobre el atentado del maratón de Boston utilizó la frase «Hasta mi última actualización de conocimientos en septiembre de 2021, el caso seguía siendo objeto de procedimientos legales y el resultado final aún era incierto» al dirigirse a los autores del ataque. El «autor» de ese libro tiene otras 50 obras, incluidos títulos sobre la Guerra Fría, el 11 de septiembre, los padres fundadores de Estados Unidos, la antigua Roma, boxeadores famosos y nativos americanos famosos.
Cada uno de esos títulos se publicó en 2023 (el propio Jack Wallen de ZDNET tomó 30 años para publicar tantos libros) y tenía entre 50 y 100 páginas. Al examinarlos, descubrí que todos ofrecían narrativas superficiales que, en el mejor de los casos, se parecían a una entrada de Wikipedia y, en el peor, parecían ChatGPT escupiendo hechos. Una búsqueda rápida en línea también reveló que estos libros están a la venta en Amazon y otros minoristas.
Cuando introduje la misma frase en Google Scholar, que se supone es un depósito de investigaciones en humanos, obtuve 19 páginas de resultados, incluidos artículos sobre jóvenes en riesgo, diabetes, autismo, COVID-19 y fatiga de los pilotos de aerolíneas.
También: Esta es la razón por la que la desinformación impulsada por la IA es el principal riesgo global
El contenido generado por IA que se difunde en la web no es nada nuevo. Sin embargo, es un poco preocupante ver contenido generado por IA aparecer junto con trabajos escritos por humanos dentro de recursos confiables como Google Books y Google Scholar.
En declaraciones a 404 Media, Google dijo que «continuaría evaluando nuestro enfoque a medida que evoluciona el mundo de la publicación de libros», pero no mencionó la eliminación de estos resultados de ninguno de los servicios.