Cuando la investigadora de IA Melanie Mitchell publicó Inteligencia artificial: una guía para pensar como humanos En 2019, se propuso aclarar el impacto de la IA. Unos años despues, ChatGPT Desencadenó un nuevo auge de la IA, con un efecto secundario que la tomó por sorpresa. Una imitación de su libro generada por IA apareció en Amazon, en un aparente plan para sacar provecho de su trabajo. Parece otro ejemplo del gigante del comercio electrónico. problema continuo con un exceso de libros electrónicos de baja calidad generados por IA.
Mitchell se enteró de que al buscar su libro en Amazon apareció no solo su propio tomo sino también otro libro electrónico con el mismo título, publicado en septiembre pasado. Tenía sólo 45 páginas y repetía como un loro las ideas de Mitchell en un lenguaje vacilante e incómodo. El autor incluido en la lista, «Shumaila Majid», no tenía biografía, foto de rostro ni presencia en Internet, pero al hacer clic en ese nombre aparecían docenas de libros similares que resumían títulos publicados recientemente.
Mitchell supuso que el libro de imitación fue generado por IA y su corazonada parece ser correcta. WIRED le pidió a la startup de detección de deepfake Reality Defender que analizara la versión sucedánea de Inteligencia artificial: una guía para pensar como humanos, y su software declaró que el libro era 99 por ciento probablemente generado por IA. «Me enojó», dice Mitchell, profesor del Instituto Santa Fe. «Es simplemente horrible cómo la gente se deja engañar para comprar estos libros».
Amazon eliminó la imitación del libro de Mitchell después de que WIRED se comunicara con la empresa. “Si bien permitimos contenido generado por IA, no permitimos contenido generado por IA que viole nuestro contenido de Kindle Direct Publishing. pautasincluido contenido que crea una experiencia decepcionante para el cliente”, dice la portavoz de Amazon Ashley Vanicek.
Pero Mitchell está lejos de ser el único investigador de IA aparentemente atacado utilizando la misma tecnología en la que trabajan. El informático pionero Fei-Fei LiLas nuevas memorias de Los mundos que veo: curiosidad, exploración y descubrimiento en la era de la IA Tiene más de una docena de resúmenes diferentes que aparecen cuando busca el libro en Amazon.
A diferencia del inicio del libro de Mitchell, los resúmenes del de Li se anuncian como tales. Uno, titulado francamente Resumen y análisis de Los mundos que veo, tiene una descripción del producto que comienza: “¡¡DESCARGO DE RESPONSABILIDAD!! ESTE NO ES UN LIBRO DE FEI-FEI LI, NI ESTÁ AFILIADO CON ELLOS. ES UNA PUBLICACIÓN INDEPENDIENTE QUE RESUME EL LIBRO DE FEI-FEI LI EN DETALLE. ES UN RESUMEN”. Sin embargo, estos libros también parecen haber sido generados por inteligencia artificial y agregar poco valor para los lectores. Reality Defender analizó una muestra de la Resumen y análisis libro y descubrió que probablemente también fue generado por IA. “Una reescritura completa y total del texto. Por ejemplo, alguien consultó a un LLM para reescribir el texto, no para resumirlo”, dice el jefe de marketing de Reality Defender, Scott Steinhardt. «Es como una versión KidzBop de lo real». Al ser contactada para comentar por correo electrónico, Li resumió su reacción en un solo emoji: 🤯.
Ejecución resumida
Los resúmenes de libros de mala calidad han sido un problema de larga data en Amazon. En 2019, El periodico de Wall Street descubrió que muchos utilizó deliberadamente una portada y un texto confusos, irritando a los escritores, incluido el empresario Tim Ferriss. «Nosotros, junto con algunos de los editores, hemos estado tratando de eliminarlos desde hace algún tiempo», dice Mary Rasenberger, directora ejecutiva del Authors Guild. El auge de la IA generativa ha potenciado la industria de los resúmenes spam. «Es el primer mercado que esperábamos ver inundado por la IA», afirma Rasenberger. Ella dice que estos esquemas se ajustan a las fortalezas de grandes modelos de lenguaje, que son pasables en la producción de resúmenes del trabajo que reciben y pueden hacerlo rápidamente. Los frutos de esta rápida generación ahora son comunes en las búsquedas de títulos populares de no ficción en Amazon.
Los resúmenes generados por IA vendidos como libros electrónicos han “aumentado dramáticamente en número”, dice la experta de la industria editorial Jane Friedman, quien fue el objetivo de un esquema de libro diferente generado por IA. Eso a pesar de Amazon en septiembre. Limitar a los autores a subir un máximo de tres libros. a su tienda todos los días. «Es común en este momento que un autor de no ficción celebre el lanzamiento de su libro y, al cabo de unos días, descubra uno de estos resúmenes a la venta».
