En su tiempo libre, a Tony Eastin le gusta incursionar en el mercado de valores. Un día del año pasado, buscó en Google una empresa farmacéutica que parecía una inversión prometedora. Uno de los primeros resultados de búsqueda que Google mostró en su pestaña de noticias figuraba como proveniente del Registro del condado de Clayton, un periódico del noreste de Iowa. Hizo clic y leyó. La historia era confusa y carecía de información útil, al igual que todas las demás publicaciones con temas financieros que llenaban el sitio, que no tenían absolutamente nada que ver con el noreste de Iowa. «Supe de inmediato que algo andaba mal», dice. Hay mucha basura en Internet, pero esto le pareció extraño a Eastin: ¿Por qué un pequeño periódico del medio oeste publicaría publicaciones de blog de mala calidad sobre inversiones minoristas?
Eastin estaba preparado para encontrar irresistibles los misterios en línea. Después de años en la Fuerza Aérea de los EE. UU. trabajando en campañas de guerra psicológica, se unió a Meta, donde investigó cosas desagradables que iban desde el abuso infantil hasta operaciones de influencia política. Ahora estaba entre trabajos y le daba la bienvenida a una nueva misión. Entonces Eastin se acercó a Sandeep Abraham, un amigo y ex colega de Meta que anteriormente trabajó en inteligencia del ejército y para la NSA, y le sugirió que comenzaran a investigar.
Lo que la pareja descubrió proporciona una instantánea de cómo la IA generativa está permitiendo nuevos modelos de negocios en línea engañosos. Redes de sitios web repletos de clickbait generados por IA están siendo construidas por Aprovecharse de la reputación de marcas y medios de comunicación establecidos.. Estos medios prosperan confundiendo y engañando tanto al público como a los anunciantes, “ocupando dominios” en URL que alguna vez pertenecieron a organizaciones de mayor reputación. El sitio de mala calidad al que se refería Eastin ya no pertenecía al periódico cuyo nombre todavía cotizaba.
Aunque Eastin y Abraham sospechan que la red RegistroEl antiguo sitio del que ahora forma parte fue creado con objetivos sencillos de ganar dinero, temen que más actores maliciosos puedan usar el mismo tipo de tácticas para introducir información errónea y propaganda en los resultados de búsqueda. «Esto es enormemente amenazador», dice Abraham. «Queremos hacer sonar algunas alarmas». Para ello, la pareja tiene publicó un informe sobre sus hallazgos y planean publicar más a medida que profundizan en el mundo del clickbait de IA, con la esperanza de que sus esfuerzos de tiempo libre puedan ayudar a generar conciencia sobre el tema entre el público y los legisladores.
Noticias falsas
El Registro del condado de Clayton fue fundada en 1926 y cubría la pequeña ciudad de Ekader, Iowa, y el condado de Clayton en general, que se encuentra junto al río Mississippi en la esquina noreste del estado. «Era un periódico popular», dice el ex coeditor Bryce Durbin, quien se describe a sí mismo como «disgustado» por lo que ahora se publica en su antigua dirección web, claytoncountyregister.com. (El Real Registro del condado de Clayton se fusionó en 2020 con El tiempo del norte de Iowa convertirse en el Registro de tiempos que publica en un sitio web diferente. No está claro cómo el periódico perdió el control de su dominio web; el Registro de tiempos no respondió solicitudes de comentarios.)
Como descubrió Eastin al intentar investigar sus acciones farmacéuticas, el sitio todavía se denomina Registro del Condado de Clayton, pero ya no ofrece noticias locales y, en cambio, es una fábrica de contenido de noticias financieras. Publica lo que parecen ser artículos generados por IA sobre los precios de las acciones de empresas de servicios públicos y nuevas empresas Web3, ilustrados con imágenes que aparentemente también son generadas por IA.
«No solo los artículos que analizamos son generados por IA, sino que las imágenes incluidas en cada artículo se crearon utilizando modelos de difusión», dice Ben Colman, director ejecutivo de la startup de detección de deepfake Reality Defender, que realizó un análisis de varios artículos a pedido de WIRED. . Además de esa confirmación, Abraham y Eastin notaron que algunos de los artículos incluían texto que admitía sus orígenes artificiales. «Es importante tener en cuenta que esta información fue generada automáticamente por Automated Insights», decían algunos de los artículos, mencionando a una empresa que ofrece tecnología de generación de lenguaje.