La nueva era oscura digital

Para los investigadores, las redes sociales siempre han representado un mayor acceso a los datos, una participación más democrática en la producción de conocimiento y una gran transparencia sobre el comportamiento social. Tener una idea de lo que estaba sucediendo (especialmente durante crisis políticas, eventos mediáticos importantes o desastres naturales) fue tan fácil como mirar una plataforma como Twitter o Facebook. Sin embargo, en 2024 eso ya no será posible.

En 2024, nos enfrentaremos a una sombría era digital, a medida que las plataformas de redes sociales se alejen de la lógica de la Web 2.0 y avancen hacia una dictada por el contenido generado por IA. Las empresas se han apresurado a incorporar grandes modelos lingüísticos (LLM) en los servicios en línea, con alucinaciones (respuestas inexactas e injustificadas) y errores, que han fracturado aún más nuestra confianza en la información en línea.

Otro aspecto de esta nueva era oscura digital proviene de no poder ver lo que hacen los demás. Twitter alguna vez latía con el sentimiento públicamente legible de sus usuarios. A los investigadores sociales les encantaban los datos de Twitter y confiaban en ellos porque proporcionaban una aproximación fácil y razonable de cómo se comportaba una parte importante de los usuarios de Internet. Sin embargo, Elon Musk ahora ha descontado a los investigadores los datos de Twitter después de anunciar recientemente que pondría fin al acceso gratuito a la API de la plataforma. Esto hizo difícil, si no imposible, obtener los datos necesarios para la investigación sobre temas como la salud pública, la respuesta a desastres naturales, las campañas políticas y la actividad económica. Fue un duro recordatorio de que la Internet moderna nunca ha sido libre ni democrática, sino amurallada y controlada.

Una cooperación más estrecha con las empresas de plataformas no es la respuesta. X, por ejemplo, ha presentado una demanda contra investigadores independientes que señalaron el aumento del discurso de odio en la plataforma. Recientemente, también se ha revelado que a los investigadores que utilizaron los datos de Facebook e Instagram para estudiar el papel de las plataformas en las elecciones estadounidenses de 2020 se les había concedido “independencia con permiso”por Meta. Esto significa que la empresa elige con qué proyectos compartir sus datos y, si bien la investigación puede ser independiente, Meta también controla qué tipo de preguntas se hacen y quién las hace.

Con las elecciones que se celebrarán en Estados Unidos, India, México, Indonesia, el Reino Unido y la UE en 2024, hay mucho en juego. Hasta ahora, online”observatorios» ha sido monitoreo independiente plataformas de redes sociales en busca de evidencia de manipulación, comportamiento no auténtico y contenido dañino. Sin embargo, los cambios en el acceso a los datos por parte de las plataformas de redes sociales, así como la explosión de información errónea generativa de IA, significan que las herramientas que investigadores y periodistas desarrollaron en elecciones nacionales anteriores para monitorear la actividad en línea no funcionarán. Una de mis colaboraciones, AI4TRUST, está desarrollando nuevas herramientas para combatir la desinformación, pero nuestro esfuerzo está estancado debido a estos cambios.

Necesitamos limpiar nuestras plataformas en línea. El Centro para Contrarrestar el Odio Digital, una organización de investigación, promoción y políticas que trabaja para detener la propagación del odio y la desinformación en línea, ha pedido la adopción de su Marco STAR (Seguridad por Diseño, Transparencia, Rendición de Cuentas y Responsabilidad). Esto garantizaría que los productos y servicios digitales sean seguros antes de su lanzamiento; aumentar la transparencia en torno a los algoritmos, la aplicación de normas y la publicidad; y trabajar para que las empresas rindan cuentas ante organismos democráticos e independientes y sean responsables de omisiones y acciones que provoquen daños. La Ley de Servicios Digitales de la UE es un paso en la dirección correcta de la regulación, incluidas disposiciones para garantizar que los investigadores independientes puedan monitorear las plataformas de redes sociales. Sin embargo, estas disposiciones tardarán años en ponerse en práctica. El proyecto de ley de seguridad en línea del Reino Unido, que avanza lentamente en el proceso político, también podría ayudar, pero, una vez más, tomará tiempo implementar estas disposiciones. Hasta entonces, la transición de las redes sociales a la información mediada por IA significa que, en 2024, probablemente comenzará una nueva era oscura digital.