En una palabra: Varias de las mayores empresas tecnológicas firmaron un acuerdo para luchar contra la interferencia de la IA en las elecciones. El compromiso tiene como objetivo erradicar el contenido de IA generativa y deepfake diseñado para influir o interferir con el derecho democrático de los ciudadanos al voto.
Este año será un gran año para las elecciones en todo el mundo. Se estima que 40 países y 4 mil millones de personas acudirán a las urnas para votar por sus líderes y representantes en 2024. Sin embargo, este es también el año en que la IA ha madurado a un nivel peligroso en lo que respecta a la interferencia electoral. La tecnología ahora puede crear o manipular imágenes, audio o contenido de video de manera lo suficientemente realista como para convencer a la persona promedio de que lo que está viendo o audiencia es real.
Para abordar el problema, 20 grandes empresas, entre ellas Amazon, Google, Meta y X, se tomaron un tiempo en la Conferencia de Seguridad de Munich el viernes para firmar el «Acuerdo tecnológico para combatir el uso engañoso de la IA en las elecciones de 2024». El acuerdo es un compromiso voluntario que establece las «acciones para promover siete objetivos principales» que los firmantes buscarán defender, incluida la prevención, la detección y la sensibilización pública.
«La generación y distribución intencional y no divulgada de contenido electoral engañoso de IA puede engañar al público de maneras que pongan en peligro la integridad de los procesos electorales», se lee en el convenio colectivo. «A los efectos de este acuerdo, el contenido electoral engañoso de IA consiste en audio, vídeo e imágenes convincentes generados por IA que falsifican o alteran engañosamente la apariencia, la voz o las acciones de candidatos políticos, funcionarios electorales y otras partes interesadas clave en un sistema democrático. elección, o que proporcionen información falsa a los votantes sobre cuándo, dónde y cómo pueden votar legalmente».
El tratado también busca mitigar los temores de censura o restricción de la libertad de expresión. Los operadores en línea y los titulares de plataformas prometen tener en cuenta el contexto en el que se presenta la información antes de eliminarla. Su intención es salvaguardar la expresión artística, la sátira y la expresión política, no suprimirlas.
El acuerdo no está exento de limitaciones. Es un acuerdo voluntario más que un marco regulatorio adecuado. Por lo tanto, no hay repercusiones por no tomar medidas contra el contenido dañino y engañoso. Las empresas no han dejado claro cómo se les responsabilizaría en caso de que sus plataformas se utilizaran para difundir información errónea. En cambio, el acuerdo ofrece «objetivos» algo amplios y confusos sobre lo que las empresas buscan lograr.
Quizás la mayor ironía de esta noticia es que aproximadamente la mitad de los firmantes están desarrollando o ayudando a crear herramientas de inteligencia artificial generativa que los malos actores sin duda utilizarán para crear precisamente los tipos de contenido engañoso que se proponen combatir. Es análogo a prender fuego a un edificio sólo para apagar las llamas y ser el héroe.
Dicho esto, una cosa a la que el Acuerdo compromete a las empresas es a «brindar transparencia al público», por lo que existe una vía, al menos en principio, para cierto nivel de escrutinio público de los esfuerzos de los firmantes. Queda por ver si esto tendrá alguna forma significativa.
Crédito de la imagen: MSC/Michael Kuhlmann