Un grupo de 20 empresas de tecnología anunció el viernes que acordaron trabajar juntas para evitar que contenido engañoso de inteligencia artificial interfiera con las elecciones en todo el mundo este año.
El rápido crecimiento de la inteligencia artificial generativa (IA), que puede crear texto, imágenes y videos en segundos en respuesta a indicaciones, ha aumentado los temores de que la nueva tecnología pueda usarse para influir en las elecciones más importantes de este año, ya que más de la mitad de los habitantes del mundo La población se dispone a acudir a las urnas.
Entre los firmantes del acuerdo tecnológico, que se anunció en la Conferencia de Seguridad de Munich, se encuentran empresas que están construyendo modelos de IA generativa utilizados para crear contenido, incluidas OpenAI, Microsoft y Adobe. Otros firmantes incluyen plataformas de redes sociales que enfrentarán el desafío de mantener el contenido dañino fuera de sus sitios, como Meta Platforms, TikTok y X, antes conocida como Twitter.
El acuerdo incluye compromisos para colaborar en el desarrollo de herramientas para detectar imágenes, videos y audio engañosos generados por IA, crear campañas de concientización pública para educar a los votantes sobre contenido engañoso y tomar medidas sobre dicho contenido en sus servicios.
La tecnología para identificar contenido generado por IA o certificar su origen podría incluir marcas de agua o incrustar metadatos, dijeron las empresas.
El acuerdo no especificaba un cronograma para cumplir los compromisos ni cómo los implementaría cada empresa.
«Creo que la utilidad de este (acuerdo) es la amplitud de las empresas que lo firman», dijo Nick Clegg, presidente de asuntos globales de Meta Platforms.
“Está muy bien si las plataformas individuales desarrollan nuevas políticas de detección, procedencia, etiquetado, marcas de agua, etc., pero a menos que exista un compromiso más amplio para hacerlo de una manera interoperable compartida, nos quedaremos atrapados en una mezcolanza de diferentes compromisos”, dijo Clegg.
La IA generativa ya se está utilizando para influir en la política e incluso convencer a la gente de que no vote.
En enero, una llamada automática con un audio falso del presidente estadounidense Joe Biden circuló entre los votantes de New Hampshire, instándolos a quedarse en casa durante las elecciones primarias presidenciales del estado.
A pesar de la popularidad de las herramientas de generación de texto como ChatGPT de OpenAI, las empresas tecnológicas se centrarán en prevenir los efectos nocivos de las fotos, vídeos y audio de la IA, en parte porque la gente tiende a tener más escepticismo con el texto, dijo Dana Rao, directora de confianza de Adobe, en una entrevista.
«Existe una conexión emocional entre el audio, el vídeo y las imágenes», dijo. «Tu cerebro está programado para creer ese tipo de medios».
© Thomson Reuters 2024
(Esta historia no ha sido editada por el personal de NDTV y se genera automáticamente a partir de un feed sindicado).