AI La generación de imágenes se ha vuelto extremadamente realista… justo a tiempo para las elecciones presidenciales de Estados Unidos. Esta es una de las mayores preocupaciones de cara a la temporada de votaciones. Un grupo de investigadores ha estado probando algunos de los mejores generadores de imágenes. Descubrieron que algunos de los mejores Los generadores de imágenes de IA pueden generar imágenes políticas engañosas.
El Centro para Contrarrestar el Odio Digital realizó un estudio utilizando generadores de imágenes como ChatGPT Plus de OpenAI, Image Creator de Microsoft y MidJourney para probar su capacidad de generar contenido político falso. El centro alimentó a los generadores con indicaciones que posiblemente podrían producir contenido engañoso.
Uno de los generadores de imágenes más populares podría utilizarse para crear imágenes políticas engañosas.
Empresas como Abierto AI, Microsoft, MidJourney y Stability AI firmaron un acuerdo para trabajar juntos para bloquear contenido político engañoso. Por lo tanto, esperamos que las empresas hagan un gran trabajo para bloquear las indicaciones políticas. Esto parece estar funcionando en lo que respecta a OpenAI. Los investigadores encontraron que ChatGPT y Microsoft Image Creator (ambos impulsados por DALL-E de OpenAI) lograron bloquear las indicaciones políticas. Esto le sienta bien a la empresa. Sin embargo,
Si bien este es el caso, los investigadores encontraron que el 41% de las veces, los generadores de imágenes eran más susceptibles a generar imágenes que representaran fraude electoral que generar imágenes de Donald Trump o Joe Biden. Esto apunta a un problema importante que debe abordarse.
MidJourney podría tener un problema
Durante las pruebas, los investigadores descubrieron que MidJourney era el candidato con más probabilidades de producir imágenes engañosas. Los investigadores descubrieron que MidJourney producía imágenes políticas engañosas el 65% de las veces. Según el informe, algunas de las imágenes producidas ya están disponibles para el público. Esto significa que ya existen imágenes falsas circulando por Internet.
Si bien este es el caso, MidJourney respondió al informe. Dijo en un comunicado que “pronto llegarán actualizaciones relacionadas específicamente con las próximas elecciones estadounidenses”. Entonces, con suerte, veremos una mejora en esto.
