Lea Feiger: A veces puede vincularlo a empresas específicas.
Vittoria Elliott: Sí.
Lea Feiger: Eso lo está haciendo la propia IA generativa.
Vittoria Elliott: Si … totalmente. Por ejemplo, se hizo una gran falsificación del ex primer ministro de Pakistán, Imran Khan, que estuvo en prisión por cargos de corrupción. Su partido fue descalificado para presentarse a las elecciones generales de principios de este año. Pudo pronunciar discursos de campaña utilizando IA generativa.
Lea Feiger: Salvaje.
Vittoria Elliott: Para ello, utilizaron ElevenLabs, que es la misma empresa que se utilizó para la llamada automática falsa de Joe Biden a principios de este año. A veces conocemos a las empresas involucradas, muchas veces no.
Lea Feiger: ¿Cómo han dicho estas empresas que van a abordar las elecciones de este año?
Vittoria Elliott: Bueno, empresas más legítimas como Midjourney y ChatGPT, OpenAI, Google, etc., han dicho: «Vamos a poner barreras. No vamos a permitir que se generen imágenes políticas». ChatGPT, que está basado en texto, dijeron: «No está bien usar nuestra herramienta para generar material político para campañas» o lo que sea, «No se puede ejecutar un chatbot encima de nuestra interfaz», básicamente. Pero no lo están haciendo muy bien para imponerlo. Hubo un informe del Centro para Contrarrestar el Odio Digital que cubrimos en marzo, donde entraron en todos estos generadores de imágenes y dijeron: «Danos una imagen de Trump haciendo esto, danos una imagen de Biden haciendo esto». » Y lo hizo muchas veces. Para ChatGPT, Dean Phillips, un congresista que se postuló brevemente para presidente.
Lea Feiger: Anteriormente candidato a presidente, el congresista Dean Phillips.
Vittoria Elliott: Creó un chatbot llamado Dean.bot sobre la interfaz ChatGPT de OpenAI y no fue eliminado hasta que la prensa dijo: «Oye, ¿no va esto en contra de tus políticas?»
Lea Feiger: Recuerdo eso muy bien. Algo que también recuerdo de ese momento es que Dean Phillips en realidad tenía muchos patrocinadores de Silicon Valley. Se siente un poco confuso. Es como, «Sí, no deberías usar Dean.bot, pero aún así te amamos y apoyamos». Hay un extraño ir y venir allí. Sam Altman estaba de acuerdo con lo que Dean, por ejemplo, decía sobre la IA generativa y la legislación contra ella.
Vittoria Elliott: Sí. Eso es sólo en los EE.UU. Por ejemplo, en Indonesia, había una empresa que creó una aplicación llamada Pemilu para las elecciones indonesias. El fundador de esa aplicación afirmó que habían creado algo sobre ChatGPT que les permitía escribir discursos de campaña en varios idiomas locales.
Lea Feiger: Guau.
Vittoria Elliott: Se trataba de obtener información que les permitiera adaptar los mensajes a grupos demográficos particulares, ya fueran jóvenes, mujeres, lo que fuera.
Lea Feiger: Bueno, hablamos de efectivo cuando tienes un país con tantos idiomas.
Vittoria Elliott: Sí. Está disperso en islas, con diferentes necesidades.