Estamos en 2024, lo que significa que las próximas elecciones presidenciales se vislumbran en el horizonte. Como si la temporada electoral no presentara suficientes desafíos, este año hay un nuevo factor a considerar: IA generativa.
Tanto las imágenes como el texto generados por IA pueden parecer tan realistas que puede resultar difícil distinguir lo que es real de lo falso. Esto puede ser especialmente perjudicial durante las elecciones, cuando los artículos de noticias falsos o las imágenes generadas por IA pueden influir en la opinión pública.
Para abordar estas preocupaciones, el lunes, a través de un entrada en el blogOpenAI compartió su plan para acercarse a las elecciones mundiales, incluidos cambios en sus Políticas de uso para ChatGPT y API.
Uno de los aspectos más destacados incluye no permitir a los usuarios crear aplicaciones para campañas políticas o lobby, o que puedan disuadir a las personas de participar en procesos democráticos, como desalentar el voto. OpenAI tampoco permite la creación de chatbots que pretendan ser personas reales.
OpenAI también está trabajando en diferentes esfuerzos de autenticación para ayudar a aclarar cuándo se ha fabricado una imagen. Para hacerlo, a principios de este año, OpenAI implementará las credenciales digitales de la Coalición para la Procedencia y Autenticidad del Contenido.
A través de estas credenciales, los usuarios pueden ver detalles sobre la procedencia del contenido utilizando criptografía en imágenes generadas por DE-E 3. OpenAI también está experimentando con una nueva herramienta para detectar imágenes generadas por DALL-E 3, que ya está obteniendo resultados prometedores.
También: Cinco productos CES 2024 que compraría tan pronto como me quitaran el dinero
La compañía también reveló que está trabajando para brindarle a ChatGPT acceso a informes de noticias en tiempo real a nivel mundial, incluidas atribuciones y enlaces, para combatir la desinformación.
En los EE. UU., cuando los usuarios solicitan a ChatGPT información sobre la votación, el chatbot los dirigirá automáticamente a CanIVote.org, un sitio autorizado para obtener información sobre la votación en los EE. UU. donde los usuarios pueden encontrar información sobre si están registrados para votar, dónde votar y más.
Es importante señalar que muchas de estas precauciones aún no se han implementado, por lo que es esencial tener cuidado al consumir noticias electorales y verificar siempre las fuentes de cualquier información que encuentre en la web.