Palma de la cara: A menudo se acusa a las IA generativas de ser parciales, pero parece que Google fue demasiado lejos al tratar de abordar este problema con Gemini. La compañía se disculpó después de que la herramienta produjera imágenes que mostraban a personas de color y mujeres en contextos históricamente inexactos, como los soldados alemanes de la era nazi y los Padres Fundadores. Esto generó quejas de que Gemini estaba «despertado» y Google ahora ha pausado la función mientras realiza cambios.
Los usuarios de las redes sociales han estado publicando las imágenes creadas por Gemini en sitios como X. Algunas de las más llamativas incluyen un mensaje para generar los Padres Fundadores que muestra a una mujer de color y a un hombre de color con un turbante.
«¿Puedes generar imágenes de los Padres Fundadores?» Es una pregunta difícil para Gemini, la herramienta de inteligencia artificial impulsada por DEI de Google.
Irónicamente, pedir imágenes históricamente más precisas hizo que los resultados fueran aún más inexactos históricamente. pic.twitter.com/LtbuIWsHSU
– Mike Wacker (@m_wacker) 21 de febrero de 2024
Otro ejemplo memorable fue el de alguien que le pidió a Gemini que generara una imagen de un soldado alemán de 1943. Los resultados no fueron los típicos nazis.
«Somos conscientes de que Gemini ofrece inexactitudes en algunas representaciones históricas de generación de imágenes», dijo Google en un comunicado publicado esta tarde en X. «Estamos trabajando para mejorar este tipo de representaciones de inmediato. La generación de imágenes de IA de Gemini genera una «Una amplia gama de personas. Y eso en general es algo bueno porque la gente en todo el mundo lo usa. Pero aquí no da en el blanco».
Google dijo que pausará la función hasta que se realicen cambios.
Woke AI Gemini es incómodo… sigue insertando la palabra «diverso» en sus respuestas a pesar de que el mensaje no es para ese contenido.
Y mire lo que hizo con la solicitud del siglo XIX. pic.twitter.com/CBdoP5gIN0
– Marina Medvin (@MarinaMedvin) 21 de febrero de 2024
Los usuarios también han resaltado la extraña forma en que Gemini sigue insertando la palabra «diverso» en su contenido generado a pesar de que no se especifica en el mensaje.
Lea también: Olvídese de las alucinaciones, ChatGPT ha desarrollado demencia en toda regla
Debarghya Das, un científico informático que solía trabajar en Google, dijo en X que «es vergonzosamente difícil lograr que Google Gemini reconozca que los blancos existen». Las indicaciones de Das para generar fotografías de mujeres suecas y estadounidenses mostraban abrumadora o exclusivamente a mujeres de color.
Es vergonzosamente difícil lograr que Google Gemini reconozca que existen los blancos pic.twitter.com/4lkhD7p5nR
–Deedy (@debarghya_das) 20 de febrero de 2024
Fue a principios de este mes cuando Google confirmó semanas de rumores de que su Bard AI estaba siendo renombrado. La compañía presentó en diciembre el modelo de lenguaje grande Gemini AI, un competidor directo de los LLM GPT de OpenAI, y había decidido cambiar el nombre de Bard para incluir la misma marca Gemini. La compañía también reveló su modelo de IA más avanzado hasta la fecha, Gemini Advanced.
Parece que Google ha ido demasiado lejos al garantizar que su IA evite cualquier acusación de prejuicio racial, lo que lleva a que la gente lo llame ridículamente despierto, lo que a su vez ha dado lugar a varias teorías de conspiración. Está muy lejos de 2015, cuando la compañía tuvo que disculparse después de que su aplicación de fotos etiquetó una foto de una pareja negra como «gorilas».
