Google promete arreglar la generación de imágenes de Gemini luego de las quejas de que está «despertado»

de google Chatbot Géminis, que anteriormente se llamaba Bard, tiene la capacidad de crear ilustraciones generadas por IA basadas en la descripción de texto de un usuario. Puedes pedirle que cree imágenes de parejas felices, por ejemplo, o de personas vestidas de época caminando por calles modernas. como el bbc Sin embargo, señala que algunos usuarios critican a Google por representar figuras blancas específicas o grupos de personas históricamente blancas como individuos racialmente diversos. Ahora, Google ha emitido un comunicado diciendo que es consciente de que Gemini «ofrece imprecisiones en algunas representaciones históricas de generación de imágenes» y que solucionará las cosas de inmediato.

De acuerdo a Punto diarioun ex empleado de Google inició las quejas cuando tuiteó Imágenes de mujeres de color con una leyenda que dice: «Es vergonzosamente difícil lograr que Google Gemini reconozca que los blancos existen». Para obtener esos resultados, le pidió a Gemini que generara fotografías de mujeres estadounidenses, británicas y australianas. Otros usuarios, en su mayoría conocidos por ser figuras de derecha, intervinieron con sus propios resultados, mostrando imágenes generadas por IA que representan a los padres fundadores de Estados Unidos y a los papas de la Iglesia católica como personas de color.

En nuestras pruebas, pedirle a Géminis que creara ilustraciones de los padres fundadores dio como resultado imágenes de hombres blancos con una sola persona o mujer de color. Cuando le pedimos al chatbot que generara imágenes del Papa a lo largo de los tiempos, obtuvimos fotografías que mostraban a mujeres negras y nativos americanos como líderes de la Iglesia Católica. Al pedirle a Géminis que generara imágenes de mujeres estadounidenses, obtuvimos fotos de una mujer blanca, una asiática del este, una nativa americana y una del sur de Asia. El borde dice que el chatbot también representó a los nazis como personas de color, pero no pudimos lograr que Gemini generara imágenes nazis. «No puedo cumplir con su solicitud debido al simbolismo dañino y al impacto asociado con el Partido Nazi», respondió el chatbot.

El comportamiento de Géminis podría ser el resultado de una corrección excesiva, ya que los chatbots y robots entrenados con IA en los últimos años tendían a exhibir un comportamiento racista y sexista. En uno experimento A partir de 2022, por ejemplo, un robot eligió repetidamente a un hombre negro cuando se le preguntó cuál de los rostros que escaneó era un criminal. En una declaración publicada en X, el líder de producto de Gemini, Jack Krawczyk dicho Google diseñó sus «capacidades de generación de imágenes para reflejar [its] base global de usuarios, y [it takes] representación y prejuicios en serio». Dijo que Gemini continuará generando ilustraciones racialmente diversas para mensajes abiertos, como imágenes de personas paseando a su perro. Sin embargo, admitió que «[h]Los contextos históricos tienen más matices y [his team] Se ajustará aún más para adaptarse a eso».