Lima, Perú
+5113014109

Facebook pide disculpas después de que su IA etiquetara a hombres negros como «primates»

Facebook pide disculpas después de que su IA etiquetara a hombres negros como «primates»


Imagen para el artículo titulado Facebook pide disculpas después de que su IA etiquetara a hombres negros como "primates"

Captura de pantalla: Mail Online / Facebook

Facebook ha desactivado una herramienta que reproduce vídeos automáticamente después de que sus usuarios vieran el mensaje “¿Seguir viendo vídeos sobre primates?” en un clip en el que salían hombres negros.

La compañía ha descrito el incidente como un inaceptable “error algorítmico” que no refleja el contenido real del vídeo, y ha pedido disculpas a cualquiera que haya visto “estas recomendaciones ofensivas”.

Según un comunicado enviado a BBC News, Facebook deshabilitó la función de recomendación de temas “tan pronto como nos dimos cuenta de que esto estaba sucediendo”, y abrió una investigación para evitar que volviera a ocurrir.

“Aunque hemos realizado mejoras en nuestra IA, sabemos que no es perfecta y tenemos más progresos que hacer”, dijo un portavoz de la compañía.

Google Fotos, el servicio de almacenamiento de fotos en la nube de Google, tuvo un fallo similar en 2015. Aparecían imágenes de personas negras al buscar la palabra “gorila” en el buscador inteligente. Dos años después, un reportaje de Wired reveló que la compañía lo había solucionado eliminando por completo la opción de encontrar gorilas entre tus fotos.

Los algoritmos no tienen la culpa, pero aprenden de nuestros propios sesgos y prejuicios raciales cuando los entrenamos para tareas como esta.



Enlace fuente

Post Relacionados
× ¿Cómo puedo ayudarte? Available from 09:00 to 18:00