Piense en lo rápido que Internet se convirtió en el canal clave para una gran cantidad de actividad humana, desde el comercio hasta la comunicación y la colaboración, y empezará a tener una idea del papel transformador. inteligencia artificial (IA) jugará un papel en nuestras vidas durante la próxima década.
Al igual que Internet, la IA y sus subproductos principalestipos (aprendizaje automático, procesamiento del lenguaje natural, reconocimiento facial y aprendizaje profundo) son Se predice que transformará la sociedad humana. incorporándose en prácticamente todas las facetas de la vida cotidiana.
También: Cinco formas de prepararse para el impacto de la IA generativa en la profesión de TI
Incluso hoy en día, muchos sistemas y servicios de TI ya ofrecen soluciones basadas en IA para problemas empresariales. Esta ubicuidad plantea entonces la pregunta lógica: ¿qué sucede si la IA falla?
Es preocupante que la IA ‘alucinaciones‘, donde la tecnología inventa respuestas a preguntas que no sabe, ya son algo común.
También hemos visto algoritmos exhibir y amplificar diferencias de género, raciales, étnicas y de clase. prejuicios que ya están integrados en la sociedad.
También: ¿Quieres trabajar en IA? Cómo dar un giro a tu carrera en 5 pasos
Este tipo de problemas surgen porque gran parte de los datos que impulsan los modelos de IA se extraen del contenido de Internet, la mayoría de los cuales han sido producidos por estructuras de poder dominantes.
Por lo tanto, para garantizar que un algoritmo de IA funcione de manera adecuada y no cometer errores vergonzososlos modelos que impulsan la tecnología emergente deben «entrenarse» con un conjunto de datos (y en el caso siguiente, imágenes) que actúen como puntos de referencia imparciales.
Criando la IA de la manera correcta
Por ejemplo, la alerta temprana de California sistema Tiene un algoritmo de reconocimiento de imágenes conectado a más de mil cámaras en todo el estado. El modelo está entrenado para identificar una nube de humo de una nube.
De tumores desde los pulmones hasta los autos que se desvían en la carretera, se está implementando software de reconocimiento de imágenes diseñado para encontrar indicadores clave a partir del ruido en escenarios de misión crítica que salvan vidas.
Si bien el impacto positivo potencial de este tipo de sistemas es significativo, también lo es el riesgo de IA errantes. Entonces, ¿cómo se puede garantizar que los sistemas de reconocimiento de imágenes de IA no ayuden a destruir la sociedad tal como la conocemos?
También: Seis habilidades que necesitas para convertirte en un ingeniero de inteligencia artificial
Tener un sonido’conjunto de entrenamiento‘ de imágenes que proporcione buenos puntos de referencia es importante. Esta capacitación implica garantizar que la información sobre cada píxel y cómo se etiqueta y clasifica en una categoría se realice con precisión impecable.
De esta manera, cuando el algoritmo se desplaza tratando de descubrir a qué categoría pertenece una imagen en particular, puede hacerlo consultando la información de las imágenes en el conjunto de entrenamiento.
Sin embargo, no importa qué tan bien diseñado esté el conjunto de entrenamiento, un algoritmo a veces se enfrentará a contenido desconocido y se detendrá bruscamente.
Es más, intentar descubrir dónde se ha producido el punto muerto en el conjunto de datos es como intentar localizar una aguja no sólo en un pajar, sino en todo un granero, dado el potencial de billones de unidades de información que constituyen los conjuntos de datos.
La buena noticia es que David Gleich, científico y profesor de informática en la Universidad Purdue, y sus colegas científicos Tamal Dey y Meng Liu, han ideado una solución novedosa a este problema intratable.
«La herramienta que hemos desarrollado le ayuda a encontrar lugares donde la red dice: ‘Oye, necesito más información para hacer lo que me has pedido'». dice Gleich. «Aconsejaría a las personas que utilicen esta herramienta en cualquier escenario de decisión de redes neuronales o tarea de predicción de imágenes de alto riesgo».
¿Qué hay debajo del capó?
Cuando Gleich realizó su investigación, encontró problemas con sus bases de datos. La base de datos confundió rayos X, secuencias genéticas y prendas de vestir con otras cosas.
Dice que una red neuronal tenía el hábito crónico de etiquetar un automóvil como un reproductor de casetes simplemente porque las fotografías fueron extraídas de listados de ventas en línea que contenían equipos estéreo para automóviles.
El problema surge de cómo el algoritmo ubica una imagen en la categoría correcta, lo que depende de generar un montón de números llamados «vectores incrustados‘ que se generan en base a la información de la imagen.
La IA compara los vectores incrustados en el ‘conjunto de entrenamiento’ con los de otras imágenes de conjuntos de datos. La imagen se ubica en una categoría con una alta probabilidad de coincidencia.
También: ¿Cómo lograr que los empleados adopten la IA? (Puede que esto le parezca astuto)
Desafortunadamente, los vectores incrustados a menudo no tienen sentido. Entonces, cuando hay una discrepancia o un error, no hay forma de sumergirse en las capas irreconocibles del algoritmo y detectar el error infractor.
Para superar este obstáculo, Gleich y su equipo emplearon un plan ingenioso. Se desviaron rápidamente hacia el campo de la topografía, que es esencialmente donde tecnologías como Google Maps encuentran su génesis.
Decidieron mapear la relación de los vectores en un gráfico de arrecifeun ‘descriptor de forma compacto’ y una solución que se ha utilizado en el análisis de forma durante 75 años.
Luego, el conjunto de datos se transformó en puntos codificados por colores que representan vectores pertenecientes a una categoría u otra. Los puntos muy agrupados del mismo color denotaban la misma categoría.
Puntos de diferentes colores que se superponían indicaban instantáneamente que algo andaba mal y, lo más importante, dónde se podían encontrar los problemas.
También: Cómo los tecnólogos del renacimiento están conectando los puntos entre la IA y los negocios
Y así, las entrañas normalmente incomprensibles de un algoritmo junto con sus puntos problemáticos quedaron de repente tan claros como el día.
«Lo que estamos haciendo es tomar estos complicados conjuntos de información que salen de la red y darle a la gente una idea de cómo la red ve los datos a nivel macroscópico», dijo Gleich.
«El mapa de Reeb representa las cosas importantes (los grandes grupos y cómo se relacionan entre sí) y eso hace posible ver los errores».
Gleich y sus colegas han ido un paso más allá y han puesto a disposición del público su herramienta de clasificación de imágenes mediante IA. Código para la herramienta está disponible en GitHub, al igual que el caso de uso demostraciones.
Ahora, cualquiera tiene la oportunidad de poder ver las relaciones entre imágenes en un conjunto de datos de IA, lo que los investigadores llaman «vista de pájaro».
Las personas pueden usar la herramienta para profundizar y localizar la fuente del problema, que es algo que las redes neuronales necesitan desesperadamente para funcionar correctamente, evitar sesgos y mantenernos a salvo.