En toda Australia, gran parte de la atención se ha centrado hasta la fecha en comprender inteligencia artificial en cada sector y dar esos primeros pasos hacia la adopción. Fue un año de experimentación y exploración. Pero donde 2023 fue el año en el que La IA irrumpió en la conciencia generalizada2024 parece que será un año más reflexivo, ya que traerá regulaciones del gobierno australiano a medida que la presión de los consumidores obliga a las empresas y los equipos de TI a dar un paso atrás y analizar adecuadamente las implicaciones éticas detrás de la adopción de la IA.
Y para ello, habrá una mirada renovada a la forma en que los datos alimentan los modelos de IA y cómo los científicos que construyen los modelos recopilan y gestionan esos datos. Para que la IA continúe su trayectoria positiva, 2024 también debe ser el año en el que dato de governancia se pone al día con la velocidad de la innovación.
Cómo CSIRO, la agencia líder de Australia, ve la IA
Australia está decidida a ser líder en el desarrollo de la IA. La agencia científica nacional, CSIRO, ha establecido un Centro Nacional de IA, que organizó el primer Mes de la IA del país del 15 de noviembre al 15 de diciembre de 2023.
VER: El aumento continuo de la IA en 2024 requerirá que la TI australiana superar desafíos importantes.
Uno de los NAIC predicciones clave para la IA en 2024 es que “la IA responsable y la buena gobernanza ocuparán un lugar central”. Para lograrlo, NAIC recomienda que las organizaciones se centren en cuatro prioridades clave:
- Comprender mejor el papel que tienen los datos en la IA.
- Comprender las vulnerabilidades que la IA abre a los datos.
- Desarrollar mejores procesos sobre cómo se recopilan los datos.
- Desarrollar mejores formas de aprovechar los datos en los modelos.
Como señaló Jade Haar, jefa de privacidad y ética de datos del Banco Nacional de Australia, en las predicciones de NAIC, es necesario que haya un equilibrio entre el deseo de construir modelos a partir de grandes lagos de datos que simplemente estén llenos de la mayor cantidad de datos posible y la gobernanza. valor y obligaciones éticas de recopilar sólo los datos que sean necesarios.
«Si ChatGPT nos ha enseñado algo, es que lo que comúnmente se conoce como información ‘pública’ no es lo mismo que información ‘libre y abierta'», dijo Haar según citó NAIC. “Los compradores de soluciones de IA deben seguir preguntando sobre la procedencia y los derechos de los datos o simplemente aceptar lo desconocido. Estos últimos son menos atractivos para las entidades públicas o reguladas”.
¿Por qué es una urgencia apremiante?
Este llamado a un enfoque renovado en la gobernanza de datos en el camino hacia la adopción de la IA es oportuno. Una de las consecuencias que tuvo la IA el año pasado es que, ahora, todos los sectores quieren utilizarla, pero pueden correr un gran riesgo al hacerlo sin darse cuenta.
VER: La estrategia de seguridad cibernética de seis escudos de Australia podría depender de qué tan bien la nación gestiona los vastos conjuntos de datos.
Por ejemplo, en su propio artículo de predicciones para 2024Australian Property Investor señaló:
“La IA está impulsando una adquisición de datos aún mayor, procesando el flujo interminable de datos que se produce cuando diseñamos, construimos, compramos, vendemos y vivimos en nuestros hogares… Los macrodatos también están impulsando la transformación de industrias que se han quedado rezagadas en la adopción de la digitalización. , incluidos ayuntamientos y gobiernos locales, construcción, edificación y logística”.
Mientras tanto, si bien las pequeñas y medianas empresas han estado lento para adoptar la IAde aquellos en el comercio electrónico, más de 40% de las PYMES están utilizando la IA de alguna manera. Como destaca un artículo de Forbes Australia, la IA se está impulsando como una forma para que estas empresas llegar a la Generación Z y otros consumidores “emergentes”. Para estos sectores, combinar datos de clientes e inteligencia artificial les permite orientar mejor los esfuerzos de marketing y ventas a estos clientes.
Lo preocupante es que la gobernanza de datos suele ser una preocupación secundaria. Las organizaciones australianas entienden que los datos son un riesgo. La profundidad y amplitud de las violaciones de datos que han ocurrido en los últimos años lo han dejado claro. También son conscientes de que el gobierno está realizando esfuerzos para aumentar la regulación en la gobernanza de datos como parte de su amplia estrategia de seguridad cibernética.
Sin embargo, a pesar de esto, el Instituto de Gobernanza de Australia encontrado recientemente que casi el 60% de las organizaciones tienen juntas directivas que no comprenden las necesidades de la organización. desafíos de la gobernanza de datos. Además, las tecnologías emergentes y la IA son dos de los tres mayores riesgos en torno a la gobernanza de datos, siendo el otro los ciberataques directos.
La promesa de la IA es liderar las juntas directivas y otros altos ejecutivos para presionar a las organizaciones para que adopten la tecnología sin considerar primero los requisitos subyacentes de gobernanza de datos.
VER: Australia ha estado adoptando la IA generativa mientras intenta adelantarse a los riesgos.
«No podemos subestimar el papel de la gobernanza a medida que avanzamos hacia la creación y el uso seguro, responsable y ético de la IA y la protección de datos vitales», dijo en el informe la presidenta y presidenta del Instituto de Gobernanza de Australia, Pauline Vamos.
El papel de las TI en la promoción de la gobernanza de datos
La realidad es que para que los modelos y aplicaciones de IA tengan éxito, las organizaciones necesitan aprovechar en gran medida sus datos, ya sea recopilando grandes cantidades de datos de forma indiscriminada o siendo más específicos en los datos que recopilan e incluyen en los modelos. De cualquier manera, esto abre los datos a nuevos niveles de riesgo y, actualmente, las juntas directivas y los ejecutivos no están necesariamente preparados para afrontar este desafío.
Esto significa que recaerá en los equipos de TI defender la gobernanza de datos dentro de la organización. A medida que el entusiasmo por el desarrollo de la IA se enfríe en 2024, habrá un enfoque renovado en cómo funcionan las organizaciones. manejo y gestión de datos étnicamente. Por razones tanto regulatorias como de reputación, los profesionales de TI tienen la oportunidad de demostrar liderazgo y proteger sus organizaciones al mismo tiempo que ofrecen los beneficios de TI.