2023 será visto como el año inteligencia artificial (IA) se ha convertido en algo común, y apenas está comenzando. Se espera que el mercado mundial de la IA crezca hasta alcanzar los 2,6 billones de dólares en una década. Dado lo transformadora que puede llegar a ser la IA en áreas que van desde la atención médica hasta la seguridad alimentaria, el entorno construido y más, es fundamental que encontremos una manera de aprovechar su poder como una fuerza para el bien.
Más allá de la emoción que rodea ChatGPT, existen serias dudas sobre cómo generamos confianza en la IA, especialmente la IA generativa, y qué barreras de seguridad se necesitan. Este no es un desafío futuro; Según la reciente encuesta Trust in AI de BSI, el 38% de las personas ya utilizan la IA en su trabajo diario y el 62% espera hacerlo para 2030. A medida que se multipliquen los usos de la IA, habrá muchas preguntas que responder. Para los líderes tecnológicos y aquellos centrados en la transformación digital, estos incluyen: ¿cómo es el uso seguro de la IA? ¿Cómo podemos llevar a todos a este emocionante viaje y mejorar las habilidades de quienes lo necesitan? ¿Cómo se puede alentar a las empresas a innovar y qué debe hacer el gobierno para permitirlo manteniendo al mismo tiempo un enfoque en la seguridad?
Uso seguro de la IA
Los gobiernos de todo el mundo se apresuran a responder esas preguntas. Desde la Red de IA Responsable de Australia hasta el proyecto de regulación de China sobre los servicios de IA para los ciudadanos, pasando por la Ley de IA de la UE y la reciente Orden Ejecutiva sobre IA del presidente Biden, esta conversación global está viva: su urgencia contrasta marcadamente con la lenta respuesta política global a medios de comunicación social. Sin embargo, lo más importante es que ningún país puede influir en la forma en que otro decide regular, y no hay garantía de coherencia. Sin embargo, en nuestra economía globalmente conectada, las organizaciones (y la tecnología que utilizan) operan a través de fronteras. Internacional colaboración determinar nuestro futuro de IA y catalizar la innovación futura es clave.
Algunos, incluidos los ex Google El director ejecutivo, Eric Schmidt, ha pedido un organismo estilo IPCC para gobernar la IA, reuniendo a diferentes grupos para determinar nuestro enfoque futuro. Esto concuerda con la opinión pública: la investigación de BSI encontró que tres quintas partes de las personas quieren directrices internacionales para el uso seguro de la IA. Hay muchas maneras en que podemos hacer esto. Reunir físicamente a las personas es clave, por ejemplo en la reciente Cumbre de Seguridad de la IA del Reino Unido. Espero seguir avanzando en las próximas discusiones en Corea del Sur y Francia.
Otro punto de partida útil son las normas internacionales, que son dinámicas y se basan en un consenso común entre los países y múltiples partes interesadas, incluidos los consumidores, sobre cómo son las buenas prácticas. Con la tecnología que emerge rápidamente, las normas y la certificación pueden actuar como una infraestructura común, ofreciendo principios claros diseñados para garantizar que la innovación sea segura. El cumplimiento de las normas internacionales puede actuar como hilo conductor y ya es un componente clave de cuestiones igualmente transfronterizas como las finanzas sostenibles o incluso la seguridad cibernética, donde se utilizan comúnmente estándares internacionales establecidos desde hace mucho tiempo para mitigar el riesgo. Dicha orientación está diseñada para garantizar que lo que hay en el mercado sea seguro, genere confianza y pueda ayudar a las organizaciones a implementar mejores soluciones tecnológicas para todos. La agilidad de los estándares y la rápida capacidad de las organizaciones para aplicarlos es fundamental dado el ritmo del cambio en la IA. El objetivo final es promover la interoperabilidad y brindar a los proveedores, usuarios y consumidores la confianza de que los productos y sistemas habilitados para IA cumplen con los estándares de seguridad internacionales.
Colaboración global
Si bien lograr consenso no es sencillo, en materia de IA no estamos empezando desde cero. El estándar del sistema de gestión de IA (ISO/IEC 42001), que se publicará próximamente y reconocido en la estrategia nacional de IA del gobierno del Reino Unido, se basa en directrices existentes. Este es un estándar basado en riesgos para ayudar a las organizaciones ordinarias de todos los tamaños a protegerse a sí mismas y a sus clientes. Ha sido diseñado para ayudar con consideraciones como la toma de decisiones automática no transparente, el uso del aprendizaje automático para el diseño de sistemas y el aprendizaje continuo. Además, ya existen muchos estándares en torno a la confiabilidad, el sesgo y la inclusión del consumidor a los que se puede recurrir de inmediato, y estamos en las primeras etapas de desarrollo de GAINS (Red o Estándares Globales de IA). En última instancia, algunas de las grandes cuestiones en torno a la IA carecen de una solución tecnológica, pero los estándares están ayudando a definir los principios detrás de la solidez, la equidad y la transparencia mientras la tecnología continúa evolucionando.
Para ver este enfoque en acción, podemos observar cómo la colaboración global está ayudando a acelerar la descarbonización. Las Directrices ISO Net Zero, lanzadas hace un año, se desarrollaron a partir de una conversación entre miles de voces de más de 100 países, incluidas muchas voces subrepresentadas. Nigel Topping, defensor de alto nivel de la acción climática de la ONU, que ahora fue adoptada por organizaciones como General Motors para informar sus estrategias, describió las directrices como “un texto de referencia central… para alinear a los actores globales”.
La IA tiene la capacidad de tener un impacto positivo en la sociedad y acelerar el progreso hacia un mundo sostenible. Pero la confianza es fundamental. Necesitamos una colaboración global para equilibrar la gran oportunidad que promete con sus riesgos potenciales. Si nos asociamos a través de fronteras, podemos crear los controles y equilibrios adecuados para hacer de la IA una fuerza poderosa para el bien en todos los ámbitos de la vida y la sociedad.
Hemos presentado la mejor VPN empresarial.
Este artículo se produjo como parte del canal Expert Insights de TechRadarPro, donde presentamos las mejores y más brillantes mentes de la industria tecnológica actual. Las opiniones expresadas aquí son las del autor y no son necesariamente las de TechRadarPro o Future plc. Si estás interesado en contribuir, descubre más aquí: https://www.techradar.com/news/submit-your-story-to-techradar-pro