La Cumbre de Seguridad de la IA ha sido aclamada como un “avance diplomático” por el Primer Ministro del Reino Unido, Rishi Sunak, tras firmar el Acuerdo Bletchley, una declaración internacional para abordar los riesgos que plantea la tecnología. Trabajando en la seguridad cibernética, me complació ver que este acuerdo, junto con la publicación del documento ‘Capacidad y riesgos de la IA fronteriza’, subrayó las preocupaciones multifacéticas en torno a las vulnerabilidades de ciberseguridad y el potencial de malware dirigido impulsado por IA. Pero más allá de identificar los riesgos para la ciberseguridad, también es importante que discutamos cómo AI puede sobrecargar seguridad tecnología, por lo que fomentamos la innovación en este espacio.
La Cumbre de Seguridad de la IA reconoció acertadamente la necesidad de que los ciberataques impulsados por la IA ocupen un lugar destacado en las agendas de las organizaciones públicas y privadas. La IA permite a los grupos de delitos cibernéticos optimizar sus ataques, elevando su eficacia para atacar organizaciones y violar las defensas. Según el Barómetro de autenticación en línea de la Alianza FIDO publicado recientemente, el 54% de los encuestados notó un aumento en mensajes sospechosos y estafas, y el 52% atribuye la sofisticación de las técnicas de phishing a los actores de amenazas que aprovechan la IA.
Pero la Cumbre de Seguridad de la IA perdió el ritmo: la oportunidad de subrayar cómo la IA puede ser un catalizador para un cambio positivo en la industria de la ciberseguridad. Si bien es importante abordar los riesgos de ciberseguridad a escala global, un discurso negativo que exagera las amenazas a la ciberseguridad nos distrae de identificar soluciones reales y viables a estos desafíos. A medida que las organizaciones luchan por seguir el ritmo de un panorama tecnológico y de amenazas en rápida evolución, deben abordar tanto los riesgos como las oportunidades de la IA en la ciberseguridad.
Gerente senior de producto en OPSWAT.
Riesgos del mal uso de la IA
Para protegerse contra ataques impulsados por IA, las organizaciones deben comprender cómo la IA evoluciona el panorama de amenazas. Una de las principales preocupaciones son los ataques de día cero orquestados por grupos de ciberdelincuencia patrocinados por el Estado. La capacidad de la IA para transformarse malware con firmas desconocidas permite a actores maliciosos explotar vulnerabilidades con exploits de día cero, evadiendo la detección durante períodos prolongados.
La destreza analítica de la IA amplifica las tácticas de ingeniería social como el phishing al analizar grandes cantidades de información pública. datos para personalizar los ataques. Esto conduce a una mayor tasa de éxito de las campañas de phishing y a una mayor probabilidad de infracciones. Los grupos de delitos cibernéticos pueden escalar tanto los ataques de malware como las campañas de phishing dirigidas, lo que representa una grave amenaza.
En lugar de temer el potencial de la IA, comprender los posibles vectores de ataque de las amenazas impulsadas por la IA permite a las organizaciones crear planes específicos de prevención y respuesta. Aprovechar la IA, incluida su destreza analítica, ayudará a la industria de la ciberseguridad a neutralizar una ola sin precedentes de ataques impulsados por la IA.
Potenciar la ciberseguridad: un cambio hacia la búsqueda proactiva de amenazas y una seguridad mejorada de confianza cero
La IA puede ayudar a la industria de la ciberseguridad a enfrentar un panorama de amenazas en rápida evolución y también puede facilitar la adopción de mejores prácticas para protegerse contra el aumento de los riesgos de uso indebido de la IA.
Las herramientas de seguridad tradicionales que se basan en el conocimiento existente sobre el comportamiento del malware pueden quedar cortas frente al nuevo malware polimórfico impulsado por IA. Adoptar la caza de amenazas en lugar de un enfoque pasivo permite a las organizaciones mantenerse al día con las amenazas en evolución.
La IA permite una mejor detección y búsqueda de amenazas. Los algoritmos analizan diversos conjuntos de datos, que van desde registros del sistema hasta el tráfico de la red, trazando patrones y comportamiento del usuario. Crear una comprensión profunda de la actividad normal permite a los profesionales de la ciberseguridad buscar de forma proactiva amenazas desconocidas alertando cualquier desviación de una línea base del comportamiento del usuario.
Al reducir el ruido de las alertas, la IA proporciona un contexto enriquecido al extraer de varios puntos de datos, minimizando los falsos positivos. Esto no sólo agiliza el flujo de trabajo de los analistas de seguridad que, de otro modo, tendrían que clasificar las alertas manualmente, sino que también les permite centrarse en aislar amenazas genuinas.
Estas capacidades de las herramientas de IA también refuerzan un modelo de Confianza Cero. La identificación de anomalías en tiempo real puede provocar que se revoque el acceso del usuario tan pronto como se detecte un comportamiento sospechoso. El algoritmo de IA también aprenderá y se adaptará para mejorar la detección de entidades sospechosas.
El análisis de datos también puede producir evaluaciones de riesgos en tiempo real basadas en datos contextuales específicos de usuarios individuales. Los privilegios sobre los recursos de la empresa se pueden ajustar automáticamente de acuerdo con la puntuación de la evaluación de riesgos. Este enfoque simplifica el cumplimiento del principio de privilegio mínimo de seguridad de confianza cero.
Si bien la Cumbre sobre Seguridad de la IA llamó acertadamente la atención sobre los riesgos de la IA en la ciberseguridad, perdió una oportunidad crucial para enfatizar el papel positivo que la IA puede desempeñar en el fortalecimiento de las defensas. Comprender los ataques impulsados por IA como amenazas reales, pero manejables, crea un espacio para que las organizaciones se protejan contra estos riesgos a través de las mejores prácticas de ciberseguridad y el uso de herramientas de ciberseguridad impulsadas por IA. A medida que las organizaciones navegan por el panorama dual de los riesgos y oportunidades de la IA, es esencial un enfoque equilibrado para aprovechar el potencial de la IA para asegurar el futuro digital.
Hemos presentado los mejores análisis de la nube.
Este artículo se produjo como parte del canal Expert Insights de TechRadarPro, donde presentamos las mejores y más brillantes mentes de la industria tecnológica actual. Las opiniones expresadas aquí son las del autor y no son necesariamente las de TechRadarPro o Future plc. Si estás interesado en contribuir, descubre más aquí: https://www.techradar.com/news/submit-your-story-to-techradar-pro