El papel de la IA en la seguridad ha sido objeto de un severo escrutinio en los últimos años a medida que empresas de todos los tamaños buscan establecer su posición en la industria.
El reciente Google Cloud Siguiente 24 El evento se centró principalmente en la IA, pero la seguridad también tuvo una presencia destacada, con una serie de lanzamientos y servicios centrados en la seguridad presentados en la conferencia.
Desde su adquisición en septiembre de 2022, Mandiant ha desempeñado un papel importante a la hora de ayudar a impulsar la seguridad de toda la cartera de seguridad de Google, y nos sentamos con Kevin Mandia, director ejecutivo de la empresa, para descubrir qué papel tan importante puede desempeñar la IA para ayudar a detener la últimas amenazas en la actualidad.
¿Ventaja de la IA?
«Nos preguntan mucho: ¿qué es la IA? ¿Es una ventaja, la defensa o la ofensiva?», nos dice Mandia.
«La IA es otra tecnología que está surgiendo y que la gente buena usará y la gente mala usará; ahora es solo otra herramienta más en la caja de herramientas».
Google deseaba promover el papel que la IA puede desempeñar en la seguridad durante Cloud Next 2024, revelando una serie de nuevas actualizaciones y mejoras que aprovechan los servicios de Mandiant.
Esto incluye Gemini en Threat Intelligence, parte del nueva plataforma Gemini en Seguridadque permite a los usuarios utilizar la búsqueda conversacional para descubrir rápidamente detalles sobre problemas existentes o actores de amenazas, además de ofrecer a los investigadores un rastreo web automatizado en busca de artículos relevantes de inteligencia de código abierto (OSINT), ingiriendo información y proporcionando resúmenes concisos para ayudar en la lucha.
En otros lugares, Gemini in Security Operations también puede utilizar lenguaje natural para explicar hallazgos clave a administradores y profesionales de seguridad a través de su función de investigaciones asistidas. Una vez que se detecta una amenaza, la plataforma puede resumir los datos del evento, luego recomendar los siguientes pasos a seguir para contenerla o mitigarla, y ayudar a guiar a los usuarios a través de la plataforma mediante instrucciones e indicaciones fáciles de seguir.
Entonces, dado que la IA se hace cargo de gran parte del trabajo pesado en lo que respecta a la detección de amenazas, ¿dónde queda eso el papel del ser humano?
«El ciclo de innovación será diferente: antes los humanos aprenderían y crearían reglas con lo que estamos construyendo, los demás construirán un sistema que aprende y piensa», dice Mandia.
«Siempre necesitarás gente de ciberseguridad, y la IA es el complemento por ahora», añade, señalando los beneficios que la tecnología puede tener para incorporar y poner al día a nuevos trabajadores.
«Podemos tomar a alguien que sólo ha estado trabajando en seguridad durante medio año y hacerlo mucho más rápido e inteligente», dice, destacando cómo las defensas se pueden escalar mucho más rápido para empresas de todos los tamaños.
«Creo que también veremos cómo se construye código más seguro con IA, porque es muy buena en lenguajes estructurados, y el código es un lenguaje estructurado».
En última instancia, todavía queda trabajo por hacer en ciertas áreas de inteligencia de amenazas, y Mandia señala la definición de comportamiento «normal» en una empresa como algo que todavía es difícil de precisar cuando se detectan posibles problemas.
«Todos los días, en muchas empresas, la gente hace las mismas cosas todo el tiempo; lo único anómalo es el correo electrónico», señala. «Cuando nos fijamos en las funciones y procesos de trabajo reales del negocio, la mayoría de la gente hace lo mismo. cosas e iniciar sesión en los mismos sistemas, por lo que deberías ver procesos haciendo lo mismo todo el tiempo y humanos haciendo las mismas cosas todo el tiempo».
La suplantación de voz y vídeo también ha aumentado en el escrutinio a medida que las plataformas de IA mejoran en la imitación de los humanos, y Mandia señala que es necesario crear más reglas para ayudar a combatirla.
«Las personas que hacen muchos negocios mediante la voz tendrán que empezar a investigar qué se puede falsificar y qué se puede hacer al respecto», admite, «el problema en este momento es que es difícil estar 100% seguro. pero estamos mejorando en defensa para detectar este tipo de cosas”.
Por lo tanto, es posible que la IA todavía tenga un camino por recorrer antes de asumir por completo las protecciones de seguridad, pero a medida que ingiera más datos y aprenda más, es posible que el momento no esté muy lejano.
Sin embargo, por ahora, Mandia dice que ve a los humanos y la IA trabajando juntos, ayudando a crear un enfoque multifacético para detener los ataques.
«(La IA) no reemplazará a un operador de seguridad todavía», señala, «es necesario tenerlos; acelerará las cosas y capacitará bien a las personas, pero en última instancia no está listo para correr el riesgo de ser transferido a otro». las máquinas por el momento… todavía quieres que las personas realicen operaciones de seguridad, pero están impulsadas por IA».
«La seguridad es demasiado importante como para simplemente eliminar un factor de activación sin saberlo y sin asegurarse de que cualquier cosa con la que se reemplace funcione».
