Los directores de seguridad de la información (CISO) están cada vez más preocupados por el uso cada vez mayor de Generative herramientas de inteligencia artificial podría provocar más incidentes de ciberseguridad.
Un nuevo artículo de los expertos en seguridad Metomic que encuestó a más de 400 CISO en el Reino Unido y los EE. UU. encontró que las violaciones de seguridad relacionadas con la IA generativa preocupan a casi las tres cuartas partes (72%) de los encuestados.
Pero eso no es lo único que preocupa a los CISO cuando se trata de IA generativa, advierte el informe, ya que también temen que las personas utilicen datos confidenciales de la empresa para entrenar los modelos de lenguaje grande (LLM) utilizados para impulsar estas herramientas. Compartir los datos de esta manera es un riesgo para la seguridad, ya que existe la posibilidad teórica de que un tercero malintencionado pueda extraer esta información de alguna manera.
Detectar malware
Sin embargo, los CISO tienen todo el derecho a estar preocupados. Las filtraciones de datos e incidentes similares de ciberseguridad han aumentado trimestre tras trimestre, año tras año. Desde la introducción de herramientas de inteligencia artificial generativa, estos ataques se han vuelto aún más sofisticados, dijeron algunos investigadores.
Por ejemplo, una mala redacción, así como errores gramaticales y tipográficos, eran la mejor manera de detectar un ataque de phishing. Hoy en día, la mayoría de los grupos de hackers utilizan la IA para escribirles correos electrónicos de phishing convincentes, lo que no sólo los hace más difíciles de detectar, sino que también reduce significativamente la barrera de entrada.
Otro ejemplo es la escritura de código malicioso. Ya sea para una página de destino o para malware, los piratas informáticos encuentran constantemente nuevas formas de abusar de las nuevas herramientas. Los desarrolladores de IA generativa están contraatacando, poniendo límites que impiden que las herramientas se utilicen de esta manera, pero hasta ahora los actores de amenazas siempre han logrado encontrar una manera de sortear esos obstáculos.
La buena noticia es que la IA también se puede utilizar en defensa, y muchas organizaciones ya han implementado soluciones avanzadas basadas en IA.