McAfee lanza herramienta de inteligencia artificial
En una medida contra la creciente ola de engaño digital, McAfee lanzó Project Mockingbird, una herramienta de detección de audio deepfake impulsada por inteligencia artificial, que cuenta con una tasa de éxito del 90 % en la identificación de audio fraudulento.
La tecnología está diseñada para proteger a los usuarios de los crecientes riesgos de las fabricaciones de audio artificiales utilizadas en diversas estafas en línea y campañas de desinformación.
El avance y la disponibilidad generalizada de herramientas de inteligencia artificial generativa han simplificado la creación de estafas convincentes para los ciberdelincuentes. Estos incluyen escenarios en los que se utiliza tecnología de clonación de voz para imitar a un familiar angustiado que solicita ayuda financiera.
Además, existen manipulaciones conocidas como «cheapfakes», donde videos genuinos, como transmisiones de noticias o entrevistas a celebridades, se modifican insertando audio falso. Esta técnica cambia las palabras habladas, creando la ilusión de que una persona respetable ha hecho declaraciones que en realidad nunca dijo.
En respuesta, McAfee Labs ha sido pionero en un modelo de IA que establece nuevos estándares de la industria en la detección de audio falso. Project Mockingbird combina varios modelos basados en inteligencia artificial que analizan el contexto, el comportamiento y la categoría para determinar la autenticidad de los clips de audio dentro de los videos.
«Con las últimas capacidades de detección de IA de McAfee, brindaremos a los clientes una herramienta que opera con más del 90% de precisión para ayudar a las personas a comprender su mundo digital y evaluar la probabilidad de que el contenido sea diferente de lo que parece», comentó Steve Grobman, director de tecnología de McAfee. «Entonces, de la misma manera que un pronóstico del tiempo que indica un 70% de posibilidades de lluvia le ayuda a planificar su día, nuestra tecnología le proporciona información para tomar decisiones fundamentadas sobre si el contenido es lo que parece ser».
McAfee utiliza un enfoque multimodelo para un análisis de amenazas integral. Incluye modelos estructurales para identificar tipos de amenazas, modelos de comportamiento para comprender sus acciones y modelos contextuales para rastrear los orígenes de los datos involucrados.
El auge de la tecnología deepfake
Tecnología falsa, que integra inteligencia artificial y aprendizaje automático para manipular o generar contenido visual y de audio, ha ido evolucionando desde la década de 1990. Inicialmente desarrollado por investigadores de instituciones académicas, luego se extendió a comunidades en línea y finalmente fue adoptado por la industria.
La tecnología ha avanzado para crear medios sintéticos cada vez más convincentes, lo que ha permitido importantes interrupciones en las industrias del entretenimiento y los medios. Utiliza métodos generativos profundos para reemplazar de manera convincente un semejanza de la persona con la de otro, o incluso crear una versión sintética de su voz que pueda decir lo que quiera el atacante malicioso.
El Proyecto Mockingbird no solo aborda el problema inmediato de las estafas deepfake, sino que también sienta un precedente para futuras soluciones de ciberseguridad. Destaca el papel cambiante de la IA tanto en la creación como en la lucha contra las amenazas digitales, subrayando la necesidad de una innovación continua en las medidas de ciberseguridad para seguir el ritmo del avance de las capacidades de la IA.
