McAfee ha revelado una tecnología pionera de detección de audio deepfake impulsada por IA, Project Mockingbird, durante CES 2024. Esta tecnología patentada tiene como objetivo defender a los consumidores contra la creciente amenaza de los ciberdelincuentes que emplean audio fabricado generado por IA para estafas, ciberacoso y manipulación de imágenes de figuras públicas.
Las herramientas de inteligencia artificial generativa han permitido a los ciberdelincuentes elaborar estafas convincentes, incluida la clonación de voz para hacerse pasar por miembros de la familia que buscan dinero o manipular videos auténticos con «falsificaciones baratas». Estas tácticas manipulan el contenido para engañar a las personas, creando un mayor desafío para los consumidores a la hora de discernir entre información real y manipulada.
En respuesta a este desafío, McAfee Labs desarrolló un modelo de IA líder en la industria, parte de la tecnología del Proyecto Mockingbird, para detectar audio generado por IA. Esta tecnología emplea modelos de detección contextuales, conductuales y categóricos, logrando una impresionante tasa de precisión del 90 por ciento.
Steve Grobman, CTO de McAfee, dijo: «Al igual que un pronóstico del tiempo que indica un 70 por ciento de probabilidad de lluvia le ayuda a planificar su día, nuestra tecnología le proporciona información para tomar decisiones fundamentadas sobre si el contenido es lo que parece ser».
Project Mockingbird ofrece diversas aplicaciones, desde contrarrestar las estafas generadas por IA hasta abordar la desinformación. Al permitir a los consumidores distinguir entre contenido auténtico y manipulado, McAfee pretende proteger a los usuarios de ser víctimas de esquemas fraudulentos y garantizar una experiencia digital segura.
Profundas preocupaciones sobre los deepfakes
A medida que la tecnología deepfake se vuelve más sofisticada, aumentan las preocupaciones de los consumidores. Lo más destacado de la encuesta Deepfakes de McAfee de diciembre de 2023:
- El 84% de los estadounidenses están preocupados por el uso de deepfake en 2024
- El 68% está más preocupado que hace un año
- El 33% ha experimentado o ha sido testigo de una estafa deepfake, con un 40% de prevalencia entre personas de 18 a 34 años.
- Las principales preocupaciones incluyen la influencia electoral (52%), socavar la confianza del público en los medios (48%), la suplantación de figuras públicas (49%), la proliferación de estafas (57%), el ciberacoso (44%) y la creación de contenido sexual explícito (37%). %)
La presentación del Proyecto Mockingbird por parte de McAfee marca un salto significativo en la batalla en curso contra las amenazas generadas por la IA. A medida que países como EE. UU. y el Reino Unido entran en un año electoral crucial, es crucial que los consumidores tengan la mejor oportunidad posible de lidiar con la influencia omnipresente de la tecnología deepfake.
(Foto por Markus Spiske en desempaquetar)
Ver también: MyShell lanza la IA de clonación de voz OpenVoice
¿Quiere aprender más sobre IA y big data de la mano de los líderes de la industria? Verificar Exposición de IA y Big Data que tendrá lugar en Ámsterdam, California y Londres. El evento integral comparte ubicación con Semana de la Transformación Digital y Exposición de seguridad cibernética y nube.
Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados por TechForge aquí.
