El 12 de febrero, más de dos docenas de activistas se reunieron frente a la sede de OpenAI para protestar por la decisión de la empresa de eliminar la prohibición de usos militares de sus productos.
Los manifestantes del grupo, acertadamente llamado PauseAI, temen que uso desenfrenado de la tecnología podría provocar oleadas de desinformación, pérdida de empleos e incluso lo que describe como “riesgos S”, potenciales “distopías ineludibles que se extenderían por todo el espacio-tiempo”. No están solos en sus temores, pero tampoco lo está OpenAI a la hora de ampliar su trabajar para el ejército.
La decisión se tomó en enero y fue seguida por un anuncio en Bloomberg que la empresa estaba trabajando con el Departamento de Defensa de EE. UU. (DoD) para desarrollar herramientas de ciberseguridad. OpenAI sostiene que continúa con sus prohibiciones de «usar su tecnología para desarrollar armas, destruir propiedades o dañar a las personas», sin embargo, describe su trabajo con el Departamento de Defensa como «muy alineado con lo que queremos ver en el mundo».
El uso de la IA en el sector de la defensa está creciendo. A Datos globales informe a partir de 2023 se estima que el mercado especializado de IA, que incluye aplicaciones de defensa, crecerá hasta 477.600 millones de dólares en 2030 desde 31.100 millones de dólares en 2022. Los usos de la IA generativa para el sector incluyen la asistencia en el diseño de armas y maquinaria, la creación de situaciones de combate mejoradas y el diseño de ciberseguridad. capacidades ofensivas y de seguridad.
Acceda a los perfiles de empresa más completos del mercado, impulsados por GlobalData. Ahorre horas de investigación. Obtenga una ventaja competitiva.
Perfil de la empresa: muestra gratuita
Su correo electrónico de descarga llegará en breve
Confiamos en la calidad única de nuestros perfiles de empresa. Sin embargo, queremos que tome la decisión más beneficiosa para su negocio, por eso le ofrecemos una muestra gratuita que puede descargar enviando el siguiente formulario.
Por GlobalData
IA y ciberseguridad
Los ciberataques a la IA han sido una preocupación clave en lo que va de 2024. A principios de febrero Estados Unidos gobernó que el uso de voces generadas por IA en llamadas automáticas fraudulentas era ilegal después de una serie de imitaciones por IA del presidente Joe Biden durante las primarias demócratas de New Hampshire, lo que generó temores a medida que se acercan las elecciones estadounidenses a finales de este año. GCHQ, una de las agencias de espionaje del Reino Unido, También advirtió que la IA conducirá a un aumento de los ciberataques tanto oportunistas como de alta cualificación.
La nueva herramienta de generación de vídeo de OpenAI También demuestra que el vídeo generativo convincente no está lejos y, aunque la herramienta sigue estando muy controlada por ahora, es probable que la competencia aumente y eventualmente lleve esta tecnología a manos públicas. A reciente ataque deepfake asistido por IA La muerte de un trabajador de servicios financieros de Hong Kong le costó a la empresa 25 millones de dólares después de que participara en una videollamada compuesta por recreaciones de empleados de la empresa, lo que demuestra lo peligrosa que puede ser esta tecnología.
Estos peligros están haciendo que los ejércitos y los gobiernos nacionales estén más preocupados que nunca por la ciberseguridad. Ampliando vínculos preexistentes entre las grandes tecnologías y el sector de defensa, empresas como Microsoft y OpenAI están trabajando para combatir las amenazas asistidas por IA. En una publicación de blog publicada a principios de esta semana (14 de febrero), Microsoft detalló su trabajo junto con OpenAI para rastrear el uso del modelo de lenguaje grande (LLM) en ataques cibernéticos.
Las dos empresas rastrean el uso de sus LLM para encontrar ejemplos de uso indebido. Si bien la publicación señala que «nuestra investigación con OpenAI no ha identificado ataques significativos que empleen los LLM que monitoreamos de cerca», también destaca cinco actores maliciosos asociados con China, Irán, Rusia y Corea del Norte que utilizan sus servicios para una variedad de actividades que van desde la recopilación de investigaciones. desde empresas de defensa en la región de Asia y el Pacífico hasta el desarrollo de códigos de phishing.
Actualmente, Microsoft ha recibido varios contratos del Departamento de Defensa, incluido el de formar parte de su prestación de servicios en la nube junto con Amazon, Google y Oracle. La inteligencia de GlobalData muestra que la empresa ya ha mencionado la ciberseguridad al menos 23 veces en sus informes empresariales para 2024, lo que la convierte en el noveno tema más mencionado y la sitúa por delante de ESG, big data e Internet de las cosas. La IA encabeza las listas con al menos 82, por encima de los juegos y la geopolítica.