IA versus IA
El gobierno de EE. UU., posiblemente la red más grande del mundo, ciertamente comprende el valor de la política de seguridad de la IA mientras busca aprovechar la promesa de la IA en aplicaciones gubernamentales y militares. En octubre de 2023, la Casa Blanca emitió un orden ejecutiva (EO) para el desarrollo y uso seguro de la IA.
La Agencia de Seguridad de Infraestructura y Ciberseguridad (CISA), parte del Departamento de Seguridad Nacional (DHS), desempeña un papel fundamental en la ejecución de la orden ejecutiva y ha generado una IA. mapa vial que incorpora acciones clave lideradas por CISA según las indicaciones de la EO, junto con acciones adicionales que CISA está liderando para apoyar a los propietarios y operadores de infraestructura crítica mientras navegan por la adopción de la IA.
Como resultado de la orden ejecutiva, varias agencias gubernamentales clave ya han identificado, nutrido y designado nuevos directores de IA responsables de coordinar el uso de la IA en su agencia, promoviendo la innovación en IA y al mismo tiempo gestionando los riesgos derivados del uso de la IA en su agencia, según Lisa Einstein. , asesor principal de CISA para IA.
«Con la IA integrada en más de nuestras aplicaciones cotidianas, es fundamental contar con una persona que entienda la IA y que comprenda las implicaciones positivas y negativas de la integración de la IA», explica Einstein. “Los riesgos relacionados con el uso de LLM son altamente contextuales y específicos de cada caso de uso según la industria, ya sea atención médica, escuelas, energía o TI. Por lo tanto, los defensores de la IA deben poder trabajar con expertos de la industria para identificar riesgos específicos del contexto de sus industrias”.
Dentro de las agencias gubernamentales, Einstein señala al director de inteligencia artificial del Departamento de Seguridad Nacional, Eric Hysen, quien también es el CIO del DHS. Hysen coordina los esfuerzos de IA en todo Componentes del DHSexplica, incluida la Administración de Seguridad del Transporte, que utiliza la tecnología de IBM visión por computador para detectar artículos prohibidos en el equipaje de mano. El DHS, de hecho, aprovecha la IA en muchos casos para proteger el territorio nacional en los puertos de entrada y a lo largo de la frontera, así como en el ciberespacio para proteger a los niños, defenderse de las ciberamenazas e incluso combatir el uso malicioso de la IA.
A medida que las amenazas LLM evolucionen, se necesitarán herramientas y técnicas igualmente innovadoras basadas en IA para combatirlas. Las pruebas de penetración mejoradas por IA y los equipos rojos, la inteligencia de amenazas, la detección de anomalías y la respuesta a incidentes son solo algunos de los tipos de herramientas que se están adaptando rápidamente para combatir estas nuevas amenazas.
