Los expertos de la industria creen que las limitaciones éticas y legales serán el mayor desafío para la implementación de la inteligencia artificial (IA) en la defensa durante los próximos cinco años.
Una encuesta en curso realizada por GlobalData encontró que, cuando se les preguntó cuál será el mayor desafío para la IA en defensa durante los próximos cinco años, el 47,1% de los encuestados señala limitaciones éticas y legales, mientras que el 34,6% dice sesgos y errores de «alucinaciones».
La encuesta ha recibido 208 respuestas hasta la fecha en los medios de GlobalData.
El sistema de ataque aéreo de inteligencia artificial ‘Gospel’ de Israel provoca reacciones violentas
Las preocupaciones sobre la ética y la legalidad del uso de la IA en escenarios de conflicto han quedado al descubierto con el actual conflicto en Oriente Medio.
«Definitivamente existen enormes preocupaciones éticas, especialmente si la IA participa en la toma de decisiones potencialmente letales en un escenario de conflicto real», dice James Marques, analista de defensa de GlobalData.
La Franja de Gaza se ha convertido en uno de esos teatros militares. Mientras las Fuerzas de Defensa de Israel (FDI) lanzan ataques aéreos contra Rafah, una ciudad en la frontera suroeste del territorio palestino con Egipto, el papel que ha desempeñado la IA en sus Campaña de bombardeos “las 24 horas del día” se vuelve cada vez más evidente.
Acceda a los perfiles de empresa más completos del mercado, impulsados por GlobalData. Ahorre horas de investigación. Obtenga una ventaja competitiva.
Perfil de la empresa: muestra gratuita
Su correo electrónico de descarga llegará en breve
Confiamos en la calidad única de nuestros perfiles de empresa. Sin embargo, queremos que tome la decisión más beneficiosa para su negocio, por eso le ofrecemos una muestra gratuita que puede descargar enviando el siguiente formulario.
Por GlobalData
Las FDI han aumentado drásticamente el número de objetivos seleccionables para ataques aéreos a través de su plataforma de identificación de objetivos con IA ‘Gospel’.
En una entrevista antes del más reciente conflicto entre Israel y Palestina, el exjefe de las FDI, Aviv Kochaviv dijo que el Evangelio ha aumentado el número de objetivos que las FDI pueden atacar en Gaza de 50 por año a 100 por día.
Las preguntas sobre los datos utilizados por el Evangelio para seleccionar objetivos –y cuán precisos son sus ataques aéreos en el contexto de reducir el daño civil– han quedado sin respuesta.
Aparte de estas crecientes preocupaciones éticas y legales, los encuestados también esperan que los prejuicios y las «alucinaciones» retrasen la implementación de la IA en defensa.
Alucinacionesque ocurren cuando un chatbot impulsado por IA transmite información errónea como un hecho, se espera que disminuyan a medida que aumenta la precisión de la IA.
Esta tendencia, sin embargo, está lejos de estar garantizada, según Marques.
«En general, creo que las alucinaciones disminuirán, pero depende del conjunto de datos con el que se entrenan los sistemas de IA, y el progreso puede no ser tan linealmente positivo», dijo Marques. Tecnología del ejército. «Existe la posibilidad de que la introducción de IA en conjuntos de datos más grandes y temas más complejos pueda en realidad aumentar las posibilidades de sufrir alucinaciones, pero a largo plazo todas estas son etapas iniciales».
