Un fallo de seguridad que afecta a las GPU de cuatro fabricantes de hardware que expuso inteligencia artificial (IA) los datos fueron descubiertos por investigadores de seguridad. El problema afecta a varios dispositivos equipados con GPU de estas empresas, incluidos algunos iPhone, iPad y computadoras Mac. Según los investigadores, los piratas informáticos pueden extraer información personal utilizada en operaciones de inteligencia artificial en la memoria local de los dispositivos afectados, incluidos los modelos de lenguaje grande (LLM) utilizados por servicios como Google, Meta, OpenAI, fabricante de ChatGPT, y Microsoft, utilizando unas pocas líneas de código.
Los investigadores de Trail of Bits descubrieron una falla de seguridad que afecta a las GPU de AMD, Manzana, Imaginacióny Qualcomm que ha sido denominado LeftoverLocals. Esta vulnerabilidad está relacionada con la GPU del dispositivo afectado y permite a los piratas informáticos acceder a información a través de la memoria local creada por otro proceso. Brazo, Intely NVIDIA Según se informa, las GPU no se ven afectadas por el mismo fallo de seguridad.
en un divulgación detallada Publicado a principios de esta semana, los investigadores destacan cómo la falla de seguridad afecta a los LLM y a los modelos de aprendizaje automático (ML) que se ejecutan en los dispositivos afectados. Pudieron crear una prueba de concepto (PoC) del ataque que les permitió acceder a información de la sesión LLM de otro usuario que se estaba ejecutando en un proceso diferente.
Una demostración de un atacante escuchando una sesión de chat interactiva de LLM
Crédito de la foto: Captura de pantalla/Trail of Bits
Al ejecutar unas pocas líneas de código, un hacker puede utilizar el fallo de seguridad LeftoverLocals para reconstruir la respuesta del LLM en una sesión interactiva «con alta precisión», según los investigadores. La falla fue descubierta por Tyler Sorensen y está siendo rastreada por CVE-2023-4969.
Los investigadores afirman que se comunicaron con Apple y recibieron una respuesta el 13 de enero, mientras que la compañía parchó algunos dispositivos con el A17 Pro, que alimenta el iPhone 15 Pro y 15 Pro Máximo – y serie de chips M3, pero otros dispositivos no han sido parcheados, como el MacBook Air con tecnología M2.
Mientras tanto, AMD ha fijado Todavía está explorando formas de mitigar la vulnerabilidad de seguridad y Qualcomm ha emitido un parche con su firmware v2.07 que corrige la falla en algunos dispositivos, mientras que otros aún podrían seguir afectados. Según los investigadores, las GPU de Affected Imagination fueron parcheadas el mes pasado como parte del reciente lanzamiento de DDK 23.3.
