Además, se espera que LLM Guard amplíe las capacidades de protección de Protect AI Radar que se pueden construir con una lista de materiales de aprendizaje automático (MLBOM) para detectar y mitigar amenazas de seguridad en la cadena de suministro de IA, según Dehghanpisheh. Protect AI’s Radar es una oferta de mitigación y detección de riesgos de IA.
“Existe una clara necesidad en el mercado de una solución que pueda asegurar los casos de uso de LLM de principio a fin, incluso cuando se escalan a producción. Al unir fuerzas con Protect AI, estamos ampliando los productos de Protect AI con capacidades de seguridad LLM para ofrecer la plataforma de seguridad de AI de extremo a extremo más completa de la industria”, dijeron los cofundadores de Laiyer AI, Neal Swaelens y Oleksandr Yaremchuk, en un comunicado de prensa.
LLM Guard experimentará cambios graduales
Protect AI ha asegurado que no impondrá ningún cambio en la interacción del usuario en LLM Guard, que actualmente está disponible como una oferta de código abierto y registra 2,5 millones de descargas mensuales en HuggingFace.
«Seguimos comprometidos con el código abierto y las licencias de uso permisivo para ayudar a los clientes en su camino hacia la implementación de MLSecOps y la seguridad de sus implementaciones de AI/ML», dijo Dehghanpisheh.
Sin embargo, la compañía planea ampliar la herramienta con nuevas funciones y ofrecer una versión separada mediante suscripción más adelante.
«Habrá una versión comercial del producto LLM Guard de código abierto de Laiyer AI que ofrecerá características, capacidades e integraciones ampliadas como parte de la plataforma Protect AI», agregó Dehghanpisheh. “Hemos recibido comentarios extremadamente positivos de nuestros clientes y socios de construcción que han visto estas nuevas capacidades. Los anunciaremos públicamente en el futuro”. Las plataformas GenAI basadas en LLM han estado impulsando un aumento significativo de los ciberataques y riesgos de seguridad, lo que lleva a los proveedores de ciberseguridad existentes, así como a nuevas empresas implementar ofertas especializadas para abordar estos riesgos.