Antrópico Desarrollo de clasificadores constitucionales para salvaguardar los modelos de IA de los intentos de jailbreak
Antrópico anunció el desarrollo de un nuevo sistema el lunes que puede proteger los modelos de inteligencia artificial (IA) de los intentos de jailbreaking. Clasificadores constitucionales denominados, es una técnica de protección que puede detectar cuando se realiza un intento...
