Prompt adversarial universal
Universal adversarial prompt
También: Universal adversarial prompt
Concepto de seguridad que describe prompt adversarial universal dentro de intentos de eludir restricciones o políticas de comportamiento del modelo.
Definición técnica
Prompt adversarial universal es una categoría defensiva utilizada para identificar y clasificar intentos de eludir restricciones o políticas de comportamiento del modelo. Su definición documenta el activo afectado, la fase del ciclo de vida, el objetivo adversario y el impacto potencial, sin incluir procedimientos de explotación.