Filtración de prompt del sistema
System prompt leakage
También: System prompt leakage
Concepto de seguridad que describe filtración de prompt del sistema dentro de manipulación de instrucciones y contexto en aplicaciones basadas en modelos generativos.
Definición técnica
Filtración de prompt del sistema es una categoría defensiva utilizada para identificar y clasificar manipulación de instrucciones y contexto en aplicaciones basadas en modelos generativos. Su definición documenta el activo afectado, la fase del ciclo de vida, el objetivo adversario y el impacto potencial, sin incluir procedimientos de explotación.