Extracción de prompt del sistema
System prompt extraction
También: System prompt extraction
Concepto de seguridad que describe extracción de prompt del sistema dentro de manipulación de instrucciones y contexto en aplicaciones basadas en modelos generativos.
Definición técnica
Extracción de prompt del sistema es una categoría defensiva utilizada para identificar y clasificar manipulación de instrucciones y contexto en aplicaciones basadas en modelos generativos. Su definición documenta el activo afectado, la fase del ciclo de vida, el objetivo adversario y el impacto potencial, sin incluir procedimientos de explotación.