Prompt leaking
Prompt leaking
También: Filtración de prompt
Concepto de seguridad que describe prompt leaking dentro de manipulación de instrucciones y contexto en aplicaciones basadas en modelos generativos.
Definición técnica
Prompt leaking es una categoría defensiva utilizada para identificar y clasificar manipulación de instrucciones y contexto en aplicaciones basadas en modelos generativos. Su definición documenta el activo afectado, la fase del ciclo de vida, el objetivo adversario y el impacto potencial, sin incluir procedimientos de explotación.