Prompt injection
Prompt injection
También: Inyección de prompt
Concepto de seguridad que describe prompt injection dentro de manipulación de instrucciones y contexto en aplicaciones basadas en modelos generativos.
Definición técnica
Prompt injection es una categoría defensiva utilizada para identificar y clasificar manipulación de instrucciones y contexto en aplicaciones basadas en modelos generativos. Su definición documenta el activo afectado, la fase del ciclo de vida, el objetivo adversario y el impacto potencial, sin incluir procedimientos de explotación.