Envenenamiento de contexto
Context poisoning
También: Context poisoning
Concepto de seguridad que describe envenenamiento de contexto dentro de manipulación de instrucciones y contexto en aplicaciones basadas en modelos generativos.
Definición técnica
Envenenamiento de contexto es una categoría defensiva utilizada para identificar y clasificar manipulación de instrucciones y contexto en aplicaciones basadas en modelos generativos. Su definición documenta el activo afectado, la fase del ciclo de vida, el objetivo adversario y el impacto potencial, sin incluir procedimientos de explotación.