Caché de claves y valores
Key-value cacheKV cache
También: Key-value cache, Caché KV, KV cache, KV-cache
Memoria que conserva claves y valores de atención ya calculados durante la generación.
Definición técnica
Estado por capa y posición que reutiliza proyecciones K/V del prefijo en pasos autorregresivos posteriores.