TécnicoTokens, contexto y memoria
Token almacenado en caché
Cached token
También: Cached token, Cached input token
Token de entrada cuyo procesamiento previo puede reutilizarse al repetirse un prefijo compatible.
Definición técnica
Unidad perteneciente a una secuencia de prefijo con representaciones intermedias reutilizables por una caché de prompt o de claves y valores.