Consumo de tokens en caché
Cached token usage
También: Cached token usage
Consumo de tokens en caché es tokens reutilizados mediante caché.
Definición técnica
En sistemas de inteligencia artificial, consumo de tokens en caché se utiliza como tokens reutilizados mediante caché; debe diseñarse y evaluarse según calidad, coste, seguridad, trazabilidad y compatibilidad con el modelo o flujo de trabajo.