Latencia del modelo
Model latency
También: Model latency
Tiempo utilizado por el modelo para procesar entradas y generar salidas.
Definición técnica
Latencia del modelo se define como tiempo utilizado por el modelo para procesar entradas y generar salidas. En una aplicación de IA debe instrumentarse o aplicarse con criterios explícitos, límites operativos, trazabilidad y validación sobre cargas representativas.