Enrutamiento por latencia
Latency-based routing
También: Latency-based routing
Selección de proveedor o instancia según el tiempo de respuesta esperado.
Definición técnica
Enrutamiento por latencia se define como selección de proveedor o instancia según el tiempo de respuesta esperado. En una aplicación de IA debe instrumentarse o aplicarse con criterios explícitos, límites operativos, trazabilidad y validación sobre cargas representativas.