TécnicoTokens, contexto y memoria
Token de salida
Output token
También: Output token
Token generado por el modelo como parte de su respuesta.
Definición técnica
Identificador muestreado de la distribución del siguiente token y añadido a la secuencia de salida durante decodificación autorregresiva.
Explicación empresarial
Unidad que mide la longitud generada y suele influir en latencia y consumo.