Streaming de tokens

Token streaming

También: Token streaming, Respuesta en streaming, Streaming response

Entrega incremental de tokens o fragmentos mientras la respuesta todavía se genera.

Definición técnica

Protocolo de salida que emite unidades decodificadas conforme están disponibles sin esperar la secuencia completa.

Camilo Boo

Automatización de procesos, integración de sistemas y software a medida para reducir tareas manuales y mejorar el control operativo.

Navegación

Reduce la espera percibida y permite empezar a mostrar o procesar una respuesta antes.

Superponer generación y consumo de la salida.

El servidor mantiene una conexión o flujo y envía fragmentos con estado y señal final.

Ejemplo práctico

La interfaz añade palabras a la pantalla a medida que llegan eventos.

Ejemplo empresarial

Un asistente muestra el comienzo de una explicación mientras completa el resto.

No acelera necesariamente el cálculo total ni equivale a streaming de entrada.

Complica cancelación, moderación previa completa y manejo de errores parciales.

Puede exponer contenido problemático antes de terminar controles posteriores.

Streaming mejora percepción y flujo, no la calidad intrínseca ni el tiempo total.

Nivel: Técnico
Categorías: Inferencia y generación de respuestas Integraciones, APIs y sistemas empresariales
Recorridos: Diccionario técnico para profesionales Índice alfabético completo de términos

PDF gratuito

Una selección editorial para consultar conceptos relacionados fuera de la web.

Generation strategies
Hugging Face · Autor: Hugging Face · Documentación oficial
Documentación oficial de selección voraz, muestreo, búsqueda por haces y generación asistida.
Fuente comprobada el 25 de julio de 2026
NVIDIA Triton Inference Server
NVIDIA · Autor: NVIDIA · Documentación oficial
Documentación oficial sobre servidor, solicitudes en tiempo real, lotes, streaming y protocolos de inferencia.
Fuente comprobada el 25 de julio de 2026