Decodificación

Decoding

También: Decoding

Proceso que convierte las puntuaciones del modelo en una salida concreta.

Definición técnica

Algoritmo iterativo que transforma logits en decisiones de tokens, mantiene hipótesis y aplica criterios de parada.

Camilo Boo

Automatización de procesos, integración de sistemas y software a medida para reducir tareas manuales y mejorar el control operativo.

Navegación

Cambia diversidad, repetición, coherencia y coste sin volver a entrenar el modelo.

Seleccionar una secuencia utilizable entre las continuaciones que el modelo considera posibles.

Normaliza o filtra logits, selecciona candidatos y repite hasta EOS o un límite.

Ejemplo práctico

Tras cada forward, una estrategia elige el siguiente token y lo añade al contexto.

Ejemplo empresarial

Un asistente usa una receta de decodificación versionada para mantener respuestas consistentes.

No es detokenización: esta última convierte identificadores elegidos en texto.

Ninguna estrategia domina todas las tareas y longitudes.

Una receta inadecuada produce repetición, incoherencia o salidas demasiado rígidas.

La decodificación determina cómo una distribución se convierte en respuesta.

Nivel: Técnico
Categorías: Inferencia y generación de respuestas Parámetros y configuración de modelos Respuestas estructuradas y formatos de salida
Recorridos: Diccionario técnico para profesionales Índice alfabético completo de términos

PDF gratuito

Una selección editorial para consultar conceptos relacionados fuera de la web.

The Curious Case of Neural Text Degeneration
arXiv · Autor: Ari Holtzman et al. · Publicación científica · Publicado el 22 de abril de 2019
Fuente primaria que compara decodificación maximizadora y muestreo, e introduce nucleus sampling.
Generation strategies
Hugging Face · Autor: Hugging Face · Documentación oficial
Documentación oficial de selección voraz, muestreo, búsqueda por haces y generación asistida.
Fuente comprobada el 25 de julio de 2026