Distribución del siguiente token

Next-token distribution

También: Next-token distribution, Distribución de próximo token

Conjunto de probabilidades que el modelo asigna a las posibles unidades que podrían continuar una secuencia.

Definición técnica

Distribución categórica condicionada por el contexto, obtenida normalmente al transformar los logits del vocabulario mediante softmax.

Camilo Boo

Automatización de procesos, integración de sistemas y software a medida para reducir tareas manuales y mejorar el control operativo.

Navegación

Representación interna desde la que una estrategia de selección elige cada parte de la respuesta.

Cuantificar alternativas posibles para la continuación inmediata.

La salida lineal produce un logit por entrada del vocabulario y una función los normaliza.

Ejemplo práctico

La distribución asigna 0,45 a una palabra, 0,20 a otra y reparte el resto.

Ejemplo empresarial

Una configuración conservadora selecciona entre las opciones de mayor probabilidad.

Una probabilidad alta es relativa al modelo y al contexto, no una confianza factual calibrada.

Puede estar mal calibrada y cambia con cada nuevo token incorporado.

Interpretarla como certeza puede inducir decisiones erróneas.

La distribución expresa preferencias del modelo para el próximo token, no probabilidades de verdad.

Nivel: Técnico
Categorías: Modelos de lenguaje — LLM Inferencia y generación de respuestas
Recorridos: Diccionario técnico para profesionales Índice alfabético completo de términos

PDF gratuito

Una selección editorial para consultar conceptos relacionados fuera de la web.

Speech and Language Processing, Chapter 3: N-gram Language Models
Stanford University · Autor: Daniel Jurafsky and James H. Martin · Universidad
Referencia académica para modelado del lenguaje, probabilidades de secuencia, vocabulario y perplejidad.
Fuente comprobada el 25 de julio de 2026
Language Models are Few-Shot Learners
arXiv · Autor: Tom B. Brown et al. · Publicación científica · Publicado el 28 de mayo de 2020
Fuente primaria sobre LLM autorregresivos, escalado y aprendizaje en contexto.