Predicción del siguiente token

Next-token prediction

También: Next-token prediction, Predicción de próximo token

Tarea de estimar qué unidad del vocabulario es más probable después del contexto actual.

Definición técnica

Objetivo autorregresivo que estima una distribución condicional sobre el próximo identificador dada la secuencia precedente y optimiza su log-verosimilitud.

Camilo Boo

Automatización de procesos, integración de sistemas y software a medida para reducir tareas manuales y mejorar el control operativo.

[email protected]LinkedIn

Cuéntame el proceso

Navegación

Soluciones Procesos Sectores Casos

Explicación empresarial

Mecanismo básico con el que muchos LLM completan y generan texto.

Para qué sirve

Aprender dependencias secuenciales y producir una distribución para continuar la entrada.

Cómo funciona

Calcula logits, aplica una normalización probabilística y compara la distribución con el token observado durante el entrenamiento.

Ejemplos

Ejemplo práctico

Tras «La capital de Francia es», asigna probabilidades a posibles tokens siguientes.

Ejemplo empresarial

Un asistente encadena predicciones para redactar una respuesta.

Confusiones frecuentes

Predecir el siguiente token no significa copiar siempre la opción más probable ni comprobar su verdad.

Limitaciones

El objetivo local puede generar errores globales o respuestas no alineadas con la tarea.

Riesgos

Las continuaciones fluidas pueden parecer autorizadas aunque sean incorrectas.

Idea principal

Muchos LLM generan texto repitiendo una predicción condicional, una unidad cada vez.

En esta página

Definición técnica
Explicación empresarial
Para qué sirve
Cómo funciona
Ejemplos
Confusiones frecuentes
Limitaciones
Riesgos
Idea principal

Clasificación

Nivel: Técnico
Categorías: Modelos de lenguaje — LLM Inferencia y generación de respuestas
Recorridos: Diccionario técnico para profesionales Índice alfabético completo de términos

PDF gratuito

Diccionario técnico de IA para profesionales

Una selección editorial para consultar conceptos relacionados fuera de la web.

Descargar PDF gratis

Términos relacionados

Distribución del siguiente token Modelo autorregresivo Modelo causal de lenguaje

Fuentes

Speech and Language Processing, Chapter 3: N-gram Language Models
Stanford University · Autor: Daniel Jurafsky and James H. Martin · Universidad
Referencia académica para modelado del lenguaje, probabilidades de secuencia, vocabulario y perplejidad.
Fuente comprobada el 25 de julio de 2026
Language Models are Few-Shot Learners
arXiv · Autor: Tom B. Brown et al. · Publicación científica · Publicado el 28 de mayo de 2020
Fuente primaria sobre LLM autorregresivos, escalado y aprendizaje en contexto.