Paso de entrenamiento

Training step

También: Training step

Unidad iterativa en la que el entrenamiento procesa datos y normalmente aplica una actualización.

Definición técnica

Iteración del bucle que ejecuta forward, objetivo, backward y, salvo acumulación, un paso del optimizador.

Camilo Boo

Automatización de procesos, integración de sistemas y software a medida para reducir tareas manuales y mejorar el control operativo.

Navegación

Unidad precisa para medir progreso, programar cambios y estimar consumo.

Contabilizar actualizaciones y activar calendarios, logs o checkpoints de manera uniforme.

Consume uno o más minilotes, calcula señales y avanza contadores y estados.

Ejemplo práctico

El paso 10 000 procesa un lote y reduce la tasa según el calendario.

Ejemplo empresarial

El presupuesto limita la prueba a 50 000 pasos y compara checkpoints intermedios.

Con acumulación, un microbatch no siempre equivale a un paso del optimizador.

Pasos de trabajos distintos no son comparables sin conocer lote y datos.

Contadores inconsistentes pueden aplicar calendarios o reanudaciones en momentos incorrectos.

El paso es la unidad operativa del bucle, definida por cómo se actualiza el estado.

Nivel: Técnico
Categorías: Entrenamiento de modelos
Recorridos: Diccionario técnico para profesionales Índice alfabético completo de términos

PDF gratuito

Una selección editorial para consultar conceptos relacionados fuera de la web.

Deep Learning, Chapter 8: Optimization for Training Deep Models
MIT Press · Autor: Ian Goodfellow, Yoshua Bengio and Aaron Courville · Publicación científica · Publicado el 18 de noviembre de 2016
Capítulo académico sobre objetivos, lotes, SGD, optimización, estabilidad y convergencia durante el entrenamiento.