Normalización por lotes

Batch normalizationBatchNorm

También: Batch normalization, BatchNorm, Normalización de batch

Técnica que normaliza activaciones usando estadísticas del minilote y aprende una escala y un desplazamiento.

Definición técnica

Transformación que estandariza activaciones por característica con media y varianza del batch durante entrenamiento, seguida de parámetros gamma y beta.

Camilo Boo

Automatización de procesos, integración de sistemas y software a medida para reducir tareas manuales y mejorar el control operativo.

[email protected]LinkedIn

Cuéntame el proceso

Navegación

Soluciones Procesos Sectores Casos

Explicación empresarial

Puede estabilizar y acelerar el entrenamiento, pero su comportamiento depende del tamaño de lote y del modo de inferencia.

Para qué sirve

Mejorar la dinámica de optimización de redes profundas.

Cómo funciona

Usa estadísticas del lote al entrenar y estimaciones acumuladas al inferir.

Ejemplos

Ejemplo práctico

Una capa normaliza cada canal y después aplica escala y sesgo aprendidos.

Ejemplo empresarial

Un equipo reduce sensibilidad a la inicialización al entrenar una red visual con batches adecuados.

Confusiones frecuentes

No es normalización de datos de entrada ni garantiza por sí sola generalización.

Limitaciones

Con lotes pequeños o distribución cambiante, las estadísticas pueden ser ruidosas o inadecuadas.

Riesgos

Usar por error el modo de entrenamiento en producción genera resultados dependientes del lote.

Idea principal

BatchNorm normaliza activaciones y requiere distinguir cuidadosamente entrenamiento e inferencia.

En esta página

Definición técnica
Explicación empresarial
Para qué sirve
Cómo funciona
Ejemplos
Confusiones frecuentes
Limitaciones
Riesgos
Idea principal

Clasificación

Nivel: Técnico
Categorías: Deep Learning
Recorridos: Diccionario técnico para profesionales Índice alfabético completo de términos

PDF gratuito

Diccionario técnico de IA para profesionales

Una selección editorial para consultar conceptos relacionados fuera de la web.

Descargar PDF gratis

Términos relacionados

Dropout Inicialización de pesos Red neuronal profunda

Fuentes

Understanding the difficulty of training deep feedforward neural networks
Proceedings of Machine Learning Research · Autor: Xavier Glorot and Yoshua Bengio · Publicación científica · Publicado el 13 de mayo de 2010
Analiza saturación, propagación de gradientes e inicialización de redes profundas.
Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift
arXiv · Autor: Sergey Ioffe and Christian Szegedy · Publicación científica · Publicado el 11 de febrero de 2015
Artículo original de normalización por lotes y sus parámetros aprendibles.