Definición
La normalización por lotes añade un paso a la red neuronal que alinea los valores de las características en un mini lote de datos. Esto ayuda a que las capas reciban entradas más estables, acelera el entrenamiento y, a veces, reduce la sensibilidad a la configuración inicial. El método es especialmente conocido en redes profundas para imágenes.
Ejemplo
Al entrenar una red para reconocimiento de imágenes, la normalización por lotes ayuda al modelo a converger más rápido y a actualizar los pesos de forma más consistente.
Por qué importa
El término es importante para entender la ingeniería práctica de redes neuronales: la calidad depende no solo de las capas, sino también de la estabilización del entrenamiento.
Cómo funciona
Durante el entrenamiento, la capa calcula la media y la dispersión de los valores del mini lote, los normaliza y luego aplica los parámetros de escala y desplazamiento que aprende.
Dónde se usa
- aprendizaje profundo
- visión por computadora
- estabilización del entrenamiento de redes neuronales
Limitaciones
El método depende del tamaño del lote y del modo de entrenamiento o de salida. Para lotes pequeños, pueden necesitarse métodos de normalización alternativos.
FAQ
¿Por qué es útil conocer «Batch Normalization»?
El término es importante para entender la ingeniería práctica de redes neuronales: la calidad depende no solo de las capas, sino también de la estabilización del entrenamiento.