Qué son las funciones de activación

Definición

Las funciones de activación deciden qué señal pasar de una capa de la red neuronal a la siguiente. Sin ellas, la red neuronal se reduciría a un modelo lineal simple y describiría mal patrones complejos en texto, imágenes, sonido o comportamiento de usuarios. Entre las funciones más comunes están ReLU, sigmoid, tanh y sus variantes.

Ejemplo

En un modelo de reconocimiento de imágenes, la función de activación ayuda a identificar características cada vez más complejas: primero contornos, luego formas y después partes de un objeto.

Por qué importa

El término es útil para quienes quieren entender por qué las redes neuronales pueden resolver problemas en los que la fórmula lineal habitual no basta.

Cómo funciona

Cada neurona recibe números, aplica una función a esos valores y pasa el resultado a la siguiente capa. La elección de la función afecta la velocidad de aprendizaje, la estabilidad del modelo y la calidad de las predicciones finales.

Dónde se usa

• entrenamiento de redes neuronales
• aprendizaje profundo
• selección de la arquitectura del modelo

Limitaciones

Algunas funciones pueden causar desvanecimiento del gradiente, aprendizaje inestable o un gran número de neuronas inactivas. En la práctica, la elección depende de la arquitectura y de la tarea.

FAQ