Vídeo Nº 212: Redes Neuronales 21 - Optimización 03

En este segundo vídeo sobre optimización de redes neuronales se explica primero cómo normalizar los datos de entra agiliza enormemente los tiempos de entrenamiento (con un ejemplo práctico). Luego, se verá como podemos depurar nuestra implementación de red neuronal para saber si las fórmulas usadas para el cálculo de las derivadas ha sido correcto. Por último, veremos el principal problema que tienes los perceptrones multicapa (MLP): el desvanecimiento del gradiente; y veremos también una solución (parcial) que puede ayudar a mejorar las redes neuronales de tamaño medio.

https://youtu.be/AKsGAMynXzw

PDF con las Diapositivas de la Presentación