Redes Neuronales Artificiales, Aprendizaje Automático y Pensamiento Profundo

DÍA 1 - REDES NEURONALES ARTIFICIALES

Introducción y estructura de las RNA.

• Neuronas biológicas y neuronas artificiales.
• Modelo de una RNA.
• Funciones de activación utilizadas en las RNA.
• Clases típicas de arquitecturas de red.

Fundamentos matemáticos y mecanismos de aprendizaje.

• Repaso del álgebra de vectores y matrices.
• Conceptos de espacio de estados.
• Conceptos de optimización.
• Aprendizaje de corrección de errores.
• Aprendizaje basado en memoria.
• Aprendizaje hebbiano.
• Aprendizaje competitivo.

Perceptrones de capa simple.

• Estructura y aprendizaje de perceptrones.
• Clasificador de patrones - introducción y clasificadores de Bayes.
• Perceptrón como clasificador de patrones.
• Convergencia del perceptrón.
• Limitaciones de los perceptrones.

Redes Neuronales Artificiales de retroalimentación directa (Feedforward).

• Estructuras de redes de retroalimentación directa multicapa.
• Algoritmo de propagación inversa (Backpropagation).
• Propagación inversa - entrenamiento y convergencia.
• Aproximación funcional con propagación inversa.
• Aspectos prácticos y de diseño del aprendizaje por propagación inversa.

Redes de Funciones Base Radial (RBF).

• Separabilidad de patrones e interpolación.
• Teoría de regularización.
• Regularización y redes RBF.
• Diseño y entrenamiento de redes RBF.
• Propiedades de aproximación de las RBF.

Aprendizaje competitivo y RNA autoorganizadas.

• Procedimientos generales de agrupamiento (clustering).
• Cuantización de vectores de aprendizaje (LVQ).
• Algoritmos y arquitecturas de aprendizaje competitivo.
• Mapas autoorganizativos de características.
• Propiedades de los mapas de características.

Redes Neuronales Difusas (Fuzzy).

• Sistemas neuro-difusos.
• Antecedentes de conjuntos difusos y lógica difusa.
• Diseño de sistemas difusos.
• Diseño de redes neuronales artificiales difusas.

Aplicaciones

• Se discutirán algunos ejemplos de aplicaciones de redes neuronales, sus ventajas y problemas.

DÍA 2 - APRENDIZAJE AUTOMÁTICO

• Marco de aprendizaje PAC
  • Garantías para conjuntos de hipótesis finitos – caso consistente
  • Garantías para conjuntos de hipótesis finitos – caso inconsistente
  • Generalidades
    • Escenarios deterministas vs. estocásticos
    • Ruido del error de Bayes
    • Errores de estimación y aproximación
    • Selección de modelos
• Complejidad de Rademacher y Dimensión de VC
• Compromiso entre sesgo y varianza
• Regularización
• Sobreajuste (Overfitting)
• Validación
• Máquinas de Vectores de Soporte (SVM)
• Kriging (Regresión de procesos gaussianos)
• PCA y PCA de núcleos (Kernel PCA)
• Mapas Autoorganizativos (SOM)
• Espacio vectorial inducido por núcleos
  • Núcleos de Mercer y métricas de similitud inducidas por núcleos
• Aprendizaje por refuerzo

DÍA 3 - APRENDIZAJE PROFUNDO

Se enseñará en relación con los temas cubiertos en el Día 1 y el Día 2

• Regresión logística y Softmax
• Autoencodedores esparsos
• Vectorización, PCA y Blancamiento (Whitening)
• Aprendizaje autodidacta (Self-Taught Learning)
• Redes profundas
• Decodificadores lineales
• Convolución y agrupamiento (Pooling)
• Codificación esparsa
• Análisis de Componentes Independientes
• Análisis de Correlación Canónica
• Demos y aplicaciones