Redes neuronales y aprendizaje profundo

Las redes neuronales son un método de aprendizaje automático supervisado. En esta materia se enseñan los modelos de redes neuronales más importantes, desde las redes clásicas hasta las redes neuronales profundas, analizando los métodos de entrenamiento y sus aspectos teóricos y prácticos. También se estudiarán las redes neuronales recurrentes para el procesamiento de información secuencial. Además, se abordarán algunas de las aplicaciones más exitosas de las redes neuronales profundas, entre ellas la visión por computador mediante redes neuronales convolucionales.

TEORÍA
Tema 1: Introducción a las redes neuronales.
Tema 2: Redes neuronales convolucionales.
Tema 3: Redes neuronales recurrentes.
Tema 4: Transformadores.
Tema 5: Autocodificadores.
Tema 6: Redes generativas adversarias.

PRÁCTICAS
Se realizarán un conjunto de boletines de prácticas relacionados con redes convolucionales; redes recurrentes y transformadores; y autocodificadores y redes generativas adversarias.

BIBLIOGRAFÍA BÁSICA
- A. Bosch Rué, J. Casas-Roma, T. Lozano Bagén (2019): Deep learning : principios y fundamentos. https://elibro-net.ezbusc.usc.gal/es/ereader/busc/126167/
- A. Zhang, Z.C. Lipton, A.J. Smola (2023): Dive into Deep Learning. https://d2l.ai

BIBLIOGRAFÍA COMPLEMENTARIA
- R. Atienza (2018): Advanced deep learning with Keras : apply deep learning techniques, autoencoders, GANs, variational autoencoders, deep reinforcement learning, policy gradients, and more. https://ebookcentral-proquest-com.ezbusc.usc.gal/lib/buscsp/detail.acti…
- M. Phi (2018): Illustrated Guide to LSTM’s and GRU’s A step by step explanation by Michael Phi Towards Data Science. https://towardsdatascience.com/illustrated-guide-to-lstms-and-gru-s-a-s…
- M. Steward (2019): Comprehensive Introduction to Autoencoders. https://towardsdatascience.com/generating-images-with-autoencoders-77fd…
- X. Mao, Q. Li (2021): Generative Adversarial Networks for Image Generation. Springer. https://link-springer-com.ezbusc.usc.gal/book/10.1007/978-981-33-6048-8
- J. Langr, W. Bok (2019): GANs in Action: Deep Learning with Generative Adversarial Networks.

El alumnado adquirirá un conjunto de competencias genéricas, otras asociadas específicamente a la Inteligencia Artificial, y otras más transversales:

COMPETENCIAS BÁSICAS Y GENERALES
[CB2] Que el alumnado sepa aplicar sus conocimientos a su trabajo o vocación de una forma profesional y posea las competencias que suelen demostrarse mediante la elaboración y defensa de argumentos y la resolución de problemas dentro de su área de estudio.
[CB3] Que el alumnado tenga la capacidad de reunir e interpretar datos relevantes (normalmente dentro de su área de estudio) para emitir juicios que incluyan una reflexión sobre temas relevantes de índole social, científica o ética.
[CB5] Que el alumnado desarrolle aquellas habilidades de aprendizaje necesarias para emprender estudios posteriores con un alto grado de autonomía.
[CG3] Capacidad para diseñar y crear modelos y soluciones de calidad basadas en Inteligencia Artificial y que sean eficientes, robustas, transparentes y responsables.
[CG4] Capacidad para seleccionar y justificar los métodos y técnicas adecuadas para resolver un problema concreto, o para desarrollar y proponer nuevos métodos basados en Inteligencia Artificial.
[CG5] Capacidad para concebir nuevos sistemas computacionales y/o evaluar el rendimiento de sistemas existentes, que integren modelos y técnicas de Inteligencia Artificial.

COMPETENCIAS ESPECÍFICAS
[CE12] Conocer los fundamentos de los algortimos y modelos de lainteligencia artificial para la resolución de problemas de cierta
complejidad, entender su complejidad computacional y tener capacidad para diseñar nuevos modelos.
[CE15] Conocer y saber aplicar y explicar correctamente las técnicas de validación de las soluciones de inteligencia artificial.

COMPETENCIAS TRANSVERSALES
[TR2] Capacidad de trabajo en equipo, en entornos interdisciplinarios y gestionando conflictos.
[TR4] Capacidad para introducir la perspectiva de género en los modelos, técnicas y soluciones basadas en inteligencia artificial.
[TR5] Capacidad para desarrollar modelos, técnicas y soluciones basadas en inteligencia artificial que sean éticas, no discriminatorias y fiables.

Además, los resultados del aprendizaje serán los siguientes:

Saber desarrollar y configurar diferentes arquitecturas de redes neuronales, seleccionando las más adecuadas para los diferentes problemas a abordar.
Conocer la estructura y aplicaciones de las redes neuronales recurrentes y las convolucionales.
Conocer las diferentes herramientas para el desarrollo de redes de aprendizaje profundo.

La metodología de la enseñanza está dirigida a focalizar la materia sobre los aspectos teóricos y prácticos de las redes neuronales y de las técnicas y arquitecturas de aprendizaje profundo. El alumnado debe estar capacitado, por lo tanto, para entender las ventajas de estas técnicas de aprendizaje automático y para desarrollar una solución a los diferentes problemas que se mostrarán. Teniendo esto en cuenta, se distinguen dos tipos de actividades de aprendizaje: clases magistrales y sesiones en grupos reducidos. Así:

(1) Las clases magistrales (30 horas) están dirigidas a explicar las características de las redes neuronales y de las diferentes arquitecturas de aprendizaje profundo, haciendo especial énfasis en las situaciones en las que deberían aplicarse dichas arquitecturas y en los conceptos y matemáticas que las soportan.

(2) Las sesiones prácticas en grupos reducidos (20 horas) están dirigidas a que el alumnado adquiera destreza en la implementación de las diferentes arquitecturas de aprendizaje profundo. Por ello es importante que en estas prácticas se realice un conjunto de ejercicios en los que se prueben ese tipo de arquitecturas y se estudie el contexto en el cual deben aplicarse unas dadas las características del problema a resolver. La asistencia a estas clases es OBLIGATORIA.

La evaluación de la materia tendrá lugar de dos formas diferentes, aunque complementarias, que pretenden evaluar la competencia en el dominio teórico y práctico de los conceptos de redes neuronales y aprendizaje profundo. Por otra parte, se distinguirá entre la evaluación de la oportunidad ordinaria y la de recuperación:

OPORTUNIDAD ORDINARIA
(1) Examen en el que se demostrará el dominio de las redes neuronales y el aprendizaje profundo, incidiendo en las características y problemas que resuelven cada una de las diferentes arquitecturas estudiadas a lo largo del curso. En este examen se deberá responder a un conjunto de cuestiones sobre el temario de la materia. Esta parte representará el 60% de la nota final de la materia.

(2) Realización de un conjunto de boletines en los que se demostrará de manera práctica el dominio de los conceptos de redes neuronales y de las diferentes arquitecturas de aprendizaje profundo. Todos los boletines se realizarán de forma individual. Esta parte constituirá el 40% de la nota final de la materia. Por último, si se entregó alguno de los boletines, se considerará como presentado en la materia.

Cabe resaltar que para superar la materia DEBERÁ APROBARSE POR SEPARADO CADA PARTE.

OPORTUNIDAD DE RECUPERACIÓN
Los criterios de evaluación de las partes de teoría y práctica en la oportunidad de recuperación serán exactamente los mismos que para la oportunidad ordinaria. Por lo tanto, además de superar el examen de teoría y los boletines, para poder superar la materia será necesario que se hubiera asistido a las sesiones prácticas interactivas (con los criterios de asistencia indicados más abajo).

CONTROL DE ASISTENCIA
Tal y como se comentó anteriormente, la asistencia a las sesiones prácticas interactivas es obligatoria debido a que en ellas se abordan conceptos clave de la materia, y el control de esta asistencia se realizará a través de hojas de firmas que se deberán completar al final de cada una de las sesiones. Además, si se asiste a menos del 80% de las sesiones prácticas interactivas se considerará que no se ha superado la materia.

En caso de realización fraudulenta de ejercicios o pruebas, será de aplicación lo recogido en la Normativa de evaluación del rendimiento académico de los estudiantes y de revisión de calificaciones. En aplicación de la Normativa de la ETSE sobre plagio (aprobada por la Junta de la ETSE el 19/12/2019), la copia total o parcial de algún ejercicio de prácticas o teoría supondrá el suspenso en las dos oportunidades del curso, con la calificación de 0,0 en ambos casos.

Tal y como se indicó anteriormente, la asistencia a las sesiones de prácticas (20 horas) es obligatoria, siendo esta participación debería ser activa para así aprovechar de forma adecuada el tiempo, mientras que muy recomendable la asistencia a las sesiones de teoría (30 horas), ya que en ellas se introducen y explican los conceptos de la materia. Además de esto, se necesitará un tiempo adicional para trabajar en los siguientes aspectos:

(1) Estudio autónomo de los conceptos de las redes neuronales y el aprendizaje profundo (30 horas). El tiempo dedicado a este estudio no solo incluye el necesario para preparar el examen teórico, sino también el tiempo que se precisa para entender los conceptos teóricos de la materia.

(2) Completar los ejercicios de los boletines (65 horas). Este tiempo es necesario para que se completen los ejercicios de los boletines que no se acaben en las sesiones de prácticas. En este tiempo se podrá interiorizar la forma de resolver el problema expuesto en el ejercicio, en la medida en que en dichas sesiones se hace más énfasis en entender el problema y la forma general en la que se resolverá, mientras que los detalles necesarios para completar los ejercicios deberán realizarse en el tiempo adicional de trabajo práctico.

(3) Estudio teórico de la materia (30). Este tiempo es necesario para la preparación del examen final como para asentar los conceptos teóricos a partir de los resultados y reflexión realizada en los ejercicios de los boletines.

(4) Evaluación (5 horas). Será el tiempo dedicado a la evaluación tanto de las prácticas como del propio examen de teoría.

Se recomienda que para el estudio de la parte teórica se aprovechen los contenidos de la parte práctica, en los cuales se programan y usan las redes neuronales y las arquitecturas de aprendizaje profundo propuestas. Esto debería ayudar a establecer las relaciones entre los modelos matemáticos que dan soporte a estas técnicas y su implementación práctica.

Los idiomas de impartición de las clases expositivas e interactivas serán el gallego y el castellano. Algunos de los contenidos de la materia podrán estar en inglés.