
Redes Neuronales y Aprendizaje Profundo
Código: 104407Créditos: 6
| Titulación | Tipo | Curso |
|---|---|---|
| Matemática Computacional y Analítica de Datos | OB | 3 |
Profesor/a de contacto
- Nombre :
- Oriol Ramos Terrades
- Correo electrónico :
- oriol.ramos@uab.cat
Equipo docente
- Carlos Boned Riera
Idiomas de los grupos
Puede consultar esta información al final del documento.
Prerrequisitos
Haber cursado las asignaturas de la materia 7: Inteligencia Artificial y Aprendizaje Computacional, y las asignaturas de Modelización e Inferencia (2º), Análisis Complejo de Datos (2º), y Teoría de la Información (3º).
Objetivos
Esta asignatura tiene como objetivo dar una introducción práctica a los modelos de redes neuronales y el aprendizaje profundo.
Los estudiantes consolidarán y ampliarán sus antecedentes teóricos, construyendo sobre asignaturas anteriores sobre aprendizaje automático y complementando el conocimiento previo con nuevos conceptos sobre el diseño de redes neuronales, las herramientas y sistemas de aprendizaje profundo, y las técnicas de aprendizaje para dichos modelos.
Los estudiantes deben terminar esta asignatura, teniendo un amplio conocimiento de las diferentes arquitecturas de redes neuronales y sus escenarios de uso típicos, y una capacidad demostrada para elegir críticamente la arquitectura correcta y los mecanismos de aprendizaje adecuados para cada tarea.
Finalmente, los estudiantes recibirán capacitación práctica y adquirirán experiencia en el uso de los sistemas actuales de aprendizaje profundo para resolver tareas concretas.
Resultados de aprendizaje
- CM22 (Aplicar las técnicas de aprendizaje más adecuadas para resolver problemas computacionales en diferentes casos de estudio.) Aplicar las técnicas de aprendizaje más adecuadas para resolver problemas computacionales en diferentes casos de estudio.
- CM23 (Evaluar los resultados y limitaciones de las técnicas de aprendizaje más comunes) Evaluar los resultados y limitaciones de las técnicas de aprendizaje más comunes
- CM24 (Aplicar los mecanismos de aprendizaje profundo basado en redes neuronales para poder diseñar la arquitectura más adecuada a un problema determinado comprobando la no vulneración de los derechos y deberes fundamentales, ni de los valores democráticos.) Aplicar los mecanismos de aprendizaje profundo basado en redes neuronales para poder diseñar la arquitectura más adecuada a un problema determinado comprobando la no vulneración de los derechos y deberes fundamentales, ni de los valores democráticos.
- KM20 (Identificar las técnicas de representación del conocimiento humano.) Identificar las técnicas de representación del conocimiento humano.
- KM21 (Definir soluciones computacionales en múltiples dominios para la toma de decisiones basada en la exploración de alternativas, el razonamiento incierto y la planificación de tareas.) Definir soluciones computacionales en múltiples dominios para la toma de decisiones basada en la exploración de alternativas, el razonamiento incierto y la planificación de tareas.
- SM19 (Desarrollar esquemas de búsqueda óptimos para diferentes problemas a partir de la representación y clasificación del conocimiento.) Desarrollar esquemas de búsqueda óptimos para diferentes problemas a partir de la representación y clasificación del conocimiento.
Contenidos
Redes neuronales
- Perceptron
- Multi-layer perceptrón
- Backpropagation
Proceso de entrenamiento
- Inicialización
- Algoritmos de optimización
- Técnicas de regularización
- Tareas y funciones de coste
Arquitecturas profundas de redes neuronales
- Redes convolucionales
- Redes recurrentes
- Aprendizaje no supervisado (autoencoders)
- Generative Adversarial Networks
- Mecanismos de atención
Actividades formativas y Metodología
| Título | Horas | ECTS | Resultados de aprendizaje |
|---|---|---|---|
| Tutorias | 5 | 0,2 | |
| Dedicación a las practicas | 29 | 1,16 | |
| Clase de Practicas | 14 | 0,56 | |
| Desarrollo del proyecto | 16 | 0,64 | |
| Clase de Teoría | 20 | 0,8 | |
| Lectura y estudio de material | 45 | 1,8 | |
| Sesiones de proyecto | 16 | 0,64 |
El diseño de redes neuronales se guía por los tipos de problemas que pretende resolver. A lo largo de esta asignatura será esa tipología de problemas la que proporcionará la motivación de cada apartado y orientará la organización de los contenidos.
Habrá tres tipos de sesiones:
Clases de teoría: El objetivo de estas sesiones es que el profesor explique los antecedentes teóricos de la asignatura. Para cada uno de los temas estudiados se explica la teoría y formulación matemática, así como las correspondientes soluciones algorítmicas.
Sesiones de problemas: Las sesiones de problemas tienen como objetivo facilitar la interacción, el trabajo colaborativo y reforzar la comprensión de los temas vistos en las clases de teoría mediante la elaboración de casos prácticos que requieren el diseño de soluciones utilizando los métodos estudiados en las clases de teoría. La resolución de problemas se iniciará en la clase y se complementará con una serie de problemas semanales para trabajar en casa.
Sesiones de proyecto: hacia finales de curso se dedicarán las últimas sesiones a realizar el seguimiento de un proyecto. Este proyecto consistirá en una tarea que deberá resolverse con las herramientas y conceptos trabajados a lo largo del curso.
Toda la información de la asignatura y los documentos relacionados que necesiten los alumnos estarán disponibles en el campus virtual (cv.uab.cat).
Evaluación
Actividades de evaluación continuada
| Título | Peso | Horas | ECTS | Resultados de aprendizaje |
|---|---|---|---|---|
| Evaluación del proyecto | 45 | 1 | 0,04 | CM22, CM23, CM24, KM20, KM21, SM19 |
| Entregables de problemas | 10 | 0 | 0 | CM22, CM23, CM24 |
| Examenes | 45 | 4 | 0,16 | CM22, KM20, KM21, SM19 |
Para evaluar el nivel de aprendizaje del alumno, se establece una fórmula que combina la adquisición de conocimientos teóricos y prácticos, y la capacidad de resolución de problemas.
Nota final
La nota final se calcula ponderada de la siguiente forma y según las diferentes actividades que se llevan a cabo:
Nota final = 0,6 * Nota de teoría + 0,4 * Evaluación práctica + 0,1 * Nota de problemas
Se aplicará esta fórmula siempre que la nota de teoría sea mayor o igual que 3,5. No hay ninguna restricción sobre la nota de problemas ni sobre la nota de proyectos. Si haciendo el cálculo de la fórmula sale >= 5, pero la notas de teoría no llegan al mínimo exigido, entonces la nota que se pondrá en el expediente será la más pequeña entre el resultado de aplicar la fórmula anterior y 4,5.
Nota de teoría
La nota de teoría pretende valorar las capacidades individuales del estudiante en cuanto a los contenidos teóricos de la asignatura, esto se hace de forma continuada durante el curso con dos exámenes parciales:
Nota Teoría = 0,5 * Nota Examen 1 + 0,5 * Nota Examen 2
Estos exámenes pretenden hacer una evaluación individualizada de las capacidades de cada estudiante para resolver problemas utilizando las técnicas explicadas en clase, así como evaluar el nivel de conceptualización que el estudiante ha hecho de las técnicas vistas. Si haciendo el cálculo de la fórmula sale una nota de teoría < 3,5 habrá que hacer el examen de recuperación.
Nota de Problemas
El objetivo de los problemas es que el alumno se entrene de forma continuada con los contenidos de la asignatura y se familiarice con la aplicación de los conceptos teóricos. Como prueba de este trabajo se solicita la entrega de un portafolio con las soluciones a los problemas semanales. Para obtener una nota de problemas se requiere que el alumno entregue un mínimo del 70% de los problemas. En caso contrario, la calificación de problemas será 0.
Nota de Proyecto
La parte de formación más práctica de esta asignatura se basa en el desarrollo de un proyecto que se realizará a finales de curso. Tiene un peso esencial en la nota global de la asignatura y pretende que el estudiante se enfrente al problema de diseñar una solución a un reto que se plantea de forma contextualizada y que, por tanto, requiere el diseño de una solución integral , desde la preparación de los datos hasta el diseño y entrenamiento de un modelo neuronal. Además, el estudiante debe demostrar sus habilidades para trabajar en equipo y presentar convincentemente los resultados.
Los proyectos se evaluarán a través de las sesiones de seguimiento, su entregable y una presentación oral que harán los estudiantes en clase. Si un miembro del grupo no puede asistir a una sesión de seguimiento, será evaluado con un cero en aquella sesión. A pesar de ser una actividad de grupo, con una nota por el grupo, esta nota podrá ser modificada a miembros individuales si durante las actividades de evaluación se detecta que la contribución de los miembros no es equilibrada. Esta modificación puede llegar hasta hacer suspender a uno de los miembros si en las actividades de evaluación se pone de manifiesto quesucontribución al proyecto ha sido nula o prácticamente nula.
En caso de no superar el proyecto no habrá recuperación de ningún tipo.
Examen de Recuperación
En caso de que la nota de teoría no llegue al 3,5 o la nota final no llegue a lo aprobado, los estudiantes deberán presentarse a un examen de recuperación donde se evaluará de todos los contenidos de la asignatura realizados a lo largo del curso. En caso de aprobar, la solicitud máxima del examen de recuperación será 5.
Notas importantes
- Esta asignatura no contempla el sistema de evaluación única.
- En esta asignatura, se permite el uso de tecnologías de Inteligencia Artificial (IA), excepto en aquellas actividades que se especifique lo contrario, como parte integrante del desarrollo del trabajo, siempre que el resultado final refleje una contribución significativa del estudiante en el análisis y la reflexión personal. El estudiante deberá identificar claramente qué partes han sido generadas con esta tecnología, especificar las herramientas empleadas e incluir una reflexión crítica sobre cómo éstas han influido en el proceso y el resultado final de la actividad. La no transparencia del uso de la IA se considerará falta de honestidad académica y puede conllevar una penalización en la nota de la actividad, o sanciones mayores en casos de gravedad.
- Sin perjuicio de otras medidas disciplinarias que se estimen oportunas, y de acuerdo con la normativa académica vigente, las actividades de evaluación serán suspendidas con cero (0) siempre que un alumno cometa alguna irregularidad académica que pueda alterar dicha evaluación (por ejemplo,plagio, copia, cesión de copia, ...). Las actividades de evaluación calificadas de esta forma y por este procedimiento no serán recuperables. Si se necesita aprobar alguna de estas actividades de evaluación para aprobar la asignatura, esta asignatura se suspenderá directamente, sin posibilidad de recuperarla en el mismo curso.
- En caso de que el alumno no haga ninguna entrega de problemas, no participe en ninguna evaluación práctica y en ningún de los examenes, la nota correspondiente será no evaluable. En cualquier otro caso, los no presentados computan como un 0 para el cálculo del promedio ponderado.
- Para obtener matrícula de honor, la calificación final debe ser igual o superior a 9 puntos. Debido a que el número de estudiantes con esta distinción no puede exceder el 5% del número total de estudiantes inscritos en el curso, se le otorga a quien tenga la calificación final más alta. En caso de empate, se tendrán en cuenta los resultados de los exámenes parciales.
Bibliografía
Libros:
- Deep Learning, Ian Goodfellow, Yoshua Bengio, and Aaron Courville, MIT Press, 1st Ed. 2016
- Deep learning with Python, François Chollet, Manning Publications, 1st Ed., 2017
- Christopher Bishop & Hugh Bishop, Deep Learning: Foundations and Concepts, 2023.
- Pattern Recognition and Machine Learning, Christopher Bishop, Springer, 2011
- Neural Networks for Pattern Recognition, Christopher Bishop, Oxford University Press, 1st ed., 1996
libros online:
- Michael Nielsen’s Neural Networks and Deep Learning, http://neuralnetworksanddeeplearning.com/
- Zhang, Z.C. Lipton, M. Li, A.J. Smola, “Dive into Deep Learning”, 2021, https://d2l.ai/
Software
Para las actividades prácticas del curso usaremos Python (NumPy, MatPlotLib, SciKit Learn), PyTorch, TensorBoard o Weights & Biases para monitorizar los entrenamientos.
Grupos e idiomas de la asignatura
La información proporcionada es provisional hasta el 30 de noviembre. A partir de esta fecha, podrá consultar el idioma de cada grupo a través de este enlace. Para acceder a la información, será necesario introducir el CÓDIGO de la asignatura
| Tipo de docencia | Grupo | Idioma | Semestre | Turno |
|---|---|---|---|---|
| (TE) Teoría | 1 | Catalán | segundo cuatrimestre | manaña-mixto |