
Aprenentatge Automàtic Avançat
Codi: 106575Crèdits: 6
| Titulació | Tipus | Curs |
|---|---|---|
| Intel·ligència Artificial / Bachelor in Artificial Intelligence | OP | 3 |
Professor/a de contacte
- Nom :
- Andrey Barsky
- Correu electrònic :
- andrey.barsky@uab.cat
Idiomes dels grups
Podeu consultar aquesta informació al final del document.
Prerequisits
Es recomana fermament haver cursat les assignatures "Fonaments d'Aprenentatge Automàtic" i "Xarxes Neuronals i Aprenentatge Profund"
Objectius
Aquesta assignatura té com a objectiu oferir una visió general detallada de les tècniques que milloren i optimitzen els models de xarxes neuronals més enllà de la implementació d'arquitectures específiques per a cada tasca. Partint dels coneixements adquirits en assignatures anteriors, aquest curs se centra en metaobjectius que transfereixen, estenen o analitzen el funcionament dels models existents.
Els estudiants aprofundiran en la comprensió de la mecànica de l'aprenentatge profund i abordaran diversos desafiaments pràctics en el desplegament i l'escalat de models de xarxes neuronals en entorns reals. Aprendran a entrenar models en entorns amb recursos limitats; a analitzar-ne el comportament per comprendre els seus casos de fallada; a subvertir models com a adversaris ia dissenyar models segurs davant de la subversió.
En finalitzar l'assignatura, els estudiants hauran desenvolupat les habilitats i experiència necessàries per considerar objectius secundaris en el desenvolupament de models profunds i podran raonar sobre el comportament de les xarxes neuronals a un nivell alt. A més, comptaran amb experiència pràctica en aquestes tècniques avançades d'aprenentatge profund, cosa que els proporcionarà els coneixements necessaris per crear sistemes més adaptables, eficients i robusts.
Resultats d'aprenentatge
- CM07 (Integrar solucions basades en aprenentatge automàtic en el disseny, la implementació i el desplegament d’aplicacions d’intel·ligència artificial.) Integrar solucions basades en aprenentatge automàtic en el disseny, la implementació i el desplegament d’aplicacions d’intel·ligència artificial.
- CM08 (Dissenyar solucions basades en aprenentatge automàtic que contemplin criteris d’equitat, seguretat, privacitat i transparència fent un ús sostenible dels recursos de computació.) Dissenyar solucions basades en aprenentatge automàtic que contemplin criteris d’equitat, seguretat, privacitat i transparència fent un ús sostenible dels recursos de computació.
- KM23 (Explicar els principis i la formulació matemàtica sobre els quals es fonamenten els algoritmes d’aprenentatge automàtic.) Explicar els principis i la formulació matemàtica sobre els quals es fonamenten els algoritmes d’aprenentatge automàtic.
- KM24 (Identificar els avantatges i inconvenients de diferents algoritmes i paradigmes d’aprenentatge en la seva aplicació a problemes d’aprenentatge.) Identificar els avantatges i inconvenients de diferents algoritmes i paradigmes d’aprenentatge en la seva aplicació a problemes d’aprenentatge.
- SM25 (Analitzar de manera crítica i raonada els resultats d’aplicació d’un model d’aprenentatge automàtic en funció dels requeriments del problema.) Analitzar de manera crítica i raonada els resultats d’aplicació d’un model d’aprenentatge automàtic en funció dels requeriments del problema.
- SM26 (Seleccionar els paradigmes, els algoritmes i les arquitectures adequats per a un problema d’aprenentatge, en funció del domini i el tipus de problema, de les dades disponibles i de qualsevol altra restricció o requeriment.) Seleccionar els paradigmes, els algoritmes i les arquitectures adequats per a un problema d’aprenentatge, en funció del domini i el tipus de problema, de les dades disponibles i de qualsevol altra restricció o requeriment.
- SM27 (Utilitzar de manera eficient i òptima els recursos de computació necessaris per a l’entrenament i la validació de models d’aprenentatge.) Utilitzar de manera eficient i òptima els recursos de computació necessaris per a l’entrenament i la validació de models d’aprenentatge.
Continguts
Aprenentatge eficient i escalable
• Transferència d'aprenentatge i adaptació de dominis
• Aprenentatge eficient en paràmetres i compressió de models
• Aprenentatge semi-supervisat i auto-supervisat
Paradigmes avançats d'aprenentatge
• Mètodes de conjunt i distil·lació
• Aprenentatge continu i en línia
• Aprenentatge multi-tasca i meta-aprenentatge
IA responsable i fiable
• Explicabilitat i interpretabilitat
• Robustesa adversarial i seguretat
• Aprenentatge federat i privacitat
Activitats formatives i Metodologia
| Títol | Hores | ECTS | Resultats d'aprenentatge |
|---|---|---|---|
| Estudi individual | 20 | 0,8 | CM07, CM08, KM24, SM25, SM26, SM27 |
| Treball en projectes/exercicis | 42 | 1,68 | CM07, CM08, KM24, SM25, SM26, SM27 |
| Treball en projectes/exercicis | 35 | 1,4 | CM07, CM08, KM24, SM25, SM26, SM27 |
| Sessions de laboratori | 20 | 0,8 | CM07, CM08, SM26, SM27 |
| Classes de Teoria | 20 | 0,8 | KM23, KM24, SM25 |
Els mòduls anteriors sobre aprenentatge automàtic i xarxes neuronals s'han centrat principalment en la teoria de l'aprenentatge i l'optimització pràctica per resoldre tasques específiques. En aquest mòdul, els estudiants aprendran a:
• Resoldre tasques utilitzant xarxes neuronals sota restriccions de disseny estrictes, com ara dades reduïdes, recursos computacionals reduïts o requisits de tasques complexes
• Resoldre metaobjectius que transfereixen o amplien el funcionament normal dels models, com ara sondejar el comportament dels models per entendre els seus processos de decisió o compondre el coneixement de diversos models alhora
• Explotar les vulnerabilitats dels models per subvertir el seu comportament i dissenyar models que siguin segurs i robustos contra aquests atacs
Hi haurà dos tipus de sessions:
Classes de teoria: L'objectiu d'aquestes sessions és que el professor expliqui a els antecedents teòrics de l'assignatura. Per a cadascú dels temes estudiats s'explica la teoria i la formulació matemàtica, així com les solucions algorítmiques corresponents.
Sessions de laboratori: les sessions de laboratori tenen com a objectiu facilitar la interacció, el treball col·laboratiu i reforçar la comprensió dels temes vistos a les classes de teoria. Durant les sessions de laboratori els estudiants treballaran casos pràctics que requereixen el disseny de solucions mitjançant els mètodesestudiats a les classes deteoria. La resolució de problemes s’iniciarà a la classe i es complementarà amb un conjunt setmanal de problemes per treballar a casa.
Les activitats anteriors es complementaran amb un sistema de tutories i consultes fora de l’horari de classes.
Projecte de l'Assignatura: Durant el semestre es farà un projecte, on els alumnes hauran de resoldre un problema específic de certa complexitat. Es treballarà en grups de 2-3 alumnes, on cada membre del grup haurà de contribuir de la mateixa manera a la solució final. Aquests grups de treball es mantindran fins al final del semestre i s'hauran d'autogestionar quant a distribució de rols, planificació del treball, assignació de tasques, gestió dels recursos disponibles, conflictes, etc. Per desenvolupar el projecte, els grups treballaran de forma autònoma, mentre que algunes de les sessions de laboratori es faran servir (1) perquè el professor presenti la temàtica dels projectes i discuteixi els possibles enfocaments, (2) per monitoritzar l'estat del projecte i (3) perquè els equips presentin els resultats finals.
Tota la informació de l’assignatura i els documents relacionats que necessiten els estudiants estaran disponibles al campus virtual (cv.uab.cat).
Uso de IA: En esta asignatura, se desaconseja encarecidamente el uso de tecnologías de Inteligencia Artificial (IA) en las sessions de laboratori, ya que estas tienen como objetivo desarrollar la comprensión teórica y la fluidez práctica, que solose adquieren con la práctica.
Se permite el uso de tecnologías de IA en el contexto del projecte de l'assignatura, con fines como la asistencia a la codificación y la corrección de textos, siempre que el resultado final refleje una contribución significativa del estudiante en el análisis y la reflexión personal. El estudiante debe identificar claramente qué partes se han generado con esta tecnología, especificar las herramientas utilizadas e incluir una reflexión crítica sobre cómo estas han influido en el proceso y el resultado final de la actividad. La falta de transparencia en el uso de la IA se considerará una falta de honestidad académica y podrá conllevar una penalización en la calificación de la actividad, o sanciones mayores en casos graves.
Avaluació
Activitats d'avaluació continuada
| Títol | Pes | Hores | ECTS | Resultats d'aprenentatge |
|---|---|---|---|---|
| Lliurament de problemes | 10% | 5 | 0,2 | CM07, CM08, KM24, SM25, SM26, SM27 |
| Proves pràctiques | 40% | 4 | 0,16 | CM07, CM08, KM23, KM24, SM25, SM26, SM27 |
| Proves escrites | 50% | 4 | 0,16 | CM08, KM23, KM24, SM25, SM26 |
Per avaluar el nivell d'aprenentatge de l'alumne, s'estableix una fórmula que combina l'adquisició de coneixements teòrics i pràctics, i la capacitat de resolució de problemes.
Nota final
La nota final es calcula ponderada de la següent manera i segons les diferents activitats que es duen a terme:
Nota final = 0.5 * Nota de teoria + 0.1 * Nota de problemes + 0.4 * Nota de Projecte
Aquesta fórmula s'aplicarà sempre que la qualificació de l'avaluació teòrica i pràctica sigui superior a 5. No hi ha restricció en la qualificació de la cartera de problemes. Si al fer el càlcul de la fórmula s'obté> = 5 però la nota de teoria o la nota de l'avaluació pràctica no arriba al mínim exigit, s'atorgarà una nota final de 4,5.
Nota de teoria
La nota de teoria té com a objectiu avaluar les habilitats individuals de l'alumne pel que fa al contingut teòric de l'assignatura, això es realitza de forma contínua durant el curs a través de dos exàmens parcials. La qualificació general de teoria és la mitjana de les qualificacions dels dos exàmens parcials.
L'examen parcial # 1 es realitza a meitat de semestre i serveix per eliminar part de la matèria si s'aprova. L'examen parcial # 2 es realitza al final del semestre i serveix per eliminar la part del temari que ve després del parcial 1 si s'aprova.
Aquests exàmens tenen com a objectiu avaluar les habilitats de cada alumne de forma individualitzada, tant en la resolució de problemes utilitzant les tècniques explicades a classe, com valorant el nivell de conceptualització que ha fet l'alumne de les tècniques vistes. Per obtenir una nota de teoria es requerirà que les qualificacions de tots dos exàmens parcials siguin superiors a 4. Si al fer el càlcul de la fórmula s'obté> = 5 però les qualificacions de qualsevol dels dos exàmens parcials no arriben al mínim requerit, llavors la nota final de teoria serà de 4.5.
Examen de recuperació. En cas que la nota de teoria no arriba al nivell adequat per aprovar, els alumnes poden realitzar un examen de recuperació, destinat a recuperar la part reprovada (1, 2 o ambdues) del procés d'avaluació contínua.
Nota de Problemes
L'objectiu dels problemes és que l'alumne s'entreni de manera continuada amb els continguts de l'assignatura i es familiaritzi amb l'aplicació dels conceptes teòrics. Com a prova d'aquest treball se sol·licita el lliurament d'un portafoli amb lessolucions als problemes setmanals.
Nota de Projecte
El projecte d’assignatura té un pes essencial en la nota global de l’assignatura. Desenvolupar el projecte requereix que els estudiants treballin de manera col·laborativa i dissenyin una solució integral al repte definit. A més, els estudiants han de demostrar les seves habilitats de treball en equip i presentar els resultats a classe.
El projecte s'avalua a través dels lliurables, una presentació oral que els estudiants realitzaran a classe i un procés d'autoavaluació. La participació dels estudiants a les tres activitats (preparació del lliurable, presentació i autoavaluació) és necessària per obtenir la qualificació dels projectes. La qualificació es calcula de la manera següent:
Nota Projecte = 0.6 * Nota Lliurable + 0.3 * Nota Presentació + 0.1 * Nota Autoavaluació
Si en fer el càlcul anterior s'obté >= 5 però l'estudiant no va participar en cap de les activitats (lliurables, presentació, autoavaluació), aleshores s'atorgarà una qualificació final de 4.5 al projecte del curs.
En cas de no assolir la nota mínima, el grup podrà recuperar el projecte, amb una nota màxima restringida a 7/10.
Notes importants
Sense perjudici d'altres mesures disciplinàries que s'estimin oportunes, i d'acord amb la normativa acadèmica vigent, les activitats d'avaluació seran suspeses amb zero (0) sempre que un alumne cometi alguna irregularitat acadèmica que pugui alterar aquesta avaluació (per exemple, plagi, còpia, cessió de còpia, ...). Les activitats d'avaluació qualificades d'aquesta forma i per aquest procediment no seran recuperables. Si es necessita aprovar alguna d'aquestes activitats d'avaluació per aprovar l'assignatura, aquesta assignatura es suspendrà directament, sense possibilitat de recuperar-la en el mateix curs.
En cas que l'alumne no faci cap lliurament de problemes, no participi en cap avaluació pràctica i en cap dels exàmens, la nota corresponent serà \"no avaluable\". En qualsevol altre cas, els \"no presentats\" computen com un 0 per al càlcul de la mitjana ponderada.
Per obtenir matrícula d'honor, la qualificació final ha de ser igual o superior a 9 punts. A causa que el nombre d'estudiants amb aquesta distinció no pot excedir el 5% de l'nombre total d'estudiants inscrits al curs, se li atorga a qui tingui la qualificació final més alta. En cas d'empat, es tindran en compte els resultats dels exàmens parcials.
Aquesta mòdul no preveu el sistema d’avaluació única.
Més detalls sobre el procés d'avaluació es faran a classe durant les primeres setmanes del semestre. En cas de discrepància entre aquesta guia i la informació donada a classe, prevaldrà la informació proporcionada a classe.
Bibliografia
Llibres:
- Deep Learning, Ian Goodfellow, Yoshua Bengio, and Aaron Courville, MIT Press, 1st Ed. 2016
- Deep learning with Python, François Chollet, Manning Publications, 2nd Ed., 2022
- Pattern Recognition and Machine Learning, Christopher Bishop, Springer, 2011
Libres en línia:
- Michael Nielsen’s Neural Networks and Deep Learning
- http://neuralnetworksanddeeplearning.com/
- Zhang, Z.C. Lipton, M. Li, A.J. Smola, “Dive into Deep Learning”, 2021
- https://d2l.ai/
Programari
Per a les activitats pràctiques del curs utilitzarem Python (NumPy, MatPlotLib) i PyTorch, aprofitant recursos computacionals de Google Colab o Kaggle.
Grups i idiomes de l'assignatura
La informació proporcionada és provisional fins al 30 de novembre. A partir d'aquesta data, podreu consultar l'idioma de cada grup a través d'aquest enllaç. Per accedir a la informació, caldrà introduir el CODI de l'assignatura
| Tipus de docència | Grup | Idioma | Semestre | Torn |
|---|---|---|---|---|
| (TE) Teoria | 71 | Anglès | primer quadrimestre | tarda |
| (PAUL) Pràctiques d'aula | 711 | Anglès | primer quadrimestre | tarda |