Any acadèmic

Logo UAB
2023/2024

Ètica

Codi: 106559 Crèdits: 6
Titulació Tipus Curs Semestre
2504392 Intel·ligència Artificial FB 2 1

Professor/a de contacte

Nom:
Maria Pilar Dellunde Clave
Correu electrònic:
pilar.dellunde@uab.cat

Idiomes dels grups

Podeu accedir-hi des d'aquest enllaç. Per consultar l'idioma us caldrà introduir el CODI de l'assignatura. Tingueu en compte que la informació és provisional fins a 30 de novembre de 2023.

Equip docent

Miquel Domenech Argemi

Prerequisits

Aquesta assignatura no té prerequisits


Objectius

A partir casos d'estudi reals, aquest curs està dissenyat per introduir als estudiants les implicacions ètiques i socials de la intel·ligència artificial (IA). L'assignatura promourà la incorporació d'estratègies i l'ús d'eines per minimitzar els riscos ètics alhora desenvolupar sistemes d'IA en el marc d'una IA responsable.


Competències

  • Actuar amb responsabilitat ètica i amb respecte pels drets i deures fonamentals, la diversitat i els valors democràtics.
  • Actuar en l’àmbit de coneixement propi avaluant les desigualtats per raó de sexe o gènere. 
  • Comunicar-se de manera efectiva, tant oralment com per escrit, utilitzant adequadament els recursos comunicatius necessaris i adaptant-se a les característiques de la situació i de l’audiència.
  • Concebre, dissenyar, analitzar i implementar agents i sistemes ciberfísics autònoms capaços d’interactuar amb altres agents o persones en entorns oberts, tenint en compte les demandes i necessitats col·lectives.
  • Desenvolupar pensament crític per analitzar de manera fonamentada i argumentada alternatives i propostes tant pròpies com alienes.
  • Identificar, analitzar i avaluar l’impacte ètic i social, el context humà i cultural i les implicacions legals del desenvolupament d’aplicacions d’intel·ligència artificial i de manipulació de dades en diferents àmbits.
  • Que els estudiants tinguin la capacitat de reunir i interpretar dades rellevants (normalment dins de la seva àrea d'estudi) per emetre judicis que incloguin una reflexió sobre temes destacats d'índole social, científica o ètica.
  • Treballar de manera autònoma, amb responsabilitat i iniciativa, planificant i gestionant el temps i els recursos disponibles i adaptant-se a les situacions imprevistes.

Resultats d'aprenentatge

  1. Analitzar críticament els principis, valors i procediments que regeixen l’exercici de la professió. 
  2. Analitzar les desigualtats per raó de sexe o gènere i els biaixos de gènere en l’àmbit de coneixement propi.  
  3. Comprendre les implicacions socials, ètiques i legals de la pràctica professional en IA.
  4. Comunicar-se de manera efectiva, tant oralment com per escrit, utilitzant adequadament els recursos comunicatius necessaris i adaptant-se a les característiques de la situació i de l’audiència.
  5. Desenvolupar pensament crític per analitzar de manera fonamentada i argumentada alternatives i propostes tant pròpies com alienes.
  6. Explicar el codi deontològic, explícit o implícit, de l’àmbit de coneixement propi. 
  7. Identificar els biaixos socials, culturals i econòmics dels algoritmes.
  8. Identificar les principals desigualtats i discriminacions per raó de sexe o gènere presents en la societat. 
  9. Que els estudiants tinguin la capacitat de reunir i interpretar dades rellevants (normalment dins de la seva àrea d'estudi) per emetre judicis que incloguin una reflexió sobre temes destacats d'índole social, científica o ètica.
  10. Saber analitzar casos d’aplicació de la IA des d’un punt de vista ètic, legal i social.
  11. Ser capaç d’incorporar els principis de la recerca i innovació responsable en els desenvolupaments basats en la IA.
  12. Ser capaç d’incorporar valors adequats a les necessitats de les persones en el disseny de dispositius dotats d’IA.
  13. Treballar de manera autònoma, amb responsabilitat i iniciativa, planificant i gestionant el temps i els recursos disponibles i adaptant-se a les situacions imprevistes.
  14. Valorar com els estereotips i els rols de gènere incideixen en l’exercici professional.  
  15. Valorar les dificultats, els prejudicis i les discriminacions que poden incloure les accions o projectes, a curt o llarg termini, en relació amb determinades persones o col·lectius.

Continguts

  1. Introducció: Per què els professionals de la IA haurien d'estudiar ètica?
    1.1. Codi Ètic i de Conducta Professional de l'ACM.
    1.2. Marcs ètics (conseqüencialisme, teoria de la justícia, ètica de la virtut...).
    1.3. Principis ètics (equitat, responsabilitat, justícia, privacitat...).
    1.4. Mediació tecnològica.
    1.5. Moral materialitzada.

2. Recollida de dades i privadesa
2.1. La importància de la privadesa
2.2. Principals tècniques per a la privadesa de dades (anonimat, xifrat, privadesa diferencial...).
2.3. Conflicte entre privadesa i altres valors (seguretat, transparència...).
2.4. L'ús de l'agregació de dades per al modelatge predictiu.
2.5. Privadesa més enllà de les dades (en el context, per disseny,...).
2.6. "Bubble filters" i democràcia.

3. Algorismes, presa de decisions i biaixos
3.1. Ús d'algorismes predictius, amb especial atenció al sistema de justícia penal.
3.2. Definicions tècniques de biaix en resultats algorísmics.
3.3. Discriminació algorísmica directa i indirecta.
3.4. Definició d'equitat i mètriques d'equitat.
3.5. Directrius ètiques per a una IA fiable: AI-Fairness Toolkits.
3.6. Conflicte entre precisió predictiva i altres valors (equitat, transparència...).
3.7. Representació del coneixement normatiu i ètic en IA.

4. Sistemes autònoms i explicabilitat
4.1. L'impacte sobre la responsabilitat  i la rendició de comptes en els sistemes autònoms, centrant-nos en el cas dels vehicles autònoms.
4.2. La importància de les bones explicacions en els sistemes d'IA. 4.3. Eines per a l'explicació.

5. RRI i IA
5.1. Què la RRI?
5.2. RRI aplicada a la IA.

6. Ètica i robòtica
6.1. Robots i societat.
6.2. Reptes ètiques en robòtica.
6.3. Robots de cura/killer robots.


Metodologia

L'orientació del curs és predominantment pràctica. Cada classe començarà generalment amb la presentació d'un cas d'estudi real, que donarà lloc a una discussió grupal. A continuació, s'introduiran i explicaran els conceptes, els mètodes o els sistemes d'IA relacionats amb els reptes ètics plantejats pel cas d'estudi. Finalment, l'alumnat farà pràctiques individuals o grupals per reforçar el seu aprenentatge del contingut de la classe. En algunes sessions es reserva temps per repassar i corregir aquestes pràctiques. Algunes classes consistiran en visites a centres de recerca d'IA.

Nota: es reservaran 15 minuts d'una classe, dins del calendari establert pel centre/titulació, per a la complementació per part de l'alumnat de les enquestes d'avaluació de l'actuació del professorat i d'avaluació de l'assignatura/mòdul.


Activitats formatives

Títol Hores ECTS Resultats d'aprenentatge
Tipus: Dirigides      
Asistència i participació activa a classe 30 1,2 3, 4, 5, 9, 10, 11, 12, 13
Casos d'estudis 50 2 1, 3, 5, 7, 8, 11, 14
Pràctiques i exercicis 50 2 2, 5, 6, 8, 9, 10, 12, 13, 15

Avaluació

L'avaluació es pot dur a terme de dues maneres

Avaluació contínua. Se centrarà principalment en la realització d'exercicis pràctics durant la classe. L'alumnat haurà de completar un total de 10 pràctiques, incloent-hi tasques individuals i grupals. La nota final de l'assignatura es determinarà en funció del rendiment en aquests exercicis pràctics. L'alumnat ha de presentar almenys 7 pràctiques per ser avaluat mitjançant aquesta modalitat. En cas contrari, l'alumnat no haurà superat l'avaluació contínua i, si compleix les condicions pertinents, haurà de presentar-se a la recuperació (vegeu l'apartat Recuperació). 

Avaluació única. Els estudiants hauran de presentar exercicis pràctics.

Recuperació. La prova de recuperació serà un examen final. Per poder presentar-se a la recuperació, l'alumnat haurà d'haver estat prèviament avaluat en un conjunt d'activitats el pes de les quals equivalgui a un mínim de 2/3 parts de la qualificació total (avaluació contínua) o presentar totes les proves pràctiques (avaluació única).

En acomplir cada activitat d'avaluació, el professorat informarà l'alumnat (a Moodle) dels procediments que s'han de seguir per revisar totes les qualificacions concedides i la data en què es farà aquesta revisió.

Els estudiants aconseguiran una qualificació de "No avaluable" tret que hagin presentat més d'1/3 dels ítems d'avaluació.

En cas que un/a alumne/a cometi alguna irregularitat que pugui comportar una variació significativa de la nota atorgada a una activitatd'avaluació, se li donarà un zero per aquesta activitat, amb independència de qualsevol expedient disciplinari que es pugui obrir. En el cas que hi hagi diverses irregularitats en les activitats d'avaluació d'una mateixa assignatura, l'estudiant rebrà un zero com a nota final d'aquesta assignatura.

En el cas que no es puguin portar a terme proves o exàmens presencials, s'adaptaran a un format en línia posat a disposició a través de les eines virtuals de la UAB (es mantindrà la ponderació original). Els deures, les activitats i la participació a classe es realitzaran a través de fòrums, wikis o debats en equips, etc. El professorat s'assegurarà que l'alumnat pugui accedir a aquestes eines virtuals o oferirà alternatives factibles. 


Activitats d'avaluació continuada

Títol Pes Hores ECTS Resultats d'aprenentatge
Pràctiques dels casos d'estudi 1000% 20 0,8 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15

Bibliografia

Margaret A. Boden, AI: Its nature and future, Oxford University Press, 2016.

Mark Coeckelberg, AI Ethics, The MIT Press, 2020. 

Crawford, K. (2021). The atlas of AI: Power, politics, and the planetary costs of artificial intelligence. Yale University Press.   

Fjeld, Jessica, Nele Achten, Hannah Hilligoss, Adam Nagy, and Madhulika Srikumar. "Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights-based Approaches to Principles for AI." Berkman Klein Center for Internet & Society, 2020.

Mehrabi N., Morstatter F., Saxena N-, Lerman K., Galstyan A. A Survey on Bias and Fairness in Machine Learning. Association for Computing Machinery Surveys, (2021), 54(6) 

Sparrow, R. (2007) ‘Killer robots’, Journal of Applied Philosophy, 24(1), pp. 62–77.

Vallès-Peris N and Domènech M (2020) Roboticists’ Imaginaries of Robots for Care: The Radical Imaginary as a Tool for an Ethical Discussion. Engineering Studies, 12 (3): 156-176.

Vallès-Peris, N., Domènech, M. (2021) Caring in the in-between: a proposal to introduce responsible AI and robotics to healthcare. AI & Society.

van de Poel, I. (2020) ‘Embedding Values in Artificial Intelligence (AI) Systems’, Minds and Machines, 30(3), pp. 385–409.

van Wynsberghe, A. (2013) ‘Designing Robots for Care: Care Centered Value-Sensitive Design’, Science and Engineering Ethics, 19(2), pp. 407–433. 

Verbeek, P.-P. (2006) ‘Materializing Morality: Design Ethics and Technological Mediation’, Science, Technology & Human Values, 31(3), pp. 361–380. 


Programari

No hi haurà programari.