Ética
Código: 108266Créditos: 3
| Titulación | Tipo | Curso |
|---|---|---|
| Inteligencia Artificial / Bachelor in Artificial Intelligence | OB | 3 |
Profesor/a de contacto
- Nombre :
- Roger Deulofeu Batllori
- Correo electrónico :
- roger.deulofeu@uab.cat
Idiomas de los grupos
Puede consultar esta información al final del documento.
Prerrequisitos
No hay prerequisitos
Objetivos
El objetivo de la asignatura es introducir al estudiante en los principales problemas éticos vinculados al desarrollo y el uso de la inteligencia artificial. A partir de conceptos básicos de teoría ética como el consecuencialismo, la deontología, la autonomía, la responsabilidad o la justicia, el curso analiza casos concretos relacionados con el sesgo algorítmico, la privacidad, la explicabilidad y la opacidad, la autonomía, la toma de decisiones automatizada y la gobernanza de la IA. La asignatura quiere proporcionar herramientas conceptuales y argumentativas para que el estudiante pueda identificar dilemas éticos, evaluar críticamente distintas posiciones y justificar de manera razonada sus propias decisiones profesionales. Esta dimensión es especialmente relevante en la formación de ingenieros e ingenieras, ya que las herramientas que diseñan, desarrollan e implementan pueden tener consecuencias de alto impacto ético y social, y es esencial que sean capaces de anticiparlas, evaluarlas y asumir responsablemente sus implicaciones.
Resultados de aprendizaje
- KM10 (Identificar los mecanismos de protección de la privacidad y la propiedad intelectual en el marco de los sistemas de inteligencia artificial) Identificar los mecanismos de protección de la privacidad y la propiedad intelectual en el marco de los sistemas de inteligencia artificial
- KM11 (Describir la normativa y regulación de la inteligencia artificial en ámbitos nacional, europeo e internacional) Describir la normativa y regulación de la inteligencia artificial en ámbitos nacional, europeo e internacional
- KM12 (Describir los supuestos de responsabilidad civil en el uso de la inteligencia artificial) Describir los supuestos de responsabilidad civil en el uso de la inteligencia artificial
- SM10 (Analizar el impacto en la privacidad y el derecho a la intimidad de las personas de aplicaciones de inteligencia artificial) Analizar el impacto en la privacidad y el derecho a la intimidad de las personas de aplicaciones de inteligencia artificial
- SM12 (Determinar la normativa y regulación aplicables a un caso de uso de la inteligencia artificial) Determinar la normativa y regulación aplicables a un caso de uso de la inteligencia artificial
Contenidos
1. Introducción a la ética de la IA: ¿por qué es importante?
La relevancia social, política y profesional de la reflexión ética sobre la inteligencia artificial.
2. Marcos éticos normativos
Principales enfoques para evaluar acciones, decisiones y tecnologías: consecuencialismo, deontología y ética de la virtud.
3. Libertad, agencia y autonomía
Cómo los sistemas de IA pueden favorecer, limitar o transformar la toma de decisiones humanas y la autonomía individual.
4. Responsabilidad, rendición de cuentas y justicia
La distribución de responsabilidades entre diseñadores, desarrolladores, instituciones y usuarios, y el problema de la equidad en los sistemas de IA.
5. Opacidad, transparencia y confianza
Los retos que plantean los sistemas algorítmicos opacos y el papel de la transparencia en la construcción de una IA fiable.
6. Explicabilidad e interpretabilidad
La importancia de comprender, justificar y comunicar cómo los sistemas de IA producen sus resultados.
7. Privacidad, protección de datos y consentimiento
Cuestiones éticas relacionadas con los datos personales, la vigilancia, el consentimiento y la gobernanza de la información.
Actividades formativas y Metodología
| Título | Horas | ECTS | Resultados de aprendizaje |
|---|---|---|---|
| Participación activa en el aula | 15 | 0,6 | KM10 |
| Debates en clase | 20 | 0,8 | SM10 |
| Prácticas y ejercicios en el aula | 20 | 0,8 | KM11, SM12 |
De forma extraordinaria, durante el curso 2026-2027 no se ofrecerá docencia de esta asignatura, debido a la modificación del Grado en Inteligencia Artificial.
El profesor ofrecerá a los estudiantes matriculados la posibilidad de reunirse en tutoría para discutir el proceso de evaluación.
Evaluación
Actividades de evaluación continuada
| Título | Peso | Horas | ECTS | Resultados de aprendizaje |
|---|---|---|---|---|
| Ensayo filosófico | 20% | 10 | 0,4 | KM10, SM12 |
| Examen | 80% | 10 | 0,4 | KM11, KM12, SM10 |
De forma extraordinaria, la evaluación del curso 2026-2027 se realizará a partir de un examen (80 %) y de un ensayo, previa discusión del tema con el profesor.
El examen deberá prepararse a partir del estudio y análisis crítico de una selección de lecturas de la bibliografía.
Para más información, consultar con el profesor.
Bibliografía
Binns, R. (2018, January). Fairness in machine learning: Lessons from political philosophy. In Conference on fairness, accountability and transparency (pp. 149-159). PMLR.
Boddington, P. (2023). AI ethics. Singapur: Springer International Publishing, 48.
Boge, F.J. (2022). Two Dimensions of Opacity and the Deep Learning Predicament. Minds & Machines 32, 43–75 . https://doi.org/10.1007/s11023-021-09569-4
Burell, J. (2016). How the machine? thinks': Understanding opacity in machine learning algorithms. Big Data & Society.
Creel, K.A. (2020). Transparency in complex computational systmes. Philosophy of Science Vol. 87, No. 4 (October 2020), pp. 568-589 (22 pages)
Coeckelbergh, M. (2020). AI ethics. MIT press.
Cooper, A. F., Moss, E., Laufer, B., & Nissenbaum, H. (2022, June). Accountability in an algorithmic society: relationality, responsibility, and robustness in machine learning. In Proceedings of the 2022 ACM conference on fairness, accountability, and transparency (pp. 864-876).
Diakopoulos, Nicholas. (2020). 'Transparency'. In Markus D. Dubber, Frank Pasquale, and Sunit Das (eds), The Oxford Handbook of Ethics of AI (2020; online edn, Oxford Academic, 9 July 2020),
Dignum, V. (2020). Responsibility and artificial intelligence. The oxford handbook of ethics of AI, 4698, 215.
Floridi, L., & Sanders, J. W. (2004). On the morality of artificial agents. Minds and machines, 14(3), 349-379.
Lara, F., & Deckers, J. (Eds.). (2024). Ethics of artificial intelligence. Springer Nature.
Matthias, A. (2004). The responsibility gap: Ascribing responsibility for the actions of learning automata. Ethics and information technology, 6(3), 175-183.
Mittelstadt, B. D., Allo, P., Taddeo, M., Wachter, S., & Floridi, L. (2016). The ethics of algorithms: Mapping the debate. Big data & society, 3(2), 2053951716679679.
Nissenbaum, H. (1996). Accountability in a computerized society. Science and engineering ethics, 2(1), 25-42.
Prunkl, C. (2024). Human Autonomy at Risk? An Analysis of the Challenges from AI: C. Prunkl. Minds and Machines, 34(3), 26.
Sandel, M. J. (2010). Justice: What's the right thing to do?. Macmillan.
Suresh, H., & Guttag, J. (2021, October). A framework for understanding sources of harm throughout the machine learning life cycle. In Proceedings of the 1st ACM Conference on Equity and Access in Algorithms, Mechanisms, and Optimization (pp. 1-9).
Tigard, D. W. (2021). Artificial moral responsibility: How we can and cannot hold machines responsible. Cambridge Quarterly of Healthcare Ethics, 30(3), 435-447.
Software
No hay programario para esta asignatura.
Grupos e idiomas de la asignatura
La información proporcionada es provisional hasta el 30 de noviembre. A partir de esta fecha, podrá consultar el idioma de cada grupo a través de este enlace. Para acceder a la información, será necesario introducir el CÓDIGO de la asignatura