IA Explicable y Confiable

El objetivo principal de la materia es formar al alumnado en el desarrollo de capacidades para un adecuado tratamiento de la privacidad, confiabilidad, transparencia e interpretabilidad de modelos y resultados asociados a sistemas inteligentes. Se hará especial énfasis en identificar y analizar sesgos y su impacto en el diseño de algoritmos de Inteligencia Artificial. Además de aspectos técnicos, tecnologías disruptivas y herramientas informáticas específicas y generalistas, orientadas a cubrir todas las fases del diseño, análisis y evaluación de sistemas inteligentes, el alumnado aprenderá a conocer y comprender las implicaciones sociales y éticas de la tecnología en general y la Inteligencia Artificial en particular.

Explicabilidad e interpretabilidad. Métodos agnósticos al modelo. Explicaciones basadas en ejemplos. FAT-E (imparcialidad, responsabilidad, transparencia y ética). Estudio y tipos de sesgos. Tipos y modelos de explicación. Metodologías de evaluación. Integridad de datos, privacidad, confidencialidad y robustez de modelos. Confiabilidad por diseño.

En el aula virtual se proporcionarán apuntes o material específico adicional para seguir la materia. Dada la heterogeneidad de los temas a tratar en la asignatura, se proporcionará con cada uno de los temas referencias a recursos bibliográficos y de otro tipo de contenidos (tutoriales, multimedia, etc.) para los aspectos más específicos de la asignatura. Las siguientes referencias son de tipo complementario, tratan aspectos generales relacionados con la IA explicable y confiable.
1. V. Dignum. Responsible Artificial Intelligence. How to Develop and Use AI in a Responsible Way. Springer Nature Switzerland AG, 2019, ISBN: 978-3-030-30370-9, https://doi.org/10.1007/978-3-030-30371-6
2. A. Barredo Arrieta et al., Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI, Information Fusion, 58:82-115, Elsevier 2020, https://doi.org/10.1016/j.inffus.2019.12.012
3. T. Miller, Explanation in artificial intelligence: Insights from the social sciences. Artificial Intelligence, 267:1-38, Elsevier 2019, https://doi.org/10.1016/j.artint.2018.07.007
4. G. Vilone, L. Longo, Notions of explainability and evaluation approaches for Explainable Artificial Intelligence, Information Fusion, 76:89-106, Elsevier 2021, https://doi.org/10.1016/j.inffus.2021.05.009
5. R. Guidotti, A. Monreale, S. Ruggieri, F. Turini, F. Giannotti, D. Pedreschi, A Survey of Methods for Explaining Black Box Models, ACM Computing Surveys, 51(5):1–42, 2019, https://dl.acm.org/doi/10.1145/3236009
6. J.M. Alonso, C. Castiello, L. Magdalena, C. Mencar, Explainable Fuzzy Systems. Paving the way from interpretable fuzzy systems to explainable AI systems. Springer International Publishing, 2021, ISBN: 978-3-030-71098-9, https://doi.org/10.1007/978-3-030-71098-9

Contribuir a conseguir las competencias recogidas en la memoria del título de Máster Universitario en Inteligencia Artificial que se imparte conjuntamente por la Universidad de A Coruña, la Universidad de Santiago de Compostela y la Universidad de Vigo, especialmente:
1) Competencias generales
CG1 - Mantener y extender planteamientos teóricos fundados para permitir la introducción y explotación de tecnologías nuevas y avanzadas en el campo de la Inteligencia Artificial.
CG3 - Buscar y seleccionar la información útil necesaria para resolver problemas complejos, manejando con soltura las fuentes bibliográficas del campo.
2) Competencias básicas
CB6 - Poseer y comprender conocimientos que aporten una base u oportunidad de ser originales en el desarrollo y/o aplicación de ideas, a menudo en un contexto de investigación.
CB7 - Que los estudiantes sepan aplicar los conocimientos adquiridos y su capacidad de resolución de problemas en entornos nuevos o poco conocidos dentro de contextos más amplios (o multidisciplinares) relacionados con su área de estudio.
CB8 - Que los estudiantes sean capaces de integrar conocimientos y enfrentarse a la complejidad de formular juicios a partir de una información que, siendo incompleta o limitada, incluya reflexiones sobre las responsabilidades sociales y éticas vinculadas a la aplicación de sus conocimientos y juicios.
CB9 - Que los estudiantes sepan comunicar sus conclusiones y los conocimientos y razones últimas que las sustentan a públicos especializados y no especializados de un modo claro y sin ambigüedades.
3) Competencias transversales
CT2 - Dominar la expresión y la comprensión de forma oral y escrita de un idioma extranjero.
CT3 - Utilizar las herramientas básicas de las tecnologías de la información y las comunicaciones (TIC) necesarias para el ejercicio de su profesión y para el aprendizaje a lo largo de su vida.
CT4 - Desarrollarse para el ejercicio de una ciudadanía respetuosa con la cultura democrática, los derechos humanos y la perspectiva de género.
CT6 - Adquirir habilidades para la vida y hábitos, rutinas y estilos de vida saludables.
CT8 - Valorar la importancia que tiene la investigación, la innovación y el desarrollo tecnológico en el avance socioeconómico y cultural de la sociedad.
4) Competencias específicas
CE5 - Capacidad para diseñar y desarrollar sistemas inteligentes mediante la aplicación de algoritmos de inferencia, representación del conocimiento y planificación automática.
CE6 - Capacidad para reconocer aquellos problemas que necesiten de una arquitectura distribuida que no esté prefijada durante el diseño del sistema, que serán adecuados para la implementación de sistemas multiagente inteligentes.
CE7 - Capacidad para entender las implicaciones del desarrollo de un sistema inteligente explicable e interpretable.
CE8 - Capacidad para diseñar y desarrollar sistemas inteligentes seguros, en términos de integridad, confidencialidad y robustez.
CE9 - Capacidad para tener un conocimiento profundo de los principios fundamentales y modelos de la computación cuántica y saberlos aplicar para interpretar, seleccionar, valorar, modelar, y crear nuevos conceptos, teorías, usos y desarrollos tecnológicos relacionados con la inteligencia artificial.

La metodología didáctica se basará en el trabajo individual del alumnado, en la discusión con el profesorado en clase y en las tutorías individuales. Habrá dos tipos de clases:
1) Clases de teoría (expositivas): Exposición oral complementada con el uso de medios audiovisuales y la introducción de algunas preguntas dirigidas a los estudiantes, con la finalidad de transmitir conocimientos y facilitar el aprendizaje. Además del tiempo de exposición oral por parte del profesor, esta actividad formativa requiere del alumno la dedicación de un tiempo para preparar y revisar por cuenta propia los materiales objeto de la clase.
2) Clases prácticas de laboratorio (interactivas): clases dedicadas a que el alumnado desarrolle trabajos prácticos que impliquen abordar la resolución de problemas complejos, y el análisis y diseño de soluciones que constituyan un medio para su resolución. Esta actividad puede requerir de los alumnos la presentación oral de los trabajos realizados. Los trabajos realizados por el alumnado se pueden realizar de forma individual o en grupos de trabajo.
Para cada tema o bloque temático de las clases expositivas, el profesorado preparará los contenidos, explicará los objetivos del tema al alumnado en clase, presentará cada tema con el objetivo de facilitar un conjunto de información con alcance concreto, sugerirá bibliografía, proporcionará material de trabajo adicional, etc. Esta metodología docente se aplicará a la actividad formativa "Clases de teoría".
En estas clases expositivas se trabajarán las competencias CG1, CG3, CB6, CB7, CB8, CB9, CE5, CE6, CE7, CE8, CE9. Además, el profesorado propondrá al alumnado un conjunto de actividades a realizar, de forma individual o en grupo (estudio de casos, trabajos, presentaciones, lecturas, etc.). El alumnado deberá entregar obligatoriamente una selección de ellas para su evaluación. Estas actividades permitirán desarrollar las competencias CG3, CB7, CB8, CB9, CT2, CT3, CT4, CT6, CT8, CE7, CE8.
Las clases interactivas se desarrollarán en el Aula de Informática habilitada para ello en cada Universidad, empleando diversas herramientas software para cada uno de los bloques temáticos, abordando prácticas y proyectos con distintos niveles de complejidad. El alumnado trabajará en puestos individuales con el apoyo constante del profesorado. Los guiones de las prácticas serán auto-explicativos permitiendo la realización de los mismos en horario de trabajo personal. La realización de las prácticas permitirá desarrollar las competencias CG1, CG3, CB6, CB7, CB8, CT3, CT8, CE5, CE6, CE7, CE8, CE9. El alumnado puede trabajar la solución a los problemas planteados de forma individual o en grupos. Esta metodología docente se aplicará a la actividad formativa "Clases prácticas de laboratorio" y se podrá aplicar a la actividad formativa de "Sesiones de aprendizaje basado en problemas, seminarios, estudio de casos y proyectos".
Prácticas de laboratorio: el profesorado de la materia plantea al alumnado un problema o problemas de carácter práctico cuya resolución requiere la comprensión y aplicación de los contenidos teórico-prácticos incluidos en los contenidos de la materia.
Aprendizaje por proyectos: se plantea al alumnado proyectos prácticos cuyo alcance requiere que se le dedique una parte importante de la dedicación total del alumno a la asignatura. Además, por el alcance de los trabajos a realizar, se requiere que el alumnado aplique competencias de gestión además de competencias de índole técnica.
La docencia estará apoyada por la plataforma virtual del máster de la siguiente manera: repositorio de la documentación relacionada con la materia (textos, presentaciones, etc.) y tutorización virtual del alumnado (correo-e y foros).
Tutorías: el profesorado atenderá al alumnado en sesiones de tutorías individualizadas dedicadas a la orientación en el estudio y la resolución de dudas sobre los contenidos y trabajos de la asignatura.

La evaluación del aprendizaje considera tanto un examen de la parte teórica (45%) como la evaluación de las entregas asociadas a las sesiones interactivas (35%), la entrega de un trabajo personal y la presentación oral del mismo (15%) y la evaluación continua de cada estudiante a lo largo del curso (5%).
Será requisito indispensable aprobar todas las partes (expositiva, interactiva, trabajo, evaluación continua), considerando los siguientes criterios:
1. Examen (45%): la parte teórica de la asignatura se evaluará en un único examen a realizar en la fecha oficial, que constará de preguntas relacionadas con todos los temas del programa. El examen estará orientado especialmente a evaluar la comprensión de los conocimientos expuestos en las clases de teoría. La calificación del examen será la media ponderada de los módulos de la asignatura, que sólo se calculará en el caso de tener calificación igual o superior a 4 en cada módulo.
2. Entregas interactivas (35%): habrá entregas obligatorias asociadas a las sesiones interactivas relacionadas con cada módulo teórico. Se evaluarán las soluciones propuestas por el alumnado a las prácticas planteadas. La evaluación de prácticas puede llevarse a cabo mediante una corrección por parte del profesor, una defensa de la solución aportada por parte del alumno ante el profesor o una presentación oral de la solución desarrollada. (Aplicable a los resultados de las actividades formativas "Clases prácticas de laboratorio", "Aprendizaje basado en problemas, seminarios, estudio de casos y proyectos" y "Realización de trabajos tutelados"). La nota media sólo se calculará en el caso de tener calificación superior o igual a 4/10 en todas las entregas. Además, es obligatoria la asistencia presencial al menos al 60% de las clases interactivas.
3. Trabajo (15%): el alumnado deberá entregar un trabajo personal y hacer la presentación oral del mismo según el calendario que se establezca al inicio del cuatrimestre. La evaluación del trabajo tutelado se llevará a cabo mediante una defensa en la que el alumnado explica su propuesta y conclusiones ante el profesorado, o mediante una presentación oral de la solución ante el aula. La calificación obtenida será la media de la evaluación del trabajo escrito y su presentación oral. Sólo se realizará la media si se obtiene una nota igual o superior a 4 en cada parte.
4. Evaluación continua (5%): Se tendrá en cuenta la asistencia y participación activa del alumnado tanto en las clases expositivas como en la presentación de trabajos, discusiones, seminarios, y en las sesiones interactivas que se celebren a lo largo del curso. Es obligatoria la asistencia al menos al 60% de las sesiones de presentación de trabajos y seminarios.
La calificación final de la materia será la suma de las cuatro calificaciones parciales, excepto en aquellas situaciones indicadas anteriormente. Cuando no se supere alguna de las partes, la calificación final de la oportunidad será el mínimo de las calificaciones parciales.
Obtendrá la calificación de no presentado el alumnado que no haya participado en ninguna de las actividades de evaluación.
El alumnado que tenga exención oficial de asistencia a clase deberá realizar, en todo caso, el examen final escrito, así como todas las entregas de prácticas y trabajos que se establezcan como obligatorios a lo largo del curso y, en su caso, realizar la presentación oral de los mismos. En esta modalidad, la tutorización y las entregas serán virtuales y las presentaciones podrán realizarse de forma telepresencial.
En la segunda oportunidad, el alumnado deberá superar las actividades de evaluación pendientes de la primera oportunidad, de acuerdo con los criterios anteriores.
Para los casos de realización fraudulenta de ejercicios o pruebas será de aplicación lo recogido en la Normativa de evaluación del rendimiento académico del alumnado y de revisión de calificaciones. La copia total o parcial de algún ejercicio de prácticas o teoría supondrá automáticamente una calificación de 0.0 en la asignatura y oportunidad.

Esta materia tiene 3 créditos ECTS, correspondientes a una carga de trabajo total de 75 horas. Este tiempo se puede dividir en las siguientes secciones:
Tiempo de trabajo presencial: 22 horas totales, divididas en 10h (clases expositivas, seminarios, presentación oral de trabajos y discusión asociada), 11h (clases interactivas en el laboratorio), y 1h (tutoría).
Tiempo de trabajo personal: 53 horas totales, divididas en 38h (estudio autónomo de teoría y prácticas) y 15h (trabajos, proyectos y otras actividades).

Se recomienda llevar la asignatura al día y el uso de tutorías para aclarar dudas y asesorar en su desarrollo. Además, se recomienda que el alumnado resuelva, verifique y valide todos los ejercicios y prácticas propuestos a lo largo del curso (no solamente los evaluables).

Medios complementarios a la docencia: curso virtual en la plataforma virtual del máster, elaborado y constantemente actualizado por el profesorado de la asignatura.
La asignatura se impartirá en inglés. La docencia expositiva (10h) será impartida por la USC y retransmitida para todo el alumnado. Habrá un grupo de docencia interactiva específico en cada universidad (11h).