Interpretabilidade e Causalidade

Não tem Fotografia:
João Carlos Raposo Neves
Código:
16686
Ano:
3
Semestre:
S1
Créditos ECTS:
6
Carga Horária:
PL(30H)/T(30H)
Área Científica:
Informática
Objectivos de Aprendizagem:
A disciplina tem dois grandes objetivos. Por um lado, pretende fornecer uma introdução à área da Interpretabilidade na área da Inteligência Artificial através da apresentação das principais técnicas de explicação do processo de decisão deste tipo de métodos de aprendizagem automática. Por outro lado, pretende introduzir os conceitos principais da área da Causalidade, úteis na área de Ciência de Dados para determinar as causas de um determinado resultado, a partir do desenho de protocolos de inferência causal a partir de dados observacionais.

No final da Unidade Curricular o estudante deve ser capaz de:
a. Conhecer os principais métodos de interepretabilidade que permitem explicar modelos de aprendizagem automática genéricos ou específicos;
b. Compreender os princípios fundamentais da área da causalidade que permitem desenhar protocolos de inferência causal
c. Conhecer os principais métodos de inferência causal a partir de dados observacionais.
Conteúdos programáticos:
A. Introdução à IA Explicável (XAI): Motivação, conceitos fundamentais e categorização das diferentes abordagens.
B. Técnicas globais para explicar o processo de decisão de modelos de aprendizagem automática: Ceteris Paribus, ICE, PDP, ALE.
C. Técnicas locais para explicar o processo de decisão de modelos de aprendizagem automática: LIME; Shapley Values; SHAP.
D. Técnicas de explicação de modelos específicos como redes neuronais convolucionais.
E. Introdução à Causalidade e história dos diferentes modelos causais (Potential Outcomes Framework e Modelos Causais baseados em Grafos)
F. Inferência Causal: Principais estratégias para identificação de relações causais em conjuntos de variáveis: RCTs, backdoor adjustment, variáveis instrumentais, DiD, regressão descontínua.
G. Grafos causais e modelos causais estruturais.
H. Aplicações da Causalidade em problemas de Aprendizagem Automática.
Metodologias de Ensino e Critérios de Avaliação:
Metodologias de ensino:
• Aulas teóricas;
• Aulas prático-laboratoriais;
• Projetos Individuais;
• Tutoria para esclarecimento de dúvidas e acompanhar o aluno no desenvolvimento do seu projeto.

Métodos e Critérios de Avaliação:
As componentes teóricas e práticas são avaliadas recorrendo a dois elementos principais:
- uma prova escrita (T) de avaliação de conhecimentos, com um peso de 70% na nota final;
- um trabalho prático individual com relatório de execução e apresentação, com peso de 30% na nota final.
Classificação Ensino-Aprendizagem (CEA) = 0.7T + 0.3TP
Admissão ao exame final: CEA >= 6 valores (regulamento da UBI).
Bibliografia principal:
Molnar, C. (2025). Interpretable Machine Learning: A Guide for Making Black Box Models Explainable (3rd ed.).
Hernán MA, Robins JM (2020). Causal Inference: What If. Boca Raton: Chapman & Hall/CRC
Facure, M. (2021). Causal Inference for The Brave and True. Retrieved from https://matheusfacure.github.io/python-causality-handbook/
Pearl, J. (2009). Causality: Models, Reasoning, and Inference. Cambridge University Press
Pearl, J., & Mackenzie, D. (2018). The Book of Why: The New Science of Cause and Effect
Língua:
Português