Interpretabilidade e Causalidade

Não tem Fotografia:
João Carlos Raposo Neves
Código:
16686
Ano:
3
Semestre:
S1
Créditos ECTS:
6
Carga Horária:
PL(30H)/T(30H)
Área Científica:
Informática
Objectivos de Aprendizagem:
A disciplina tem dois grandes objetivos. Por um lado, pretende fornecer uma introdução à área da Interpretabilidade na área da Inteligência Artificial através da apresentação das principais técnicas de explicação do processo de decisão deste tipo de métodos de aprendizagem automática. Por outro lado, pretende introduzir os conceitos principais da área da Causalidade, úteis na área de Ciência de Dados para determinar as causas de um determinado resultado, a partir do desenho de protocolos de inferência causal a partir de dados observacionais.

No final da Unidade Curricular o estudante deve ser capaz de:
a. Conhecer os principais métodos de interpretabilidade que permitem explicar modelos de aprendizagem automática genéricos ou específicos;
b. Compreender os princípios fundamentais da área da causalidade que permitem desenhar protocolos de inferência causal
c. Conhecer os principais métodos de inferência causal a partir de dados observacionais.
Conteúdos programáticos:
A. Introdução à IA Explicável (XAI): Motivação, conceitos fundamentais e categorização das diferentes abordagens.
B. Técnicas globais para explicar o processo de decisão de modelos de aprendizagem automática: Ceteris Paribus, ICE, PDP, ALE.
C. Técnicas locais para explicar o processo de decisão de modelos de aprendizagem automática: LIME; Shapley Values; SHAP.
D. Técnicas de explicação de modelos específicos como redes neuronais convolucionais.
E. Introdução à Causalidade e história dos diferentes modelos causais (Potential Outcomes Framework e Modelos Causais baseados em Grafos)
F. Inferência Causal: Principais estratégias para identificação de relações causais em conjuntos de variáveis: RCTs, backdoor adjustment, variáveis instrumentais.
G. Grafos causais e modelos causais estruturais.
H. Aplicações da Causalidade em problemas de Aprendizagem Automática.
Metodologias de Ensino e Critérios de Avaliação:
Metodologias de ensino:
• Aulas teóricas;
• Aulas prático-laboratoriais;
• Tutoria para esclarecimento de dúvidas e acompanhar o aluno no desenvolvimento dos problemas fornecidos no âmbito das aulas prático-laboratoriais.

Métodos e Critérios de Avaliação:
Avaliação Ensino/Aprendizagem
• T – Prova Escrita: 70% (avaliação individual de conhecimentos teóricos e práticos)
• TP – Teste Prático Individual: 30% (resolução de exercícios utilizando código Python realizado em sala de aula com consulta)
A Classificação de Ensino-Aprendizagem (CEA) é calculada da seguinte forma:
CEA = 0,7T + 0,3TP
O estudante obtém aprovação à unidade curricular, ficando dispensado de exame, se obtiver classificação final igual ou superior a 9,5 valores.

Avaliação por Exame
• E – Prova Escrita: 70% (prova individual escrita)
A classificação final em época de exame leva em conta a nota do teste prático já determinada na fase EA e é calculada pela seguinte fórmula:
Classificação Final = 0,7E + 0,3TP
Bibliografia principal:
Molnar, C. (2025). Interpretable Machine Learning: A Guide for Making Black Box Models Explainable (3rd ed.).
Hernán MA, Robins JM (2020). Causal Inference: What If. Boca Raton: Chapman & Hall/CRC
Facure, M. (2021). Causal Inference for The Brave and True. Retrieved from https://matheusfacure.github.io/python-causality-handbook/
Pearl, J. (2009). Causality: Models, Reasoning, and Inference. Cambridge University Press
Pearl, J., & Mackenzie, D. (2018). The Book of Why: The New Science of Cause and Effect
Língua:
Português
Esta informação promove os seguintes Objetivos de Desenvolvimento Sustentável da ONU:
Garantir o acesso à educação inclusiva, de qualidade e equitativa, e promover oportunidades de aprendizagem ao longo da vida para todos