Inteligência Artificial Confiável e Responsável

Não tem Fotografia:
João Carlos Raposo Neves
Código:
17924
Ano:
1
Semestre:
S2
Créditos ECTS:
6
Carga Horária:
PL(30H)/T(30H)
Área Científica:
Informática
Objectivos de Aprendizagem:
A disciplina introduz os conceitos fundamentais para o desenvolvimento e avaliação de sistemas de Inteligência Artificial (IA) que sejam transparentes, confiáveis, justos e robustos. Pretende-se que os estudantes compreendam as técnicas para interpretar modelos complexos e mitigar enviesamentos. Além disso, serão abordados conceitos de causalidade e metodologias para inferência causal, essenciais para garantir decisões fundamentadas e éticas.
No final da Unidade Curricular, o estudante deve ser capaz de:
a. Compreender os princípios de IA responsável e confiável (transparência, justiça, robustez, segurança);
b. Aplicar técnicas de interpretabilidade global e local em modelos de aprendizagem automática;
c. Identificar e mitigar enviesamentos em dados e modelos;
d. Avaliar riscos associados a ataques adversariais e incerteza em modelos de aprendizagem automática;
e. Compreender os fundamentos da causalidade e aplicar métodos de inferência causal em dados observacionais.
Conteúdos programáticos:
A. Transparência:
- Técnicas globais de interpretabilidade: Ceteris Paribus, ICE, PDP, ALE
- Técnicas locais de interpretabilidade: Shapley Values, SHAP, LIME
- Interpretabilidade em CNNs: Visualização de filtros e ativações, Maximização de ativações, Network Dissection
- Mapas de Saliência: Backpropagation, Guided-backpropagation, Grad-CAM, DeepLIFT, Integrated Gradients

B. Enviesamento e Justiça:
- Tipos de enviesamento
- Métricas e medidas de mitigação

C. Confiabilidade, Robustez e Segurança:
- Ataques adversariais
- Estimativa de incerteza: Gaussian Process Regression
- Supervisão Humana: HITL, HOTL, HIC, Human-out-of-the-Loop

D. Causalidade:
- Introdução à causalidade: Causalidade vs Correlação
- Potential Outcomes Framework, Average Treatment Effect, RCTs
- Estimativa do efeito causal em dados observacionais: Propensity Score Matching, Variáveis Instrumentais
Metodologias de Ensino e Critérios de Avaliação:
Metodologias de ensino:
• Aulas teóricas;
• Aulas prático-laboratoriais;
• Projetos Individuais;
• Tutoria para esclarecimento de dúvidas e acompanhar o aluno no desenvolvimento do seu projeto.

Métodos e Critérios de Avaliação:
As componentes teóricas e práticas são avaliadas recorrendo a três elementos principais:
- uma prova escrita (T) de avaliação de conhecimentos, com um peso de 55% na nota final;
- um teste prático individual (TI) com peso de 20% na nota final.
- um trabalho prático de grupo (TP) com peso de 25% na nota final.
Classificação Ensino-Aprendizagem (CEA) = 0.55T + 0.2TI + 0.25TP

Admissão ao exame final: CEA >= 6 valores (regulamento da UBI).
Bibliografia principal:
Molnar, C. (2025). Interpretable Machine Learning: A Guide for Making Black Box Models Explainable (3rd ed.).
Munn, M., & Pitman, D. (2022). Explainable AI for Practitioners: Designing and Implementing Explainable ML Solutions. Sebastopol, CA: O’Reilly Media.
Barocas, S., Hardt, M., & Narayanan, A. (2019). Fairness and Machine Learning: Limitations and Opportunities. Cambridge, MA: fairmlbook.org.
Rasmussen, C. E., & Williams, C. K. I. (2006). Gaussian Processes for Machine Learning. Cambridge, MA: MIT Press.
Verbeke, W., Baesens, B., De Smedt, J., De Weerdt, J., & Weytjens, H. (2025). AI for Business: From Data to Decisions. (Preliminary version). AI for Business
Pearl, J. (2009). Causality: Models, Reasoning, and Inference. Cambridge University Press
Língua:
Português