Princípios orientadores

Sete princípios

Princípios orientadores

Esta secção apresenta os principais princípios que servem de base às boas práticas e aos limites de utilização estabelecidos neste guia.

PRINCÍPIO 01

Proporcionalidade

A utilização da Inteligência Artificial generativa deve ser adequada, necessária e proporcional aos objetivos da tarefa a desenvolver. O recurso a estes sistemas deve acrescentar valor ao processo de trabalho, de ensino, de aprendizagem ou de investigação, evitando a sua utilização quando comprometa a autonomia intelectual, o desenvolvimento de pensamento crítico, a aquisição de conhecimentos e competências, a autenticidade do trabalho produzido ou introduza riscos desnecessários para as pessoas, para a instituição ou para terceiros.

PRINCÍPIO 02

Primazia

O ser humano deve manter, em todos os momentos, a autoridade, a responsabilidade e o controlo efetivo sobre as tarefas, decisões e processos em que recorra à Inteligência Artificial generativa. A utilização destes sistemas deve apoiar, ampliar e potenciar as capacidades humanas, sem substituir o pensamento crítico, o raciocínio, a criatividade, o discernimento ou o julgamento intelectual da pessoa, de sobremaneira importantes em contextos de ensino, aprendizagem e investigação.

PRINCÍPIO 03

Responsabilidade

A utilização da Inteligência Artificial generativa não isenta o ser humano da responsabilidade pelas decisões, conteúdos e ações dela resultantes. Compete ao utilizador assegurar que a utilização destes sistemas respeita os princípios éticos, legais, institucionais e profissionais aplicáveis, assumindo integralmente as consequências da sua utilização.

PRINCÍPIO 04

Transparência

O recurso à Inteligência Artificial generativa deve ser realizado de forma aberta, consciente e justificável, podendo ser explicado e fundamentado sempre que necessário. A utilização destes sistemas não deve ocultar a autoria humana, induzir terceiros em erro quanto à origem dos conteúdos ou comprometer a confiança, a integridade e a credibilidade das atividades em que são utilizados.

PRINCÍPIO 05

Rastreabilidade

A utilização da Inteligência Artificial generativa deve preservar a capacidade de demonstrar a origem, a evolução e a fundamentação do trabalho realizado. O/a utilizador/a deve ser capaz de reconstruir e explicar o processo que conduziu ao resultado, identificar o contributo da ferramenta e o seu próprio contributo intelectual, demonstrando que mantém a autoria do trabalho apresentado. No contexto do ensino e da aprendizagem, deve ainda conseguir evidenciar que adquiriu efetivamente os conhecimentos, as competências e as aptidões que constituem os objetivos da aprendizagem, independentemente do recurso à Inteligência Artificial generativa.

PRINCÍPIO 06

Validação

A utilização responsável da Inteligência Artificial generativa exige que todos os resultados produzidos por estes sistemas sejam considerados potencialmente falíveis e sujeitos a validação humana antes da sua utilização, divulgação ou distribuição. O/a utilizador/a deve verificar criticamente a exatidão, a consistência, a proveniência (nomeadamente em termos de potencial autoria original de conteúdo gerado), a fundamentação e a adequação dos conteúdos gerados, assumindo integral responsabilidade pela sua utilização. A atividade de validação deve, ela própria, resultar de um processo intelectual próprio, capaz de ser explicado, justificado e reconstruído pelo/a utilizador/a.

PRINCÍPIO 07

Proteção de Dados

A utilização da Inteligência Artificial generativa deve preservar a privacidade, a confidencialidade e a segurança da informação. O/a utilizador/a deve conhecer e mitigar os riscos associados ao tratamento de dados por estes sistemas, cumprindo as normas legais e institucionais aplicáveis e recorrendo apenas a ferramentas autorizadas para a finalidade em causa. No contexto da Universidade da Beira Interior, salvo disposição em contrário, a utilização deve restringir-se às plataformas institucionais aprovadas. Em nenhuma circunstância devem ser introduzidos em sistemas não autorizados dados pessoais, dados sensíveis, informação confidencial ou qualquer outro conteúdo cuja divulgação ou tratamento possa comprometer pessoas, organizações ou a própria instituição.

Definições

Definição de uso ético e responsável

O que se entende por uso ético e responsável da Inteligência Artificial varia com o contexto em que a ferramenta é utilizada. O guia distingue três contextos.

Contexto de ensino

Entende-se por Uso Ético e Responsável da Inteligência Artificial no Contexto do Ensino a aplicação consciente, transparente e pedagogicamente fundamentada de sistemas de Inteligência Artificial, orientada pelo respeito pela dignidade humana, pelos direitos fundamentais e pelos valores essenciais do processo ensino-aprendizagem, assegurando a proteção da privacidade e dos dados pessoais, a equidade e a não discriminação, a explicabilidade dos processos automatizados e a responsabilização com supervisão humana, de modo a que a Inteligência Artificial funcione como um instrumento de apoio à aprendizagem, à inovação pedagógica e ao desenvolvimento do pensamento crítico, sem substituir o papel educativo, relacional e formativo dos docentes nem comprometer a integridade académica e a aprendizagem dos estudantes.

Contexto de investigação

Entende-se por Uso Ético e Responsável da Inteligência Artificial no Contexto da Investigação a utilização de sistemas de Inteligência Artificial de forma transparente, rigorosa e responsável, em conformidade com os princípios da integridade científica, da honestidade intelectual e do respeito pelos direitos humanos, assegurando a fiabilidade e verificabilidade dos resultados, a identificação clara do contributo da Inteligência Artificial nos processos de investigação, a identificação da proveniência original (autoria) de resultados gerados por essas ferramentas, a proteção de dados pessoais e sensíveis, a mitigação de enviesamentos e conflitos de interesse, bem como a manutenção da responsabilidade última dos investigadores pelas decisões, interpretações e conclusões científicas produzidas.

Contexto de gestão, apoio técnico e administrativo

Entende-se por Uso Ético e Responsável da Inteligência Artificial no Contexto da Gestão a utilização consciente, transparente e responsável de sistemas de Inteligência Artificial no apoio às atividades de gestão, técnicas e administrativas de uma instituição de ensino superior, orientada pelo respeito pela dignidade humana, pelos direitos fundamentais e pelos princípios da boa administração, assegurando a proteção da privacidade e dos dados pessoais, a equidade e a não discriminação, a transparência e explicabilidade dos processos automatizados, bem como a responsabilização com supervisão humana, de modo a que a Inteligência Artificial funcione como um instrumento de apoio à tomada de decisão, à eficiência organizacional, à qualidade dos serviços e à inovação institucional, sem substituir o julgamento humano, a responsabilidade dos decisores ou o cumprimento das obrigações legais, éticas e regulamentares aplicáveis.

Dos princípios à prática

Consulte as 16 boas práticas e as 10 linhas vermelhas que decorrem destes princípios.

Ver práticas e limites

Transparência na prática

Saiba quando e como declarar o recurso a ferramentas de Inteligência Artificial.

Ver declaração de uso