Imparcialidade em IA: não é um sonho

Ética em IA

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

Imparcialidade em IA

  • Imparcialidade: garantir que nenhum grupo seja favorecido
  • Diz respeito a raça, gênero, situação socioeconômica, etc.

Uma lista de verificação que inclui raça, gênero e status socioeconômico.

  • A IA deve prever os resultados de forma justa
  • Não deve haver viés em relação a um grupo específico

Um X vermelho em cima da palavra “bias”.

Ética em IA

Por que imparcialidade é importante?

  • O processamento rápido da IA pode causar grandes impactos

Um ícone que mostra os impactos em grande escala da IA.

Um ícone que representa a vulnerabilidade.

  • Imparcialidade evita a segmentação negativa de pessoas mais vulneráveis
  • Essencial para implementação responsável da IA, garante consideração igual para todos
1 Ícones de noomtah e Parzival 1997 a partir de www.flaticon.com
Ética em IA

Promover imparcialidade

  • Promover imparcialidade é desafiador, mas possível
  • Reduz possível viés ao omitir certas variáveis
  • Variáveis incluem raça, gênero, idade, status socioeconômico, orientação sexual e religião

Uma pessoa tentando entender a “justiça através da inconsciência”.

Ética em IA

Existem problemas não intencionais

 

  • Vieses não intencionais podem ocorrer mesmo sem percepção

 

  • Estratégias sólidas pra garantir imparcialidade

Um ícone mostrando a radiografia do tórax de um paciente.

1 Ícones de Freepik a partir de www.flaticon.com
Ética em IA

Redução do viés

  • O principal objetivo da imparcialidade em IA é reduzir o viés
  • O primeiro passo é reconhecer que o viés existe
  • Manter-se cético e atento em relação à IA
  • Monitoramento e auditoria frequente para garantir imparcialidade
Ética em IA

Vamos praticar!

Ética em IA

Preparing Video For Download...