Mitigação de viés

Gestão Responsável de Dados em IA

Maria Prokofieva

Lead ML engineer

Vamos cobrir

• Estratégias ao longo do ciclo do projeto
• Reamostragem e reponderação
• Re-rotulagem e remoção de atributo sensível
• Treinamento adversarial e recalibração do modelo
• Comportamento do usuário
• Restrições de fairness e seleção de algoritmo
• Há outras estratégias

Revisando viés

• Erros sistêmicos ou preconceitos
• Resultados injustos para grupos ou indivíduos

¹ Imagem por Streamline HQ

Viés ao longo do projeto

• Nos dados brutos
• No pré-processamento
• Na modelagem
• Pós-implantação

Viés no pré-processamento

• Reamostragem
• Reponderação
• Re-rotulagem
• Remoção de atributo sensível

Estratégias no pré-processamento

• Reamostragem:
  • Ajuste a distribuição para balancear as classes
• Reponderação:
  • Corrija vieses com pesos de classe, mantendo o tamanho do dataset
• Re-rotulagem:
  • Atualize rótulos para representar melhor o alvo
• Remoção de atributo sensível:
  • Elimine atributos protegidos

Viés na modelagem

• Viés do algoritmo
• Treinamento adversarial
• Restrições de fairness
• Seleção de algoritmo: modelos mais simples, robustos ou generalizáveis

Assessor financeiro

• Viés ligado a desigualdades econômicas regionais
• Treinamento adversarial para corrigir viés
• Árvores de decisão e modelos lineares regularizados

¹ Imagem por Streamline HQ

Viés após implantação e uso

• Monitore viés para evitar drift do modelo
• Recalibração do modelo
• Uso indevido do aplicativo

¹ Imagem por Streamline HQ

Assessor financeiro

Drift do modelo:

• Economia freelancer sub-representada

Uso incorreto:

• Atualização de informações financeiras

¹ Imagem por Streamline HQ

Vamos praticar!

Gestão Responsável de Dados em IA