Reduzindo vieses na análise de dados

Dominando o viés de dados

Konstantinos Kattidis

Data Analytics Lead

Vencendo vieses cognitivos

• Questione ativamente suposições
• Esteja aberto a interpretações alternativas dos dados
• Examine uma crença que temos e procure onde podemos estar errados
• Essa abordagem se chama teste de hipótese negativo

 

Tratando viés de reporte

• Organizações devem promover uma cultura de transparência, responsabilidade e conduta ética

• Implementar protocolos padronizados de reporte
• Isso ajuda a garantir que a divulgação de dados seja imparcial e completa

Processos de decisão

• Implementar processos estruturados de decisão que incentivem pensamento crítico e diversidade de perspectivas
  • Fazer peer reviews
  • Buscar feedback sobre metodologias de análise

Combatendo viés em algoritmos

• Organizações devem priorizar equidade, transparência e responsabilidade no desenvolvimento e na implantação de algoritmos
• Avaliar rigorosamente os dados de treinamento quanto a representatividade e diversidade
• Avaliar o desempenho do algoritmo em diferentes grupos demográficos
• Promover consciência ética entre cientistas de dados

Design de algoritmos com atenção a vieses

• Engenharia de atributos cuidadosa
  • Selecionar e criar atributos no algoritmo considerando diferentes perspectivas e características
• Restrições de equidade
  • Incluir critérios de equidade direto no treinamento do modelo
  • Ex.: um algoritmo garantindo distribuição parecida entre gêneros ou faixas de renda

Expondo viés algorítmico

• Treinamento adversarial
  • Treinar modelos contra exemplos adversariais feitos para expor e mitigar vieses

• Auditorias de viés
  • Avaliar sistematicamente modelos quanto a viés usando técnicas e métricas específicas (ex.: paridade demográfica)

Usando IA explicável

• IA explicável é essencial para mitigar viés
• Ela mostra como os algoritmos chegam às decisões
• Usuários de dados podem identificar e tratar vieses com mais eficiência

Integrando estratégias de mitigação

• Organizações devem adotar uma abordagem holística que integre estratégias para tratar esses vieses
• Assim, aumentam a integridade, confiabilidade e equidade de suas análises de dados

Vamos praticar!

Dominando o viés de dados