Impacto do viés nos dados nas decisões

Dominando o viés de dados

Konstantinos Kattidis

Data Analytics Lead

Viés e ética de dados

• Decisões são tão confiáveis quanto os dados por trás delas
• Quando os dados não estão alinhados aos objetivos, vira um tema de ética de dados
• Ela cobre as obrigações éticas e morais de coletar, analisar e usar dados
• Trata de discriminação, privacidade, transparência e responsabilização

Tratamento injusto e discriminação

• Viés nos dados pode levar a tratamento injusto de pessoas ou grupos
• Dados enviesados podem gerar resultados discriminatórios
• Por exemplo:
  • Amostragem enviesada de compras pode prejudicar certos grupos demográficos
  • Levando a estratégias de marketing enviesadas

Reforço de estereótipos

• Modelos treinados com dados enviesados podem aprender e reforçar vieses sociais existentes
• Suponha que os dados de treino de um algoritmo de recomendação tragam majoritariamente conteúdo de uma ideologia política específica
• O algoritmo pode recomendar conteúdo alinhado à ideologia dominante

Perda de confiança e questões legais

• Quando decisões enviesadas vêm à tona, isso mina a confiança nos dados
• Nos piores casos, gera desafios legais e éticos
• Pode levar a ações judiciais e danos à reputação da organização

Prejuízo ao desempenho e à inovação

• Viés pode levar a decisões abaixo do ideal e prejudicar desempenho e inovação
• Por exemplo:
  • Taxas menores de utilização de uma equipe ocorrem por viés
  • Isso leva a avaliações de desempenho equivocadas
  • Impactando alocação de recursos, eficiência de processos e inovação

O ciclo de feedback do viés

• Vieses podem criar um ciclo de feedback em que vieses históricos são reforçados e perpetuados ao longo do tempo
• Decisões enviesadas geram novos dados enviesados, que influenciam decisões futuras

Vamos praticar!

Dominando o viés de dados