Considerações éticas na tomada de decisão

Desmistificando Decision Science

Akshay Swaminathan

PD Soros Fellow at Stanford University School of Medicine

A responsabilidade da Data Science

  • Data Science impulsiona decisões em diversos setores

  • Uso ético é essencial para confiança e justiça

  ethical.png

Desmistificando Decision Science

Estudo de caso: Optum

  • O algoritmo da Optum favoreceu sem querer pacientes mais saudáveis

    • Projetado para prever necessidades de cuidado, priorizou quem tinha maior gasto em saúde

  • Viés surgiu de suposições erradas sobre os dados

    • Usar gasto como proxy de necessidade gerou disparidades raciais, desfavorecendo quem tem menos acesso a cuidados

  optum.png

Desmistificando Decision Science

Justiça

fairness.png

Privacidade e segurança

privacy.png

Transparência e reprodutibilidade

transp.png

O impacto social dos dados

socialimpact.png

Desmistificando Decision Science

Viés em modelos de Machine Learning

  bias data.png

Viés entra = viés sai

  • Modelos de Machine Learning refletem os vieses e lacunas dos dados de treino

 

É possível medir justiça

  • Avalie o desempenho entre grupos para verificar a justiça
Desmistificando Decision Science

Protegendo dados

Cientistas de decisão e organizações devem garantir tratamento de dados seguro e responsável

Envolve:

  • Infraestrutura segura e proteções atualizadas
  • Acesso restrito: só o mínimo de dados por função
  • Coleta baseada em consentimento para dados pessoais

Por que importa:

  • Vazamentos reduzem a confiança
  • Podem gerar ações judiciais
  • Prejudicam reputação e lucratividade

dataprotection.png

Desmistificando Decision Science

Transparência

 

Garante clareza e responsabilidade

  • Relate fontes de dados, limpeza, métodos de análise, métricas coletadas e níveis de incerteza

Reprodutibilidade

 

Reprodutibilidade gera confiança e credibilidade

  • Outros devem poder repetir a análise com os mesmos dados e métodos e obter os mesmos resultados
Desmistificando Decision Science

Ética no centro da ciência de decisão

Considerações éticas são parte central da decisão responsável

  • Ética não é opcional — é essencial
  • Priorize justiça, equidade e benefício
  • Aplique princípios éticos em todo o ciclo de vida dos dados

ethicssummary.png

Desmistificando Decision Science

Vamos praticar!

Desmistificando Decision Science

Preparing Video For Download...