O que fazer com os vieses de dados?

Introdução à ética de dados

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

O que é viés?

Ilustração de um julgamento tendencioso

Primeira reflexão sobre ética de dados
Preconceito, a favor ou contra uma pessoa, um grupo ou uma ideia; injusto
Ética de dados; viés de dados
Representação inferior, superior ou incorreta
Efeitos prejudiciais se dados tendenciosos forem usados para a tomada de decisões

¹ Ícone criado por noomtah, de www.flaticon.com

A qualquer hora, em qualquer lugar

Em todos os estágios dos dados e ciclos de vida
Coleta de dados
Limpeza, preparação e desenvolvimento de dados
Rotulagem de dados

Ilustração das tendências dos dados em diferentes estágios do ciclo de vida dos dados que alimentam os algoritmos tendenciosos

Vieses específicos dos dados

Viés de processo técnico ou estatístico
- Viés de amostragem: representação
- Viés de medição
- Viés de autorrelato
- Viés de rotulagem
Viés humano e sistemático
- Gender
- Etnia/minorias
- Cultura

Ilustração de um objeto inclinado versus sua imagem real

¹ Ícone criado por Flowicon, de www.flaticon.com

A representação é fundamental

Captura de tela do TED Talk de Joy com uma foto dela usando uma máscara branca

Falta de dados representativos
Reconhecimento facial: melhores resultados com uma máscara branca
Saboneteiras para as mãos para resultados de saúde
Recomendado: Coded bias

¹ https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms

Um espelho para nossos estereótipos

Ilustração dos diferentes sintomas de um ataque cardíaco para um homem com constrição torácica e uma mulher com dor nas costas

Estudos e dados médicos, historicamente realizados em homens brancos
Ex.: os sintomas de ataque cardíaco são diferentes para homens e mulheres
O que acontecerá se você usar um aplicativo de diagnóstico com esses dados?

¹ https://womeningh.org/

Impacto sério

Captura de tela de um diagnóstico de um aplicativo de saúde para sintomas de ataque cardíaco para homens e mulheres

Sintomas de ataque cardíaco: emergência para um homem, ataque de pânico para uma mulher

Muitos e aumentando!

Ilustração dos vários vieses cognitivos

¹ CC por, John Manoogian III (JM3)

Ponta do icebergue

Ilustração de uma ponta de icebergue com vieses estatísticos com os vieses humanos e sistemáticos abaixo

Vieses estatísticos na ponta do icebergue
Preconceito humano e sistemático: mudanças de atitude e sociais
Teste de preconceito, prevenção e mitigação, aberto a feedback

¹ Schwartz, R. , Vassilev, A. , Greene, K. , Perine, L. , Burt, A. and Hall, P. (2022), Towards a Standard for Identifying and Managing Bias in Artificial Intelligence, Instituto Nacional de Padrões e Tecnologia

Vamos praticar!

Introdução à ética de dados