Viés em algoritmos

Dominando o viés de dados

Konstantinos Kattidis

Data Analytics Lead

IA e viés de dados

IA tem vários usos:

Recomendações personalizadas
Navegação de rotas

O que acontece se algoritmos ficam tendenciosos contra grupos, como gênero ou raça?

Casos de uso de IA

Viés algorítmico

Viés algorítmico surge quando algoritmos geram erros sistemáticos e repetidos que causam resultados injustos, favorecendo um grupo sobre outro

Abrange vários tipos de viés que podem surgir no desenvolvimento e na implantação de algoritmos

Viés no treinamento do algoritmo

O viés algorítmico muitas vezes começa com viés na coleta de dados
Se os dados de treino não forem representativos ou forem enviesados, o algoritmo aprende e perpetua esses vieses
Exemplo: baixa representação de grupos diversos em um algoritmo de reconhecimento facial

Viés de seleção

Viés na seleção de atributos

Viés na seleção de atributos ocorre quando certos atributos são escolhidos por critérios que levam a resultados injustos ou discriminatórios
Tais atributos incluem raça, gênero ou outras características protegidas
Exemplo: um algoritmo de aprovação de empréstimos supor que renda é o único fator relevante

Viés de avaliação

Usar um conjunto de dados não representativo na fase de teste pode gerar viés de avaliação
Exemplo:
- Um algoritmo de recomendação de filmes
- Testar desempenho em apenas um gênero
- Ignorar que pode falhar em outros, como romance ou comédia

Viés de avaliação, testando apenas um gênero

Viés de automação

Automação do diagnóstico por RM

Tendência de depender demais de sistemas automatizados

Exemplo:
- Um sistema médico para analisar imagens, como RMs
- O viés de automação ocorre se os resultados são aceitos sem revisar ou confirmar
- Isso pode levar a diagnósticos incorretos

Vamos praticar!

Dominando o viés de dados