Desafios da IA responsável

Gestão Responsável de Dados em IA

Maria Prokofieva

Lead ML Engineer

Práticas reais de gestão responsável de dados

Complexa

Envolve compensações

Exige julgamento profissional

IA responsável: círculo azul com uma mão segurando um chip de IA ilustrado

Compensações comuns

Compensações

Dimensões de IA responsável

Fatores de negócio

Lucro acima de justiça e privacidade
Receita acima de testes e segurança

Modelos pré-treinados

Reduz custos
Economiza tempo e recursos
Dispensa coleta e treinamento de dados
Pode ter dados de treino enviesados
Falta transparência

modelos pré-treinados

Uso de modelos pré-treinados

Diligência sobre a origem do modelo
Boa reputação
Credibilidade
Rever a documentação do modelo
Testes extras de justiça e viés

Compensação entre métricas

Acurácia acima da justiça
Mesmo em conjuntos balanceados

Compensações de acurácia

Menor acurácia para grupos específicos
Não considera qualidade/quantidade para grupos sub-representados
Privacidade reduz a acurácia

Reconhecimento facial

Compensações de robustez

Compensação entre métricas

Robustez versus viés
Robustez versus justiça

Conduta profissional e deveres de cuidado

Código de ética e conduta
Orientações variam por país e organização
Responsabilidade, não causar dano, justiça
Privacidade e confidencialidade do usuário
Impacto positivo na sociedade
Manter altos padrões
Desenvolver sistemas robustos e seguros
Inclusivos e não discriminatórios

ACM

¹ https://www.acm.org/code-of-ethics

Vamos praticar!

Gestão Responsável de Dados em IA

Preparing Video For Download...