Dimensões de dados responsáveis

Gestão Responsável de Dados em IA

Maria Prokofieva

Lead ML Engineer

Gestão responsável de dados

  • Gestão ética de dados
  • Avaliar modelos com métricas técnicas
  • IA responsável

Dimensões de dados responsáveis

Gestão Responsável de Dados em IA

Neste curso

  • Apresentar dimensões e métricas de IA responsável
  • Aplicar conceitos ao mundo real
  • Visão geral de regulação e licenças
  • Governança e aquisição de dados
  • Validação e mitigação de vieses
Gestão Responsável de Dados em IA

Legalidade

  • Conformidade com leis e regulamentos
  • Garante coleta, processamento e uso corretos dos dados
  • Algumas leis e regulamentos incluem:
    • Leis de proteção de dados
    • Leis de direitos humanos
    • Normas éticas com partes interessadas
    • Podem variar por órgão regulador ou país

Sempre confirme o que se aplica!

Dimensões de dados responsáveis: legalidade

Gestão Responsável de Dados em IA

Justiça

  • Algoritmos e práticas de dados não devem criar desigualdades
  • Tratar todos de forma justa, sem discriminação

Dimensões de dados responsáveis: justiça

Gestão Responsável de Dados em IA

Transparência e responsabilização

  • Como os dados são usados
  • Como o modelo é desenvolvido
  • Como as decisões são tomadas
  • Explique a IA
  • Construa confiança com as partes interessadas

Dimensões de dados responsáveis: transparência e responsabilização

Gestão Responsável de Dados em IA

Diversidade e inclusão

  • Diversidade dos dados
  • Perspectivas e experiências diversas
  • Essencial para mitigar vieses

Dimensões de dados responsáveis: diversidade e inclusão

Gestão Responsável de Dados em IA

Privacidade e segurança

  • Proteção de dados pessoais e sensíveis
  • Respeitar e proteger direitos individuais
  • Proteger dados e modelos contra acesso não autorizado

Dimensões de dados responsáveis: privacidade e segurança

Gestão Responsável de Dados em IA

Ferramenta de contratação com IA da Amazon

  • Amazon: 2015-2017
  • Aquisição de talentos automatizada
  • Uso de IA para classificar candidatos
  • Gerou escândalo e abandono da iniciativa

amazon IA

1 Reuters: https://www.reuters.com/article/idUSKCN1MK0AG/
Gestão Responsável de Dados em IA

Desafios de modelos de IA

O que deu errado?

  • Não era neutra em gênero
  • Dados de treino desequilibrados
  • Avaliou a IA só por métricas técnicas

dados desequilibrados

Gestão Responsável de Dados em IA

Vamos praticar!

Gestão Responsável de Dados em IA

Preparing Video For Download...