Limites do aprendizado de máquina

Entendendo Machine Learning

Sara Billen

Curriculum Manager, DataCamp

Qualidade dos dados

Entra lixo, sai lixo

  • Entra lixo, sai lixo
  • A qualidade da saída depende da qualidade da entrada
Entendendo Machine Learning

O que pode dar errado

Recrutamento com viés de gênero da Amazon

Robô olhando para as pessoas com uma lupa

  • Software de recrutamento para ajudar a analisar currículos
  • Preferia homens porque aprendeu com dados de quando mais homens eram contratados
  • Desclassificou currículos que
    • continham a palavra "mulheres"
    • implicavam que o candidato era mulher
Entendendo Machine Learning

O que pode dar errado

O chatbot de IA da Microsoft

Conta de Tay no Twitter

Exemplos de tweets de Tay

Entendendo Machine Learning

Cuidado

sinal de alerta

  • Não confie cegamente no modelo
  • Consciência é fundamental
  • Preste atenção nos dados

$$

Um modelo de aprendizado de máquina é tão bom quanto os dados que você fornece a ele

Entendendo Machine Learning

Garantia de qualidade

  • Dados de alta qualidade exigem:
    • Análise de dados
    • Revisão de discrepâncias
    • Conhecimento do domínio
    • Documentação

lupa sobre os dados

Entendendo Machine Learning

Explicabilidade

Entendendo Machine Learning

Explicabilidade

  • Transparência para aumentar a confiança, a clareza e a compreensão
  • Casos de uso: adoção comercial, supervisão regulatória, minimização de vieses
Entendendo Machine Learning

IA explicável

Caixa preta

  • Aprendizado profundo
  • Melhor para "o quê?"
  • Previsões altamente precisas

IA explicável

  • Aprendizado de máquina tradicional
  • Melhor para "por quê?"
  • Compreensível por humanos
Entendendo Machine Learning

Exemplo: IA explicável

insurance-customer-churn-analytics.jpg

  1. Previsão: O paciente terá diabetes?
  2. Inferência: Por que isso acontecerá?
Entendendo Machine Learning

Exemplo: IA inexplicável

Handwriting.jpg

Somente previsão: Qual letra deve ser?

Entendendo Machine Learning

Vamos praticar!

Entendendo Machine Learning

Preparing Video For Download...