Limiti del machine learning

Capire il Machine Learning

Sara Billen

Curriculum Manager, DataCamp

Qualità dei dati

Garbage in garbage out

  • Garbage in, garbage out
  • La qualità dell'output dipende dalla qualità dell'input
Capire il Machine Learning

Quando tutto va storto

Strumento di selezione del personale con bias di genere di Amazon

Robot che osserva persone con lente d'ingrandimento

  • Software di recruiting per valutare i CV
  • Preferiva gli uomini perché addestrato con dati storici in cui si assumevano più uomini
  • Penalizzava i CV che
    • contenevano la parola "donne"
    • lasciavano intendere che la candidata fosse donna
Capire il Machine Learning

Quando tutto va storto

Chatbot AI di Microsoft

Account Twitter di Tay

Esempi di tweet di Tay

Capire il Machine Learning

Attenzione

cartello di avviso

  • Non fidarti ciecamente del modello
  • La consapevolezza è fondamentale
  • Fai attenzione ai dati

$$

Un modello ML è valido solo quanto i dati che gli dai

Capire il Machine Learning

Assicurazione qualità

  • Dati di qualità richiedono:
    • Analisi dei dati
    • Revisione degli outlier
    • Competenza di dominio
    • Documentazione

lente d'ingrandimento sui dati

Capire il Machine Learning

Spiegabilità

Capire il Machine Learning

Spiegabilità

  • Trasparenza per aumentare fiducia, chiarezza e comprensione
  • Casi d'uso: adozione business, vigilanza normativa, riduzione dei bias
Capire il Machine Learning

AI spiegabile

Scatola nera

  • Deep learning
  • Meglio per il "Cosa?"
  • Predizioni molto accurate

AI spiegabile

  • Machine learning tradizionale
  • Meglio per il "Perché?"
  • Comprensibile alle persone
Capire il Machine Learning

Esempio: AI spiegabile

insurance-customer-churn-analytics.jpg

  1. Predizione: Il paziente svilupperà il diabete?
  2. Inferenza: Perché potrebbe accadere
Capire il Machine Learning

Esempio: AI inspiegabile

Scrittura a mano

Solo predizione: Quale lettera è più probabile?

Capire il Machine Learning

Andiamo a esercitarci!

Capire il Machine Learning

Preparing Video For Download...