Limites du machine learning

Comprendre le machine learning

Sara Billen

Curriculum Manager, DataCamp

Qualité des données

Si des déchets entrent, des déchets sortent

  • Si des déchets entrent, des déchets sortent
  • La qualité en sortie dépend de la qualité de l'entrée
Comprendre le machine learning

Et là, c’est le drame

L'outil de recrutement sexiste d'Amazon

Robot regardant les gens avec une loupe

  • Logiciel de recrutement pour faciliter l'examen des CV
  • Il privilégiait les hommes parce qu'il avait appris à partir de données historiques datant d’une époque où les hommes étaient plus nombreux à être embauchés
  • Il déclassait les CV qui
    • contenaient le mot « femmes »
    • sous-entendaient qu’il s’agissait d’une candidate
Comprendre le machine learning

Et là, c’est le drame

Le chatbot d’IA de Microsoft

Compte twitter de Tay

Exemples de tweets de Tay

Comprendre le machine learning

Attention

panneau d'avertissement

  • Ne faites pas aveuglément confiance à votre modèle
  • La prise de conscience est essentielle
  • Faites attention à vos données

$$

La qualité d'un modèle de machine learning dépend des données que vous lui fournissez

Comprendre le machine learning

Assurance qualité

  • Des données de haute qualité nécessitent :
    • Analyse des données
    • Examen des valeurs aberrantes
    • Expertise du domaine
    • Documentation

loupe sur des données

Comprendre le machine learning

Explicabilité

Comprendre le machine learning

Explicabilité

  • Transparence pour gagner en confiance, clarté et compréhension
  • Cas d'utilisation : adoption par les entreprises, supervision réglementaire, minimisation des biais
Comprendre le machine learning

IA explicable

Boîte noire

  • Deep learning
  • Mieux pour « Quoi ? »
  • Des prévisions très précises

IA explicable

  • Machine learning traditionnel
  • Mieux pour « Pourquoi ? »
  • Compréhensible par un humain
Comprendre le machine learning

Exemple : IA explicable

insurance-customer-churn-analytics.jpg

  1. Prédiction : Le patient va-t-il devenir diabétique ?
  2. Inférence : Pourquoi cela se produira-t-il ?
Comprendre le machine learning

Exemple : IA inexplicable

Handwriting.jpg

Prédiction uniquement : De quelle lettre s'agit-il le plus probablement ?

Comprendre le machine learning

Passons à la pratique !

Comprendre le machine learning

Preparing Video For Download...