Limites de Machine Learning

Comprendre le Machine Learning

Sara Billen

Curriculum Manager, DataCamp

Qualité des données

Déchets en entrée, déchets en sortie

  • Déchets en entrée, déchets en sortie
  • La qualité de la sortie dépend de celle de l'entrée
Comprendre le Machine Learning

Quand tout tourne très mal

L'outil de recrutement biaisé d'Amazon

Robot regardant des personnes avec une loupe

  • Logiciel de recrutement pour aider à examiner les CV
  • Préférait les hommes, ayant appris de données historiques où plus d'hommes étaient embauchés
  • Il a rétrogradé les CV qui
    • contenaient le mot « women »
    • laissaient entendre que la personne était une femme
Comprendre le Machine Learning

Quand tout tourne très mal

Le robot conversationnel IA de Microsoft

Compte Twitter de Tay

Exemples de tweets de Tay

Comprendre le Machine Learning

Attention

panneau de prudence

  • Ne faites pas aveuglément confiance à votre modèle
  • La vigilance est essentielle
  • Surveillez vos données

$$

Un modèle de Machine Learning vaut ce que valent les données fournies

Comprendre le Machine Learning

Assurance qualité

  • Des données de qualité exigent :
    • Analyse des données
    • Revue des valeurs aberrantes
    • Expertise du domaine
    • Documentation

loupe sur des données

Comprendre le Machine Learning

Explicabilité

Comprendre le Machine Learning

Explicabilité

  • Transparence pour accroître la confiance, la clarté et la compréhension
  • Cas d'usage : adoption en affaires, surveillance réglementaire, réduction des biais
Comprendre le Machine Learning

IA explicable

Boîte noire

  • Apprentissage profond
  • Meilleur pour « Quoi ? »
  • Prédictions très exactes

IA explicable

  • Machine Learning traditionnel
  • Meilleur pour « Pourquoi ? »
  • Compréhensible par les humains
Comprendre le Machine Learning

Exemple : IA explicable

insurance-customer-churn-analytics.jpg

  1. Prédiction : La personne aura-t-elle le diabète ?
  2. Inférence : Pourquoi cela se produira-t-il ?
Comprendre le Machine Learning

Exemple : IA inexplicable

Écriture manuscrite.jpg

Prédiction seulement : De quelle lettre s'agit-il probablement ?

Comprendre le Machine Learning

Passons à la pratique !

Comprendre le Machine Learning

Preparing Video For Download...