Explicabilité et interprétabilité

Comprendre l'intelligence artificielle

Iason Prassides

Content Developer, DataCamp

Explicabilité et interprétabilité

Explicabilité : capacité des humains à accéder aux résultats de l'IA et à les comprendre, p. ex. prédictions, décisions

Explicabilité dans un classifieur de manchots en ML

Interprétabilité : compréhension des processus internes des systèmes d'IA : algorithme, modèle, flux de données

Interprétabilité dans un modèle ML à arbre de décision

Systèmes d'IA boîte blanche vs boîte noire

Boîte blanche : modèles/systèmes transparents et faciles à interpréter

Régression linéaire comme modèle boîte blanche

Systèmes d'IA boîte blanche vs boîte noire

Boîte blanche : modèles/systèmes transparents et faciles à interpréter

Régression linéaire et arbre de décision

Systèmes d'IA boîte blanche vs boîte noire

Boîte blanche : modèles/systèmes transparents et faciles à interpréter

Régression linéaire et arbre de décision

Systèmes d'IA boîte blanche vs boîte noire

Boîte noire : complexité élevée, faible ou nulle compréhensibilité

Réseau neuronal profond comme modèle boîte noire

Systèmes d'IA boîte blanche vs boîte noire

Boîte noire : complexité élevée, faible ou nulle compréhensibilité

Réseau neuronal profond comme modèle boîte noire

Outils de base en IA explicable (XAI)

XAI : méthodes et outils pour accroître la transparence et l'explicabilité des systèmes et modèles d'IA

Introspection du modèle : examiner les paramètres internes pour comprendre les décisions

Outils de base en IA explicable (XAI)

XAI : méthodes et outils pour accroître la transparence et l'explicabilité des systèmes et modèles d'IA

Introspection du modèle : examiner les paramètres internes pour comprendre les décisions

Documentation du modèle : architecture et choix de conception partageables

Outils de base en IA explicable (XAI)

XAI : méthodes et outils pour accroître la transparence et l'explicabilité des systèmes et modèles d'IA

Introspection du modèle : examiner les paramètres internes pour comprendre les décisions

Documentation du modèle : architecture et choix de conception partageables

Visualisation du modèle : représentation conviviale des caractéristiques et des résultats du modèle

Outils XAI : importance des caractéristiques

Importance des caractéristiques : impact ou contribution des caractéristiques (prédicteurs) aux sorties du modèle

Comprendre comment les modèles axés sur les données (ML/DL) prennent des décisions
Détecter et atténuer les problèmes, p. ex. les biais
Effet sur la performance du modèle si une caractéristique est retirée

SHAP (SHapley Additive exPlanations)

Boîte à outils de visualisation de l'importance des caractéristiques

Visualisations SHAP pour l'explicabilité

Outils XAI : importance des caractéristiques

SHAP (SHapley Additive exPlanations)

Graphique d'importance des caractéristiques SHAP pour un modèle d'admission universitaire

Outils XAI : importance des caractéristiques

SHAP (SHapley Additive exPlanations)

Visualisations SHAP pour l'explicabilité.

Outils XAI : importance des caractéristiques

SHAP (SHapley Additive exPlanations)

Visualisations SHAP pour l'explicabilité

Implications pratiques de la XAI

Transparence algorithmique :
- Comment les algorithmes traitent les données et prennent des décisions

Interprétabilité locale et globale :
- Comprendre le comportement pour une prédiction précise, vs
- Comprendre le comportement global sur un ensemble de données ou un problème

Considérations éthiques :
- XAI pour répondre aux enjeux d'IA éthique : biais, discrimination, conformité, etc.

Collaboration humain-IA :
- Collaboration fiable fondée sur la confiance et la rétroaction

Passons à la pratique !

Comprendre l'intelligence artificielle