Explicabilité et interprétabilité

Comprendre l'intelligence artificielle

Iason Prassides

Content Developer, DataCamp

Explicabilité et interprétabilité

Explicabilité : capacité des humains à accéder aux résultats de l'IA et à les comprendre (p. ex. prédictions, décisions)

Explicabilité dans un outil de classification de manchots par ML

Interprétabilité : comprendre les processus internes des systèmes d'IA (algorithme, modèle, workflow de données)

Interprétabilité d'un modèle ML basé sur un arbre de décision

Systèmes d'IA à boîte blanche ou à boîte noire

Boîte blanche : modèles/systèmes transparents et facilement interprétables

Régression linéaire comme modèle de boîte blanche

Systèmes d'IA à boîte blanche ou à boîte noire

Boîte blanche : modèles/systèmes transparents et facilement interprétables

Régression linéaire et arbre de décision

Systèmes d'IA à boîte blanche ou à boîte noire

Boîte blanche : modèles/systèmes transparents et facilement interprétables

Régression linéaire et arbre de décision

Systèmes d'IA à boîte blanche ou à boîte noire

Boîte noire : complexité plus élevée, degré de compréhensibilité faible ou nul

Le réseau neuronal profond comme modèle de boîte noire

Systèmes d'IA à boîte blanche ou à boîte noire

Boîte noire : complexité plus élevée, degré de compréhensibilité faible ou nul

Le réseau neuronal profond comme modèle de boîte noire

Outils de base de l'IA explicable (XAI)

L’XAI : méthodes et outils permettant d’améliorer la transparence et l’explicabilité des modèles et systèmes d'IA

Introspection du modèle : examen des paramètres du modèle interne pour comprendre les décisions

Outils de base de l'IA explicable (XAI)

L’XAI : méthodes et outils permettant d’améliorer la transparence et l’explicabilité des modèles et systèmes d'IA

Introspection du modèle : examen des paramètres du modèle interne pour comprendre les décisions

Documentation du modèle : architecture partageable et réflexions sur la conception

Outils de base de l'IA explicable (XAI)

L’XAI : méthodes et outils permettant d’améliorer la transparence et l’explicabilité des modèles et systèmes d'IA

Introspection du modèle : examen des paramètres du modèle interne pour comprendre les décisions

Documentation du modèle : architecture partageable et réflexions sur la conception

Visualisation du modèle : représentation compréhensible par des humains des caractéristiques des données et des sorties du modèle

Outils XAI : importance des caractéristiques

Importance des caractéristiques : impact ou contribution des caractéristiques (prédicteurs) dans les résultats du modèle

Comprendre comment les modèles axés sur les données (ML/DL) prennent des décisions
Détecter et atténuer les problèmes (biais…)
Impact de la suppression d'une caractéristique sur la performance du modèle

SHAP (Explications additives Shapley)

Outils pour visualiser l'importance des caractéristiques

Visualisations SHAP pour l'explicabilité

Outils XAI : importance des caractéristiques

SHAP (Explications additives Shapley)

Graphique de l'importance des caractéristiques SHAP pour le modèle de prédiction des admissions à l'université

Outils XAI : importance des caractéristiques

SHAP (Explications additives Shapley)

Visualisations SHAP pour l'explicabilité

Outils XAI : importance des caractéristiques

SHAP (Explications additives Shapley)

Visualisations SHAP pour l'explicabilité

Implications pratiques de la XAI

Transparence algorithmique :
- Comment les algorithmes traitent les données et prennent des décisions

Interprétabilité locale et globale :
- Comprendre le comportement du système pour une prédiction spécifique, vs
- Comprendre le comportement global du système sur un ensemble de données ou un problème

Considérations éthiques :
- L’XAI pour répondre aux préoccupations éthiques liées à l'IA : préjugés, discrimination, conformité, etc.

Collaboration entre l'humain et l’IA :
- Collaboration fiable basée sur la confiance et le retour d'information

Passons à la pratique !

Comprendre l'intelligence artificielle