Les aspects techniques de la XAI

Concepts d'Explainable Artificial Intelligence (XAI)

Folkert Stijnman

ML Engineer

Explicabilité

• Des personnes aux profils variés interprètent les résultats différemment

Explicabilité

• Des personnes aux profils variés interprètent les résultats différemment

Assumer les limites de la XAI

 

• Les modèles plus sophistiqués sont intrinsèquement complexes : modèles « boîte noire »
• Modèles boîte noire : type de modèle dont le processus décisionnel est difficile à comprendre pour les humains
• Compromis entre performance et explicabilité

Équilibre entre complexité et interprétabilité

• Les modèles puissants ne sacrifient pas tous l'interprétabilité
• Certaines techniques offrent un peu moins de précision mais plus d'interprétabilité

Techniques en XAI

• Modèles interprétables par conception : arbres de décision, régression linéaire
• Techniques d'explicabilité : estiment ce qui s'est passé dans le processus décisionnel

Passons à la pratique !

Concepts d'Explainable Artificial Intelligence (XAI)