IA explicable

Éthique de l'IA

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

Qu'est-ce que l'IA explicable ?

• Systèmes d'IA dont le fonctionnement interne est compris par les humains
• Objectif : Rendre la prise de décision de l'IA claire, compréhensible et explicable
• Permet de mieux appréhender pourquoi et comment l'IA prend des décisions
• Une avancée significative vers une utilisation éthique de l'IA

¹ Icône créée par vectorsmarket15 à partir de www.flaticon.com

Les piliers centraux

• La transparence, l'équité et la responsabilité sont des éléments essentiels
• Les conclusions de l'IA devraient être accessibles et logiques pour les humains

• Explicabilité au coeur de la conception
• Modèles interprétables : arbres de décision ou régression linéaire
• Capacité de visualiser le processus, malgré des performances moindres

¹ Icônes créées par juicy_fish & Becris à partir de www.flaticon.com

Comment cela fonctionne-t-il ?

Comment cela fonctionne-t-il ?

Explications locales interprétables et agnostiques du modèle (LIME)

• LIME en tant que traducteur qui facilite la communication du modèle
• Crée une version simplifiée du processus décisionnel du modèle pour une prédiction spécifique
• Exemple :
  • Explique les prévisions de succès d'un film en fonction de facteurs tels que la notoriété du réalisateur et le budget élevé

¹ Icône réalisée par Freepik, www.flaticon.com

Explications additives de Shapley (SHAP)

• SHAP : Un détective de l'IA, révélant l'importance des caractéristiques
• SHAP en action
  • Directeur : 50 %
  • Distribution : 30 %
  • Genre : 15 %
  • Budget : 5 %

L'avenir de l'XAI

• Il existe de nombreuses autres techniques et approches dans le domaine de la XAI
• L'écart entre l'XIA et l'IA traditionnelle se réduit
• Les recherches en cours améliorent l'interprétabilité de l'IA

Passons à la pratique !

Éthique de l'IA