IA explicable

Éthique de l'IA

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

Qu'est-ce que l'IA explicable ?

• Systèmes d'IA dont le fonctionnement interne est compris par les humains
• Objectif : rendre la prise de décision de l'IA claire, compréhensible et explicable
• Aide à comprendre pourquoi et comment l'IA décide
• Étape majeure vers une utilisation éthique de l'IA

¹ Icône créée par vectorsmarket15 sur www.flaticon.com

Les piliers centraux

• Transparence, équité, responsabilisation au cœur
• Les conclusions de l'IA doivent être accessibles et logiques pour les humains

• Modèles conçus avec l'explicabilité au premier plan
• Utilise des modèles interprétables comme les arbres de décision ou la régression linéaire
• La force est de voir le processus, même si la performance est parfois moindre

¹ Icônes créées par juicy_fish et Becris sur www.flaticon.com

Comment ça fonctionne ?

Comment ça fonctionne ?

Local Interpretable Model-agnostic Explanations (LIME)

• LIME joue le rôle de traducteur pour aider le modèle à communiquer
• Crée une version simplifiée du processus décisionnel pour une prédiction donnée
• Exemple :
  • Explique la prédiction d'un succès au cinéma selon la popularité du ou de la réalisateur·trice et un budget élevé

¹ Icône créée par Freepik sur www.flaticon.com

SHapley Additive exPlanations (SHAP)

• SHAP : un détective de l'IA qui révèle l'importance des caractéristiques
• SHAP en action
  • Réalisateur : 50 %
  • Distribution : 30 %
  • Genre : 15 %
  • Budget : 5 %

Avenir de l'XAI

• De nombreuses autres techniques et approches existent en XAI
• L'écart entre XAI et l'IA traditionnelle rétrécit
• La recherche continue améliore l'interprétabilité de l'IA

Passons à la pratique !

Éthique de l'IA