Avenir de l'XAI

Concepts d'Explainable Artificial Intelligence (XAI)

Folkert Stijnman

ML Engineer

Progrès des techniques d'interprétabilité

Plus la complexité augmente, plus le besoin d'XAI grandit
Méthodes sophistiquées et indépendantes du modèle
Outils de visualisation
Interfaces interactives

capture d'écran du titre d'un article intitulé XAI for All: Can Large Language Models Simplify Explainable AI?

¹ Mavrepis, P., Makridis, G., Fatouros, G., Koukos, V., Separdani, M. M., & Kyriazis, D. (2024). XAI for All: Can Large Language Models Simplify Explainable AI?. arXiv preprint arXiv:2401.13110.

Relever le défi de l'évolutivité

Les techniques d'XAI exigent beaucoup de calcul
L'XAI doit suivre la montée de l'usage de l'IA
Intégration à l'infonuagique

graphique représentant plusieurs systèmes d'IA

Approches intersectorielles pour l'XAI

graphique montrant un groupe de personnes de divers horizons qui collaborent

Relier l'IA aux sciences sociales et humaines
Collaboration entre chercheurs en IA, éthicien·ne·s, psychologues et spécialistes des sciences sociales
Intégrer la conception de l'expérience utilisateur (UX)

Défis à venir

Croissance de l'usage des LLM
Réglementations en hausse, p. ex. l'AI Act de l'UE
Bien connaître les enjeux de confidentialité, de biais et d'éthique de tout système d'IA

graphique montrant un avenir où l'IA prend de l'ampleur

¹ https://artificialintelligenceact.eu/

Passons à la pratique !

Concepts d'Explainable Artificial Intelligence (XAI)