Futuro della XAI

Concetti di Explainable Artificial Intelligence (XAI)

Folkert Stijnman

ML Engineer

Progressi nelle tecniche di interpretabilità

Cresce la complessità, cresce il bisogno di XAI
Metodi sofisticati e agnostici al modello
Strumenti di visualizzazione
Interfacce interattive

screenshot del titolo di un paper: XAI for All: Can Large Language Models Simplify Explainable AI?

¹ Mavrepis, P., Makridis, G., Fatouros, G., Koukos, V., Separdani, M. M., & Kyriazis, D. (2024). XAI for All: Can Large Language Models Simplify Explainable AI?. arXiv preprint arXiv:2401.13110.

Affrontare la sfida della scalabilità

Le tecniche XAI richiedono molte risorse
La XAI deve scalare con l’uso crescente dell’AI
Integrazione con il cloud computing

grafica che raffigura più sistemi di AI

Approcci interdisciplinari alla XAI

grafica con persone di diversi background che lavorano insieme

Collega l’AI con scienze sociali e umanistiche
Collaborazione tra ricercatori AI, eticisti, psicologi e scienziati sociali
Integra il design dell’esperienza utente (UX)

Sfide future

Crescita dell’uso dei LLM
Regolazioni in aumento, ad es. l’AI Act UE
Attenzione a privacy, bias e aspetti etici di ogni sistema AI

grafica che mostra un futuro con crescita dell'AI

¹ https://artificialintelligenceact.eu/

Passons à la pratique !

Concetti di Explainable Artificial Intelligence (XAI)