Viitorul XAI

Concepte de Inteligență Artificială Explicabilă (XAI)

Folkert Stijnman

ML Engineer

Progrese în tehnicile de interpretabilitate

Pe măsură ce complexitatea crește, crește și nevoia de XAI
Metode sofisticate independente de model
Instrumente de vizualizare
Interfețe interactive

captură de ecran a titlului unui articol intitulat XAI for All: Can Large Language Models Simplify Explainable AI?

¹ Mavrepis, P., Makridis, G., Fatouros, G., Koukos, V., Separdani, M. M., & Kyriazis, D. (2024). XAI for All: Can Large Language Models Simplify Explainable AI?. arXiv preprint arXiv:2401.13110.

Abordarea provocării de scalabilitate

Tehnicile XAI necesită resurse de calcul semnificative
XAI trebuie să scaleze odată cu utilizarea crescândă a IA
Integrare cu cloud computing

grafic reprezentând mai multe sisteme IA

Abordări interdisciplinare ale XAI

grafic reprezentând un grup de persoane din medii diferite care lucrează împreună

Conectarea IA cu științele sociale și umanistice
Colaborare între cercetători IA, eticieni, psihologi și cercetători sociali
Integrarea designului experienței utilizatorului (UX)

Provocări viitoare

Creșterea utilizării LLM
Reglementări în creștere, de exemplu Legea UE privind IA
Important să se cunoască problemele de confidențialitate, prejudecățile și implicațiile etice ale oricărui sistem IA

grafic care arată viitorul în care IA se dezvoltă

¹ https://artificialintelligenceact.eu/

Să exersăm!

Concepte de Inteligență Artificială Explicabilă (XAI)