Aspectele tehnice ale XAI

Concepte de Inteligență Artificială Explicabilă (XAI)

Folkert Stijnman

ML Engineer

Explicabilitate

  • Persoane din domenii diferite vor interpreta rezultatele în mod diferit

grafic reprezentând explicarea caracteristicilor datelor în procente

Concepte de Inteligență Artificială Explicabilă (XAI)

Explicabilitate

  • Persoane din domenii diferite vor interpreta rezultatele în mod diferit

grafic reprezentând explicarea caracteristicilor datelor în procente și cuvinte

Concepte de Inteligență Artificială Explicabilă (XAI)

Limitările XAI

 

  • Modelele mai sofisticate sunt inerent complexe: modele tip cutie neagră
  • Modele tip cutie neagră: modele în care procesul de decizie nu este ușor de înțeles de oameni
  • Compromis între performanță și explicabilitate

grafic reprezentând o intrare cunoscută, un semn de întrebare și o ieșire

Concepte de Inteligență Artificială Explicabilă (XAI)

Echilibrul dintre complexitate și interpretabilitate

grafic reprezentând o balanță între interpretabilitate și complexitate

  • Nu toate modelele puternice sacrifică interpretabilitatea
  • Anumite tehnici au o acuratețe ușor mai scăzută, dar o interpretabilitate mai mare
Concepte de Inteligență Artificială Explicabilă (XAI)

Tehnici în XAI

  • Modele interpretabile prin design: arbori de decizie, regresie liniară
  • Tehnici de explicabilitate: oferă o estimare a procesului de luare a deciziilor

grafic reprezentând un model interpretabil

Concepte de Inteligență Artificială Explicabilă (XAI)

Să exersăm!

Concepte de Inteligență Artificială Explicabilă (XAI)

Preparing Video For Download...