Explicabilitate și interpretabilitate

Înțelegerea Inteligenței Artificiale

Iason Prassides

Content Developer, DataCamp

Explicabilitate și interpretabilitate

Explicabilitate: capacitatea oamenilor de a accesa și înțelege rezultatele AI, ex. predicții, decizii

Explicabilitate într-un clasificator ML de pinguini

Interpretabilitate: înțelegerea proceselor interne ale sistemelor AI: algoritm, model, flux de date

Interpretabilitate într-un model ML bazat pe arbore de decizie

Înțelegerea Inteligenței Artificiale

Sisteme AI white-box vs. black-box

White-box: modele/sisteme transparente și ușor interpretabile

Regresia liniară ca model white-box

Înțelegerea Inteligenței Artificiale

Sisteme AI white-box vs. black-box

White-box: modele/sisteme transparente și ușor interpretabile

Regresie liniară și arbore de decizie

Înțelegerea Inteligenței Artificiale

Sisteme AI white-box vs. black-box

White-box: modele/sisteme transparente și ușor interpretabile

Regresie liniară și arbore de decizie

Înțelegerea Inteligenței Artificiale

Sisteme AI white-box vs. black-box

Black-box: complexitate ridicată, grad redus sau nul de înțelegere

Rețea neuronală profundă ca model black-box

Înțelegerea Inteligenței Artificiale

Sisteme AI white-box vs. black-box

Black-box: complexitate ridicată, grad redus sau nul de înțelegere

Rețea neuronală profundă ca model black-box

Înțelegerea Inteligenței Artificiale

Instrumente de bază XAI (AI Explicabil)

XAI: metode și instrumente pentru creșterea transparenței și explicabilității sistemelor AI Instrumente XAI

  • Introspecția modelului: examinarea parametrilor interni pentru înțelegerea deciziilor
Înțelegerea Inteligenței Artificiale

Instrumente de bază XAI (AI Explicabil)

XAI: metode și instrumente pentru creșterea transparenței și explicabilității sistemelor AI Instrumente XAI

  • Introspecția modelului: examinarea parametrilor interni pentru înțelegerea deciziilor
  • Documentarea modelului: arhitectură și considerații de design partajabile
Înțelegerea Inteligenței Artificiale

Instrumente de bază XAI (AI Explicabil)

XAI: metode și instrumente pentru creșterea transparenței și explicabilității sistemelor AI Instrumente XAI

  • Introspecția modelului: examinarea parametrilor interni pentru înțelegerea deciziilor
  • Documentarea modelului: arhitectură și considerații de design partajabile
  • Vizualizarea modelului: reprezentare intuitivă a caracteristicilor și rezultatelor modelului
Înțelegerea Inteligenței Artificiale

Instrumente XAI: importanța caracteristicilor

Importanța caracteristicilor: impactul sau contribuția caracteristicilor (predictori) asupra rezultatelor modelului

  • Înțelegeți cum iau decizii modelele bazate pe date (ML/DL)
  • Detectați și reduceți probleme, ex. biasuri
  • Impactul asupra performanței modelului dacă o caracteristică ar fi eliminată

 

SHAP (SHapley Additive exPlanations)

  • Instrument de vizualizare a importanței caracteristicilor

Vizualizări SHAP pentru explicabilitate

Înțelegerea Inteligenței Artificiale

Instrumente XAI: importanța caracteristicilor

SHAP (SHapley Additive exPlanations)

Grafic SHAP al importanței caracteristicilor pentru modelul de predicție a admiterii la universitate

Înțelegerea Inteligenței Artificiale

Instrumente XAI: importanța caracteristicilor

SHAP (SHapley Additive exPlanations)

 

 

Vizualizări SHAP pentru explicabilitate.

Înțelegerea Inteligenței Artificiale

Instrumente XAI: importanța caracteristicilor

SHAP (SHapley Additive exPlanations)

Vizualizări SHAP pentru explicabilitate

Înțelegerea Inteligenței Artificiale

Implicații practice ale XAI

  • Transparența algoritmică:
    • Cum procesează algoritmii datele și iau decizii

 

  • Interpretabilitate locală și globală:
    • Înțelegerea comportamentului pentru o predicție specifică, vs.
    • Înțelegerea comportamentului general al sistemului pe un set de date
  • Considerații etice:
    • XAI pentru abordarea problemelor de etică AI: biasuri, discriminare, conformitate etc.

 

  • Colaborarea om-AI:
    • Colaborare fiabilă bazată pe încredere și feedback
Înțelegerea Inteligenței Artificiale

Să exersăm!

Înțelegerea Inteligenței Artificiale

Preparing Video For Download...