Le tecnicalità della XAI

Concetti di Explainable Artificial Intelligence (XAI)

Folkert Stijnman

ML Engineer

Explainability

  • Persone con background diversi interpretano i risultati in modo diverso

grafica che spiega le feature dei dati in percentuali

Concetti di Explainable Artificial Intelligence (XAI)

Explainability

  • Persone con background diversi interpretano i risultati in modo diverso

grafica che spiega le feature dei dati in percentuali e parole

Concetti di Explainable Artificial Intelligence (XAI)

Accettare i limiti della XAI

 

  • I modelli più sofisticati sono intrinsecamente complessi: black box
  • Black box: modello in cui il processo decisionale non è facilmente comprensibile dagli umani
  • Trade-off tra performance e explainability

grafica con input noto, punto interrogativo e output

Concetti di Explainable Artificial Intelligence (XAI)

Equilibrio tra complessità e interpretabilità

grafico che mostra una bilancia tra interpretabilità e complessità

  • Non tutti i modelli potenti sacrificano l'interpretabilità
  • Alcune tecniche hanno un po' meno accuratezza ma più interpretabilità
Concetti di Explainable Artificial Intelligence (XAI)

Tecniche nella XAI

  • Modelli interpretabili per design: alberi decisionali, regressione lineare
  • Tecniche di explainability: stimano cosa è successo nel processo decisionale

grafica che mostra un modello interpretabile

Concetti di Explainable Artificial Intelligence (XAI)

Ayo berlatih!

Concetti di Explainable Artificial Intelligence (XAI)

Preparing Video For Download...