Spiegabilità e interpretabilità

Comprendere l'intelligenza artificiale

Iason Prassides

Content Developer, DataCamp

Spiegabilità e interpretabilità

Spiegabilità: capacità umana di accedere e comprendere i risultati dell'IA

Spiegabilità in un classificatore ML pinguino

Interpretabilità: comprendere i processi interni dei sistemi IA: algoritmo, modello, flusso dati

Interpretabilità in un modello ML ad albero decisionale

Comprendere l'intelligenza artificiale

Sistemi di intelligenza artificiale white-box vs black-box

White-box: modelli/sistemi trasparenti e facilmente interpretabili

Regressione lineare come modello white box

Comprendere l'intelligenza artificiale

Sistemi di intelligenza artificiale white-box vs black-box

White-box: modelli/sistemi trasparenti e facilmente interpretabili

Regressione lineare e albero decisionale

Comprendere l'intelligenza artificiale

Sistemi di intelligenza artificiale white-box vs black-box

White-box: modelli/sistemi trasparenti e facilmente interpretabili

Regressione lineare e albero decisionale

Comprendere l'intelligenza artificiale

Sistemi di intelligenza artificiale white-box vs black-box

Black-box: complessità maggiore, grado di comprensibilità scarso o nullo

Rete neurale profonda come modello black-box

Comprendere l'intelligenza artificiale

Sistemi di intelligenza artificiale white-box vs black-box

Black-box: complessità maggiore, grado di comprensibilità scarso o nullo

Rete neurale profonda come modello black-box

Comprendere l'intelligenza artificiale

Strumenti di base per l'IA spiegabile (XAI)

Metodi e strumenti per migliorare la trasparenza dei modelli IA. Strumenti XAI

  • Introspezione del modello: esame dei parametri per le decisioni del modello
Comprendere l'intelligenza artificiale

Strumenti di base per l'IA spiegabile (XAI)

Metodi e strumenti per migliorare la trasparenza dei modelli IA. Strumenti XAI

  • Introspezione del modello: esame dei parametri per le decisioni del modello
  • Documentazione del modello: architettura condivisibile e considerazioni sul design
Comprendere l'intelligenza artificiale

Strumenti di base per l'IA spiegabile (XAI)

Metodi e strumenti per migliorare la trasparenza dei modelli IA. Strumenti XAI

  • Introspezione del modello: esame dei parametri per le decisioni del modello
  • Documentazione del modello: architettura condivisibile e considerazioni sul design
  • Visualizzazione del modello: rappresentazione di facile comprensione
Comprendere l'intelligenza artificiale

Strumenti XAI: importanza delle caratteristiche

Importanza delle caratteristiche: impatto o contributo delle caratteristiche (predittori) nei risultati del modello

  • Capire come i modelli guidati dai dati (ML/DL) prendono le decisioni
  • Individuare e ridurre i problemi, ad esempio i pregiudizi.
  • Impatto sulle prestazioni del modello se una caratteristica viene rimossa

 

SHAP (SHapley Additive exPlanations)

  • Toolbox per la visualizzazione dell'importanza delle caratteristiche

Visualizzazioni SHAP per la spiegabilità

Comprendere l'intelligenza artificiale

Strumenti XAI: importanza delle caratteristiche

SHAP (SHapley Additive exPlanations)

Grafico dell'importanza delle caratteristiche SHAP per il modello di previsione dell'ammissione all'università

Comprendere l'intelligenza artificiale

Strumenti XAI: importanza delle caratteristiche

SHAP (SHapley Additive exPlanations)

 

 

Visualizzazioni SHAP per la spiegabilità.

Comprendere l'intelligenza artificiale

Strumenti XAI: importanza delle caratteristiche

SHAP (SHapley Additive exPlanations)

Visualizzazioni SHAP per la spiegabilità

Comprendere l'intelligenza artificiale

Implicazioni pratiche di XAI

  • Trasparenza algoritmica:
    • Come gli algoritmi elaborano i dati e prendono decisioni

 

  • Interpretabilità locale e globale:
    • Comprendere il comportamento del sistema per una specifica previsione, oppure
    • Comprendere il comportamento generale del sistema su un set di dati o su un problema
  • Considerazioni etiche:
    • _ per affrontare le problematiche etiche dell'IA: {{3}}pregiudizi, discriminazione, conformità, ecc.

 

  • Collaborazione tra uomo e IA:
    • Collaborazione affidabile basata su fiducia e feedback
Comprendere l'intelligenza artificiale

Passiamo alla pratica!

Comprendere l'intelligenza artificiale

Preparing Video For Download...