AI spiegabile

Etica dell'AI

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

Cos’è l’AI spiegabile?

• Sistemi di AI con funzionamento interno comprensibile agli umani
• Obiettivo: rendere le decisioni dell’AI chiare, comprensibili e spiegabili
• Aiuta a capire perché e come l’AI decide
• Passo importante verso un uso etico dell’AI

¹ Icon made by vectorsmarket15 from www.flaticon.com

Pilastri centrali

• Trasparenza, equità, responsabilità sono centrali
• Le conclusioni dell’AI devono essere accessibili e logiche per gli umani

• Modelli progettati con spiegabilità al centro
• Usa modelli interpretabili come alberi decisionali o regressione lineare
• Vantaggio: vedere il processo, anche con prestazioni forse inferiori

¹ Icons made by juicy_fish & Becris from www.flaticon.com

Come funziona?

Come funziona?

Local Interpretable Model-agnostic Explanations (LIME)

• LIME come traduttore che aiuta il modello a comunicare
• Crea una versione più semplice del processo decisionale per una singola previsione
• Esempio:
  • Spiega la previsione del successo di un film in base a fattori come popolarità del regista e alto budget

¹ Icon made by Freepik from www.flaticon.com

SHapley Additive exPlanations (SHAP)

• SHAP: un detective dell’AI che rivela la feature importance
• SHAP in pratica
  • Regista: 50%
  • Cast: 30%
  • Genere: 15%
  • Budget: 5%

Il futuro della XAI

• Esistono molte altre tecniche e approcci in XAI
• Il divario tra XAI e AI tradizionale si riduce
• La ricerca continua migliora l’interpretabilità

Passiamo alla pratica!

Etica dell'AI