Förklarbarhet och tolkbarhet

Förstå artificiell intelligens

Iason Prassides

Content Developer, DataCamp

Förklarbarhet och tolkbarhet

Förklarbarhet: människors förmåga att förstå och tolka AI-utdata, t.ex. förutsägelser och beslut

Förklarbarhet i en ML-klassificerare för pingviner

Tolkbarhet: förstå AI-systemens interna processer: algoritm, modell och dataflöde

Tolkbarhet i en ML-modell baserad på beslutsträd

Förstå artificiell intelligens

White-box vs black-box AI-system

White-box: transparenta och lättolkade modeller/system

Linjär regression som en white-box-modell

Förstå artificiell intelligens

White-box vs black-box AI-system

White-box: transparenta och lättolkade modeller/system

Linjär regression och beslutsträd

Förstå artificiell intelligens

White-box vs black-box AI-system

White-box: transparenta och lättolkade modeller/system

Linjär regression och beslutsträd

Förstå artificiell intelligens

White-box vs black-box AI-system

Black-box: högre komplexitet, liten eller ingen tolkbarhet

Djupt neuralt nätverk som en black-box-modell

Förstå artificiell intelligens

White-box vs black-box AI-system

Black-box: högre komplexitet, liten eller ingen tolkbarhet

Djupt neuralt nätverk som en black-box-modell

Förstå artificiell intelligens

Grundläggande XAI-verktyg (Explainable AI)

XAI: metoder och verktyg för att öka transparensen och förklarbarhet hos AI-system och modeller XAI-verktyg

  • Modellintrospektering: granskning av modellens interna parametrar för att förstå beslut
Förstå artificiell intelligens

Grundläggande XAI-verktyg (Explainable AI)

XAI: metoder och verktyg för att öka transparensen och förklarbarhet hos AI-system och modeller XAI-verktyg

  • Modellintrospektering: granskning av modellens interna parametrar för att förstå beslut
  • Modelldokumentation: delbar arkitektur och designöverväganden
Förstå artificiell intelligens

Grundläggande XAI-verktyg (Explainable AI)

XAI: metoder och verktyg för att öka transparensen och förklarbarhet hos AI-system och modeller XAI-verktyg

  • Modellintrospektering: granskning av modellens interna parametrar för att förstå beslut
  • Modelldokumentation: delbar arkitektur och designöverväganden
  • Modellvisualisering: lättförståelig representation av särdrag och modellutdata
Förstå artificiell intelligens

XAI-verktyg: särdragsvikt

Särdragsvikt: ett särdrag (prediktor) påverkan på och bidrag till modellens utdata

  • Förstå hur databaserade modeller (ML/DL) fattar beslut
  • Identifiera och motverka problem, t.ex. skevheter
  • Påverkan på modellens prestanda om ett särdrag togs bort

 

SHAP (SHapley Additive exPlanations)

  • Verktygssamling för visualisering av särdragsvikt

SHAP-visualiseringar för förklarbarhet

Förstå artificiell intelligens

XAI-verktyg: särdragsvikt

SHAP (SHapley Additive exPlanations)

SHAP-diagram över särdragsvikt för en modell som förutsäger universitetsantagning

Förstå artificiell intelligens

XAI-verktyg: särdragsvikt

SHAP (SHapley Additive exPlanations)

 

 

SHAP-visualiseringar för förklarbarhet.

Förstå artificiell intelligens

XAI-verktyg: särdragsvikt

SHAP (SHapley Additive exPlanations)

SHAP-visualiseringar för förklarbarhet

Förstå artificiell intelligens

Praktiska konsekvenser av XAI

  • Algoritmisk transparens:
    • Hur algoritmer bearbetar data och fattar beslut

 

  • Lokal och global tolkbarhet:
    • Förstå systembeteendet för en enskild förutsägelse, kontra
    • Förstå systemets övergripande beteende på ett dataset eller problem
  • Etiska överväganden:
    • XAI för att hantera etiska AI-frågor: skevheter, diskriminering, regelefterlevnad m.m.

 

  • Människa–AI-samarbete:
    • Tillförlitligt samarbete grundat på tillit och återkoppling
Förstå artificiell intelligens

Nu kör vi en övning!

Förstå artificiell intelligens

Preparing Video For Download...