XAI:s tekniska grunder

Förklarbar artificiell intelligens (XAI) – Koncept

Folkert Stijnman

ML Engineer

Förklarbarhet

  • Personer med olika bakgrunder tolkar resultat på olika sätt

grafik som visar förklaring av datasärdrag i procent

Förklarbar artificiell intelligens (XAI) – Koncept

Förklarbarhet

  • Personer med olika bakgrunder tolkar resultat på olika sätt

grafik som visar förklaring av datasärdrag i procent och ord

Förklarbar artificiell intelligens (XAI) – Koncept

XAI:s begränsningar

 

  • Mer avancerade modeller är i grunden komplexa: black box-modeller
  • Black box-modeller: modelltyp där beslutsprocessen inte är lätt att förstå för människor
  • Avvägning mellan prestanda och förklarbarhet

grafik som visar känd indata, frågetecken och utdata

Förklarbar artificiell intelligens (XAI) – Koncept

Balans mellan komplexitet och tolkbarhet

graf som visar en våg i balans mellan tolkbarhet och komplexitet

  • Inte alla kraftfulla modeller offrar tolkbarhet
  • Vissa tekniker har något lägre noggrannhet men högre tolkbarhet
Förklarbar artificiell intelligens (XAI) – Koncept

Tekniker inom XAI

  • Tolkbara modeller av design: beslutsträd, linjär regression
  • Förklarbarhetstekniker: ger en uppskattning av vad som skedde i beslutsprocessen

grafik som visar en tolkbar modell

Förklarbar artificiell intelligens (XAI) – Koncept

Nu kör vi en övning!

Förklarbar artificiell intelligens (XAI) – Koncept

Preparing Video For Download...