Uitlegbaarheid en begrijpelijkheid

Artificial Intelligence begrijpen

Iason Prassides

Content Developer, DataCamp

Uitlegbaarheid en begrijpelijkheid

Uitlegbaarheid: dat mensen toegang tot en begrip van resultaten van AI hebben, zoals voorspellingen en beslissingen

Uitlegbaarheid in een ML-pinguïnclassificator

Begrijpelijkheid: begrip van interne werking AI-systemen: algoritme, model, gegevensworkflow

Interpreteerbaarheid in een ML-model op basis van een beslissingsboom

Artificial Intelligence begrijpen

White-box versus black-box AI-systemen

White-box: transparante, makkelijk te begrijpen modellen/systemen

Lineaire regressie als een white box-model

Artificial Intelligence begrijpen

White-box versus black-box AI-systemen

White-box: transparante, makkelijk te begrijpen modellen/systemen

Lineaire regressie en beslissingsboom

Artificial Intelligence begrijpen

White-box versus black-box AI-systemen

White-box: transparante, makkelijk te begrijpen modellen/systemen

Lineaire regressie en beslissingsboom

Artificial Intelligence begrijpen

White-box versus black-box AI-systemen

Black-box: super ingewikkeld, moeilijk te snappen

Diep neuraal netwerk als een black-box-model

Artificial Intelligence begrijpen

White-box versus black-box AI-systemen

Black-box: super ingewikkeld, moeilijk te snappen

Diep neuraal netwerk als een black-box-model

Artificial Intelligence begrijpen

Basisgereedschappen voor verklaarbare AI (XAI)

XAI: manieren en tools om AI-systemen en -modellen beter te begrijpen en uit te leggen XAI-tools

  • Modelintrospectie: interne modelparameters bekijken om beslissingen te begrijpen
Artificial Intelligence begrijpen

Basisgereedschappen voor verklaarbare AI (XAI)

XAI: manieren en tools om AI-systemen en -modellen beter te begrijpen en uit te leggen XAI-tools

  • Modelintrospectie: interne modelparameters bekijken om beslissingen te begrijpen
  • Modeldocumentatie: architectuur en ontwerpoverwegingen die je kunt delen
Artificial Intelligence begrijpen

Basisgereedschappen voor verklaarbare AI (XAI)

XAI: manieren en tools om AI-systemen en -modellen beter te begrijpen en uit te leggen XAI-tools

  • Modelintrospectie: interne modelparameters bekijken om beslissingen te begrijpen
  • Modeldocumentatie: architectuur en ontwerpoverwegingen die je kunt delen
  • Modelvisualisatie: een makkelijke manier om data en modelresultaten te laten zien
Artificial Intelligence begrijpen

XAI-tools: hoe belangrijk zijn functies?

Belang van kenmerken: hoe belangrijk zijn kenmerken (voorspellers) voor wat er uit het model komt?

  • Begrijp hoe datagestuurde modellen (ML/DL) beslissingen nemen
  • Problemen opsporen en oplossen , zoals vooroordelen
  • Wat gebeurt er met de prestaties van het model als een functie wordt weggehaald?

 

SHAP (SHapley Additive exPlanations)

  • Toolbox voor het visualiseren van de belangrijkheid van kenmerken

SHAP-visualisaties voor begrijpelijkheid

Artificial Intelligence begrijpen

XAI-tools: hoe belangrijk zijn functies?

SHAP (SHapley Additive exPlanations)

SHAP-grafiek met het belang van kenmerken voor het voorspellingsmodel voor toelating tot de universiteit

Artificial Intelligence begrijpen

XAI-tools: hoe belangrijk zijn functies?

SHAP (SHapley Additive exPlanations)

 

 

SHAP-visualisaties voor uitlegbaarheid.

Artificial Intelligence begrijpen

XAI-tools: hoe belangrijk zijn functies?

SHAP (SHapley Additive exPlanations)

SHAP-visualisaties voor begrijpelijkheid

Artificial Intelligence begrijpen

Praktische gevolgen van XAI

  • Transparantie van algoritmen:
    • Hoe algoritmen gegevens verwerken en beslissingen nemen

 

  • Lokale en globale begrijpelijkheid:
    • Begrijp hoe het systeem werkt voor een specifieke voorspelling, versus
    • Begrijp hoe het systeem in het algemeen reageert op een dataset of probleem.
  • Ethische overwegingen:
    • XAI pakt ethische AI-kwesties aan: vooroordelen, discriminatie, naleving, enz.

 

  • Samenwerking tussen mensen en AI:
    • Betrouwbare samenwerking gebaseerd op vertrouwen en feedback
Artificial Intelligence begrijpen

Laten we oefenen!

Artificial Intelligence begrijpen

Preparing Video For Download...