De technische kant van XAI

Concepten van Explainable Artificial Intelligence (XAI)

Folkert Stijnman

ML Engineer

Uitlegbaarheid

• Mensen met verschillende achtergronden interpreteren resultaten anders

Uitlegbaarheid

• Mensen met verschillende achtergronden interpreteren resultaten anders

Omgaan met de beperkingen van XAI

 

• Geavanceerdere modellen zijn van nature complex: blackbox-modellen
• Blackbox-modellen: modeltype waarvan het beslisproces voor mensen lastig te begrijpen is
• Afweging tussen performance en uitlegbaarheid

Balans tussen complexiteit en uitlegbaarheid

• Niet alle krachtige modellen leveren uitlegbaarheid in
• Sommige technieken zijn iets minder accuraat maar beter uitlegbaar

Technieken in XAI

• Van nature interpreteerbare modellen: beslisbomen, lineaire regressie
• Explainability-technieken: schatten wat er gebeurde in het beslisproces

Laten we oefenen!

Concepten van Explainable Artificial Intelligence (XAI)