Vysvětlitelnost a interpretovatelnost

Porozumění umělé inteligenci

Iason Prassides

Content Developer, DataCamp

Vysvětlitelnost a interpretovatelnost

Vysvětlitelnost: schopnost člověka porozumět výstupům AI, např. předpovědím a rozhodnutím

Vysvětlitelnost v ML klasifikátoru tučňáků

Interpretovatelnost: pochopení interních procesů systémů AI: algoritmus, model, datový tok

Interpretovatelnost v ML modelu založeném na rozhodovacím stromě

Porozumění umělé inteligenci

White-box vs. black-box systémy AI

White-box: transparentní a snadno interpretovatelné modely/systémy

Lineární regrese jako white-box model

Porozumění umělé inteligenci

White-box vs. black-box systémy AI

White-box: transparentní a snadno interpretovatelné modely/systémy

Lineární regrese a rozhodovací strom

Porozumění umělé inteligenci

White-box vs. black-box systémy AI

White-box: transparentní a snadno interpretovatelné modely/systémy

Lineární regrese a rozhodovací strom

Porozumění umělé inteligenci

White-box vs. black-box systémy AI

Black-box: vyšší složitost, malá nebo žádná srozumitelnost

Hluboká neuronová síť jako black-box model

Porozumění umělé inteligenci

White-box vs. black-box systémy AI

Black-box: vyšší složitost, malá nebo žádná srozumitelnost

Hluboká neuronová síť jako black-box model

Porozumění umělé inteligenci

Základní nástroje XAI

XAI: metody a nástroje pro zvýšení transparentnosti a vysvětlitelnosti systémů AI Nástroje XAI

  • Introspekce modelu: zkoumání interních parametrů modelu za účelem pochopení rozhodnutí
Porozumění umělé inteligenci

Základní nástroje XAI

XAI: metody a nástroje pro zvýšení transparentnosti a vysvětlitelnosti systémů AI Nástroje XAI

  • Introspekce modelu: zkoumání interních parametrů modelu za účelem pochopení rozhodnutí
  • Dokumentace modelu: sdílitelná architektura a návrhová rozhodnutí
Porozumění umělé inteligenci

Základní nástroje XAI

XAI: metody a nástroje pro zvýšení transparentnosti a vysvětlitelnosti systémů AI Nástroje XAI

  • Introspekce modelu: zkoumání interních parametrů modelu za účelem pochopení rozhodnutí
  • Dokumentace modelu: sdílitelná architektura a návrhová rozhodnutí
  • Vizualizace modelu: srozumitelné zobrazení datových příznaků a výstupů modelu
Porozumění umělé inteligenci

Nástroje XAI: důležitost příznaků

Důležitost příznaků: vliv nebo příspěvek příznaků (prediktorů) na výstupy modelu

  • Pochopení toho, jak datové modely (ML/DL) rozhodují
  • Detekce a zmírnění problémů, např. předsudků
  • Vliv na výkon modelu při odebrání příznaku

 

SHAP (SHapley Additive exPlanations)

  • Sada nástrojů pro vizualizaci důležitosti příznaků

Vizualizace SHAP pro vysvětlitelnost

Porozumění umělé inteligenci

Nástroje XAI: důležitost příznaků

SHAP (SHapley Additive exPlanations)

Graf důležitosti příznaků SHAP pro model predikce přijetí na univerzitu

Porozumění umělé inteligenci

Nástroje XAI: důležitost příznaků

SHAP (SHapley Additive exPlanations)

 

 

Vizualizace SHAP pro vysvětlitelnost.

Porozumění umělé inteligenci

Nástroje XAI: důležitost příznaků

SHAP (SHapley Additive exPlanations)

Vizualizace SHAP pro vysvětlitelnost

Porozumění umělé inteligenci

Praktické dopady XAI

  • Algoritmická transparentnost:
    • Jak algoritmy zpracovávají data a rozhodují

 

  • Lokální a globální interpretovatelnost:
    • Pochopení chování systému pro konkrétní předpověď vs.
    • Pochopení celkového chování systému na datové sadě nebo problému
  • Etické aspekty:
    • XAI pro řešení etických otázek AI: předsudky, diskriminace, soulad s předpisy atd.

 

  • Spolupráce člověka a AI:
    • Spolehlivá spolupráce založená na důvěře a zpětné vazbě
Porozumění umělé inteligenci

Pojďme si procvičit!

Porozumění umělé inteligenci

Preparing Video For Download...