Technické aspekty XAI

Koncepty vysvětlitelné umělé inteligence (XAI)

Folkert Stijnman

ML Engineer

Vysvětlitelnost

  • Osoby s různým zázemím budou výsledky interpretovat odlišně

grafika znázorňující vysvětlení datových příznaků v procentech

Koncepty vysvětlitelné umělé inteligence (XAI)

Vysvětlitelnost

  • Osoby s různým zázemím budou výsledky interpretovat odlišně

grafika znázorňující vysvětlení datových příznaků v procentech a slovech

Koncepty vysvětlitelné umělé inteligence (XAI)

Omezení XAI

 

  • Sofistikovanější modely jsou ze své podstaty složité: modely černé skříňky
  • Modely černé skříňky: typ modelu, u nějž není rozhodovací proces pro člověka snadno srozumitelný
  • Kompromis mezi výkonem a vysvětlitelností

grafika znázorňující známý vstup, otazník a výstup

Koncepty vysvětlitelné umělé inteligence (XAI)

Rovnováha mezi složitostí a interpretovatelností

graf znázorňující váhu mezi interpretovatelností a složitostí

  • Ne všechny výkonné modely obětují interpretovatelnost
  • Některé techniky mají mírně nižší přesnost, ale vyšší interpretovatelnost
Koncepty vysvětlitelné umělé inteligence (XAI)

Techniky v XAI

  • Interpretovatelné modely by design: rozhodovací stromy, lineární regrese
  • Techniky vysvětlitelnosti: poskytují odhad průběhu rozhodovacího procesu

grafika znázorňující interpretovatelný model

Koncepty vysvětlitelné umělé inteligence (XAI)

Pojďme si to procvičit!

Koncepty vysvětlitelné umělé inteligence (XAI)

Preparing Video For Download...