Techniczne aspekty XAI

Koncepcje wyjaśnialnej sztucznej inteligencji (XAI)

Folkert Stijnman

ML Engineer

Wyjaśnialność

• Osoby z różnych środowisk mogą różnie interpretować wyniki

Wyjaśnialność

• Osoby z różnych środowisk mogą różnie interpretować wyniki

Ograniczenia XAI

 

• Bardziej zaawansowane modele są z natury złożone: modele czarnej skrzynki
• Modele czarnej skrzynki: modele, w których proces decyzyjny nie jest łatwo zrozumiały dla człowieka
• Kompromis między wydajnością a wyjaśnialnością

Równowaga między złożonością a interpretowalnością

• Nie wszystkie zaawansowane modele poświęcają interpretowalność
• Niektóre techniki mają nieco niższą dokładność, ale lepszą interpretowalność

Techniki w XAI

• Modele interpretowalności z założenia: drzewa decyzyjne, regresja liniowa
• Techniki wyjaśnialności: szacują przebieg procesu decyzyjnego

Czas na ćwiczenia!

Koncepcje wyjaśnialnej sztucznej inteligencji (XAI)