Wyjaśnialność i interpretowalność

Wprowadzenie do sztucznej inteligencji

Iason Prassides

Content Developer, DataCamp

Wyjaśnialność i interpretowalność

Wyjaśnialność: zdolność człowieka do rozumienia wyników AI, np. prognoz i decyzji

Wyjaśnialność w klasyfikatorze pingwinów ML

Interpretowalność: rozumienie wewnętrznych procesów systemu AI: algorytmu, modelu, przepływu danych

Interpretowalność w modelu ML opartym na drzewie decyzyjnym

Wprowadzenie do sztucznej inteligencji

Biała skrzynka vs czarna skrzynka

Biała skrzynka: przejrzyste i łatwe do interpretacji modele/systemy

Regresja liniowa jako model białej skrzynki

Wprowadzenie do sztucznej inteligencji

Biała skrzynka vs czarna skrzynka

Biała skrzynka: przejrzyste i łatwe do interpretacji modele/systemy

Regresja liniowa i drzewo decyzyjne

Wprowadzenie do sztucznej inteligencji

Biała skrzynka vs czarna skrzynka

Biała skrzynka: przejrzyste i łatwe do interpretacji modele/systemy

Regresja liniowa i drzewo decyzyjne

Wprowadzenie do sztucznej inteligencji

Biała skrzynka vs czarna skrzynka

Czarna skrzynka: wysoka złożoność, mała lub zerowa zrozumiałość

Głęboka sieć neuronowa jako model czarnej skrzynki

Wprowadzenie do sztucznej inteligencji

Biała skrzynka vs czarna skrzynka

Czarna skrzynka: wysoka złożoność, mała lub zerowa zrozumiałość

Głęboka sieć neuronowa jako model czarnej skrzynki

Wprowadzenie do sztucznej inteligencji

Podstawowe narzędzia XAI

XAI: metody i narzędzia zwiększające przejrzystość i wyjaśnialność systemów AI Narzędzia XAI

  • Introspekcja modelu: analiza wewnętrznych parametrów modelu w celu zrozumienia decyzji
Wprowadzenie do sztucznej inteligencji

Podstawowe narzędzia XAI

XAI: metody i narzędzia zwiększające przejrzystość i wyjaśnialność systemów AI Narzędzia XAI

  • Introspekcja modelu: analiza wewnętrznych parametrów modelu w celu zrozumienia decyzji
  • Dokumentacja modelu: możliwa do udostępnienia architektura i założenia projektowe
Wprowadzenie do sztucznej inteligencji

Podstawowe narzędzia XAI

XAI: metody i narzędzia zwiększające przejrzystość i wyjaśnialność systemów AI Narzędzia XAI

  • Introspekcja modelu: analiza wewnętrznych parametrów modelu w celu zrozumienia decyzji
  • Dokumentacja modelu: możliwa do udostępnienia architektura i założenia projektowe
  • Wizualizacja modelu: czytelna reprezentacja cech danych i wyników modelu
Wprowadzenie do sztucznej inteligencji

Narzędzia XAI: ważność cech

Ważność cech: wpływ cech (predyktorów) na wyniki modelu

  • Zrozumienie, jak modele (ML/DL) podejmują decyzje
  • Wykrywanie i ograniczanie problemów, np. błędów systematycznych
  • Wpływ na wydajność modelu po usunięciu cechy

 

SHAP (SHapley Additive exPlanations)

  • Zestaw narzędzi do wizualizacji ważności cech

Wizualizacje SHAP dla wyjaśnialności

Wprowadzenie do sztucznej inteligencji

Narzędzia XAI: ważność cech

SHAP (SHapley Additive exPlanations)

Wykres ważności cech SHAP dla modelu przewidywania przyjęcia na studia

Wprowadzenie do sztucznej inteligencji

Narzędzia XAI: ważność cech

SHAP (SHapley Additive exPlanations)

 

 

Wizualizacje SHAP dla wyjaśnialności.

Wprowadzenie do sztucznej inteligencji

Narzędzia XAI: ważność cech

SHAP (SHapley Additive exPlanations)

Wizualizacje SHAP dla wyjaśnialności

Wprowadzenie do sztucznej inteligencji

Praktyczne zastosowania XAI

  • Przejrzystość algorytmiczna:
    • Jak algorytmy przetwarzają dane i podejmują decyzje

 

  • Lokalna i globalna interpretowalność:
    • Zrozumienie zachowania systemu dla konkretnej prognozy, vs
    • Zrozumienie ogólnego zachowania systemu na zbiorze danych lub problemie
  • Aspekty etyczne:
    • XAI w odpowiedzi na problemy etyczne AI: błędy systematyczne, dyskryminacja, zgodność itp.

 

  • Współpraca człowieka z AI:
    • Niezawodna współpraca oparta na zaufaniu i informacji zwrotnej
Wprowadzenie do sztucznej inteligencji

Czas na ćwiczenia!

Wprowadzenie do sztucznej inteligencji

Preparing Video For Download...