Wyjaśnienia niezależne od modelu

Koncepcje wyjaśnialnej sztucznej inteligencji (XAI)

Folkert Stijnman

ML Engineer

Modele czarnej skrzynki

• Wiemy, co jest na wejściu
• Wiemy, co jest na wyjściu
• W środku kryją się liczne parametry wewnętrzne

Wyjaśnienia globalne i lokalne

 

• SHAP (SHapley Additive exPlanations)
• LIME (Local Interpretable Model-agnostic Explanations)

 

SHAP (SHapley Additive exPlanations)

 

• Działa jak detektyw
• Analizuje każdą cechę
• Określa względny wpływ każdego składnika na wynik końcowy

Wartości Shapleya

• Pojęcie z teorii gier kooperacyjnych
• Ocena wpływu cech
• Które cechy mają znaczenie dla predykcji modelu

SHAP – rozpoznawanie obrazów

LIME (Local Interpretable Model-agnostic Explanations)

• Działa jak naukowiec
• Zmiana danych wejściowych, obserwacja wyników
• Co się stanie po zmianie niektórych pikseli?

Budowa samochodu autonomicznego

SHAP

• Rozumienie globalne
• Wpływ cech pojazdu na ogólną wydajność

LIME

• Rozumienie lokalne
• Wpływ cech pojazdu na konkretną decyzję

Czas na ćwiczenia!

Koncepcje wyjaśnialnej sztucznej inteligencji (XAI)