Förklara oövervakade modeller

Förklarbar AI i Python

Fouad Trad

Machine Learning Engineer

Klustring

Gruppera liknande datapunkter utan fördefinierade etiketter

Bild som visar data med 2 särdrag uppdelat i 3 kluster, vardera med en centroid.

Silhouette-poäng

Mäter klustringens kvalitet
Varierar från -1 till 1
- 1 → välseparerade kluster

Bild som visar välseparerade kluster.

Silhouette-poäng

Mäter klustringens kvalitet
Varierar från -1 till 1
- 1 → välseparerade kluster
- -1 → punkter felaktigt tilldelade

Bild som visar kluster utan tydlig separation.

Särdragspåverkan på klusterkvalitet

Bild som visar klustringsresultatet för en datamängd med 2 särdrag som matas in i klustringsalgoritmen.

Särdragspåverkan på klusterkvalitet

Bild som visar klustringsresultatet efter att ett särdrag tagits bort och modellen tränats om.

Särdragspåverkan på klusterkvalitet

Bild som visar formeln för att beräkna påverkan av det borttagna sädraget som skillnaden mellan silhouette-poängen med båda särdragen och silhouette-poängen utan sädraget.

$\text{Impact(}f) > 0$ → positivt bidrag för $f$
$\text{Impact(}f) < 0$ → $f$ introducerar brus

Datamängden Student Performance

age	health status	absences	G1	G2	G3
18	3	4	0	11	11
17	3	2	9	11	11
15	3	6	12	13	12
15	5	0	14	14	14
16	5	0	11	13	13

X: array med särdrag

Beräkna särdragspåverkan på klusterkvalitet

from sklearn.cluster import KMeans
from sklearn.metrics import silhouette_score


kmeans = KMeans(n_clusters=2).fit(X)

original_score = silhouette_score(X, kmeans.labels_)


for i in range(X.shape[1]):

    X_reduced = np.delete(X, i, axis=1)

    kmeans.fit(X_reduced)

    new_score = silhouette_score(X_reduced, kmeans.labels_)

    impact = original_score - new_score
    print(f'Feature {column_names[i]}: Impact = {impact}')

Beräkna särdragspåverkan på klusterkvalitet

Feature age: Impact = 0.05199181662741281
Feature health status: Impact = 0.06046737420227638
Feature absences: Impact = 0.031290940582026694
Feature G1: Impact = -0.025746421940652353
Feature G2: Impact = -0.02578292339364119
Feature G3: Impact = -0.03163419458330158

Justerat rand-index (ARI)

Mäter hur väl klustertilldelningar stämmer överens

Bild som visar två liknande klustertilldelningar för en given datamängd.

Maximalt ARI = 1 → perfekt klusteröverensstämmelse

Justerat rand-index (ARI)

Mäter hur väl klustertilldelningar stämmer överens

Bild som visar två olika klustertilldelningar för samma datamängd.

Maximalt ARI = 1 → perfekt klusteröverensstämmelse
Lägre ARI → större skillnad i klustringar

Särdragsvikt för klustertilldelningar

Ta bort ett särdrag i taget
$\text{Importance}(f) = 1 - \text{ARI (original clusters, modifed clusters)}$
Lågt $\text(ARI)$ → högt $\text(1 - ARI)$ → viktigt särdrag

Särdragsvikt för klustertilldelning

from sklearn.metrics import adjusted_rand_score


kmeans = KMeans(n_clusters=2).fit(X)
original_clusters = kmeans.predict(X)


for i in range(X.shape[1]):

    X_reduced = np.delete(X, i, axis=1)

    reduced_clusters = kmeans.fit_predict(X_reduced)

    importance = 1 - adjusted_rand_score(original_clusters, reduced_clusters)
    print(f'{df.columns[i]}: {importance}')

age: 0.0
health status: 0.9995376368119572
absences: 0.0
G1: 0.0
G2: 0.6204069909514572
G3: 0.6204069909514572

Nu kör vi en övning!

Förklarbar AI i Python