Příprava dat pro shlukovou analýzu

Cluster Analysis in Python

Shaumik Daityari

Business Analyst

Proč je třeba připravit data pro shlukování?

Proměnné mají nesrovnatelné jednotky (rozměry v cm, cena v $)
Proměnné se stejnými jednotkami mají velmi odlišné škály a rozptyly (výdaje na cereálie, cestování)
Surová data mohou způsobit zkreslení při shlukování
Shluky mohou být silně závislé na jedné proměnné
Řešení: normalizace jednotlivých proměnných

Normalizace dat

Normalizace: přeškálování dat na směrodatnou odchylku 1

x_new = x / std_dev(x)

from scipy.cluster.vq import whiten

data = [5, 1, 3, 3, 2, 3, 3, 8, 1, 2, 2, 3, 5]

scaled_data = whiten(data)
print(scaled_data)

[2.73, 0.55, 1.64, 1.64, 1.09, 1.64, 1.64, 4.36, 0.55, 1.09, 1.09, 1.64, 2.73]

Ukázka: normalizace dat

# Import plotting library
from matplotlib import pyplot as plt

# Initialize original, scaled data
plt.plot(data, 
         label="original")
plt.plot(scaled_data, 
         label="scaled")

# Show legend and display plot
plt.legend()
plt.show()

Následují praktická cvičení

Cluster Analysis in Python