Przygotowanie danych do segmentacji

Uczenie maszynowe w marketingu w Pythonie

Karolis Urbonas

Head of Analytics & Science, Amazon

Założenia modeli

Zaczniemy od K-means
K-means działa najlepiej, gdy dane są 1) ~normalnie rozłożone (bez skośności) i 2) standaryzowane (średnia = 0, odchylenie standardowe = 1)
Drugi model — NMF — można stosować na surowych danych, zwłaszcza gdy macierz jest rzadka

Redukcja skośności za pomocą transformacji logarytmicznej

# First option - log transformation
wholesale_log = np.log(wholesale)

sns.pairplot(wholesale_log, diag_kind='kde')
plt.show()

Eksploracja danych po transformacji logarytmicznej

Pairplot po transformacji logarytmicznej

Redukcja skośności za pomocą transformacji Box-Cox

# Second option - Box-Cox transformation
from scipy import stats

def boxcox_df(x):
    x_boxcox, _ = stats.boxcox(x)
    return x_boxcox

wholesale_boxcox = wholesale.apply(boxcox_df, axis=0)

sns.pairplot(wholesale_boxcox, diag_kind='kde')
plt.show()

Eksploracja danych po transformacji Box-Cox

Pairplot Box-Cox

Skalowanie danych

Odejmij średnią kolumny od każdej wartości
Podziel każdą wartość przez odchylenie standardowe kolumny
Użyjemy modułu StandardScaler() z sklearn

from sklearn.preprocessing import StandardScaler
scaler = StandardScaler()

scaler.fit(wholesale_boxcox)
wholesale_scaled = scaler.transform(wholesale_boxcox)
wholesale_scaled_df = pd.DataFrame(data=wholesale_scaled,
                                   index=wholesale_boxcox.index,
                                   columns=wholesale_boxcox.columns)
wholesale_scaled_df.agg(['mean','std']).round()

      Fresh  Milk  Grocery  Frozen  Detergents_Paper  Delicassen
mean   -0.0   0.0      0.0     0.0              -0.0         0.0
std     1.0   1.0      1.0     1.0               1.0         1.0

Czas na ćwiczenia!

Uczenie maszynowe w marketingu w Pythonie