Centering and scaling

scikit-learn के साथ Supervised Learning

George Boorman

Core Curriculum Manager

हम डेटा को स्केल क्यों करें?

print(music_df[["duration_ms", "loudness", "speechiness"]].describe())

         duration_ms     loudness       speechiness
count    1.000000e+03    1000.000000    1000.000000
mean     2.176493e+05    -8.284354      0.078642
std      1.137703e+05    5.065447       0.088291
min      -1.000000e+00   -38.718000     0.023400
25%      1.831070e+05    -9.658500      0.033700
50%      2.176493e+05    -7.033500      0.045000
75%      2.564468e+05    -5.034000      0.078642
max      1.617333e+06    -0.883000      0.710000

हम डेटा को स्केल क्यों करें?

कई मॉडल निर्णय के लिए किसी न किसी दूरी माप का उपयोग करते हैं
बड़े स्केल वाले फीचर मॉडल को असंगत रूप से प्रभावित कर सकते हैं
उदाहरण: KNN भविष्यवाणी में दूरी को सीधे उपयोग करता है
हम चाहते हैं कि फीचर समान स्केल पर हों
Normalizing या standardizing (scaling और centering)

डेटा को स्केल कैसे करें

mean घटाएँ और variance से भाग दें
- सभी फीचर zero के आसपास center होंगे और variance 1 होगा
- इसे standardization कहते हैं
minimum घटाकर range से भाग भी दे सकते हैं
- minimum 0 और maximum 1
normalize करके डेटा को -1 से +1 तक भी ला सकते हैं
और विवरण के लिए scikit-learn docs देखें

scikit-learn में स्केलिंग

from sklearn.preprocessing import StandardScaler

X = music_df.drop("genre", axis=1).values
y = music_df["genre"].values

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, 
                                                    random_state=42)

scaler = StandardScaler()

X_train_scaled = scaler.fit_transform(X_train)

X_test_scaled = scaler.transform(X_test)

print(np.mean(X), np.std(X))
print(np.mean(X_train_scaled), np.std(X_train_scaled))

19801.42536120538, 71343.52910125865
2.260817795600319e-17, 1.0

पाइपलाइन में स्केलिंग

steps = [('scaler', StandardScaler()),
         ('knn', KNeighborsClassifier(n_neighbors=6))]
pipeline = Pipeline(steps)

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, 
                                                    random_state=21)

knn_scaled = pipeline.fit(X_train, y_train)

y_pred = knn_scaled.predict(X_test)

print(knn_scaled.score(X_test, y_test))

0.81

अनस्केल्ड डेटा पर प्रदर्शन की तुलना

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, 
                                                    random_state=21)
knn_unscaled = KNeighborsClassifier(n_neighbors=6).fit(X_train, y_train)
print(knn_unscaled.score(X_test, y_test))

0.53

CV और स्केलिंग को पाइपलाइन में जोड़ना

from sklearn.model_selection import GridSearchCV
steps = [('scaler', StandardScaler()),
         ('knn', KNeighborsClassifier())]
pipeline = Pipeline(steps)

parameters = {"knn__n_neighbors": np.arange(1, 50)}

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, 
                                                    random_state=21)

cv = GridSearchCV(pipeline, param_grid=parameters)

cv.fit(X_train, y_train)

y_pred = cv.predict(X_test)

मॉडल पैरामीटर जाँचना

print(cv.best_score_)

0.8199999999999999

print(cv.best_params_)

{'knn__n_neighbors': 12}

अभ्यास करते हैं!

scikit-learn के साथ Supervised Learning