Распределения данных и преобразования

Практика вопросов интервью по машинному обучению на Python

Lisa Stuart

Data Scientist

Различные распределения

Распределения данных

1 https://www.researchgate.net/figure/Bias-Training-and-test-data-sets-are-drawn-from-different-distributions_fig22_330485084
Практика вопросов интервью по машинному обучению на Python

Разбивка на обучающую и тестовую выборки

train, test = train_test_split(X, y, test_size=0.3)

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3)

sns.pairplot() --> матрица распределений и диаграммы рассеяния

Практика вопросов интервью по машинному обучению на Python

Преобразование данных

Преобразование данных

1 https://www.researchgate.net/figure/Example-of-the-effect-of-a-log-transformation-on-the-distribution-of-the-dataset_fig20_308007227
Практика вопросов интервью по машинному обучению на Python
Преобразования Бокса–Кокса

scipy.stats.boxcox(data, lmbda= )

lmbda (p) $x^p$ преобразование
-2 $x^{-2} = 1/2$ обратный квадрат
-1 $x^{-1} = 1/x$ обратное
-0.5 $x^{-1/2} = 1/\sqrt{x}$ обратный квадратный корень
0.0 $\log{(x)}$ логарифм
0.5 $x^{1/2} = \sqrt{x}$ квадратный корень
1 $x^1 = x$ без преобразования
2 $x^2 = x$ квадрат
Практика вопросов интервью по машинному обучению на Python

Давайте потренируемся!

Практика вопросов интервью по машинному обучению на Python

Preparing Video For Download...