Регрессионные модели

Практика статистических вопросов для собеседований на Python

Conor Dewey

Data Scientist, Squarespace

Начало работы

Диаграмма рассеяния с корреляцией

¹ Wikimedia

Допущения

Линейная зависимость
Нормальное распределение ошибок
Гомоскедастичность
Независимость наблюдений

Линейная регрессия

Линейная подгонка

¹ Wikipedia

Линейная регрессия

Формула линейной регрессии

Пример: линейная регрессия

from sklearn.linear_model import LinearRegression 
lm = LinearRegression()
lm.fit(X_train, y_train)

LinearRegression(copy_X=True, fit_intercept=True, 
                    n_jobs=None, normalize=False)

Пример: линейная регрессия

coef = lm.coef_
print(coef)

[0.79086669]

Логистическая регрессия

Визуализация логистической регрессии

¹ Wikimedia

Логистическая регрессия

Сигмоидная функция

Пример: логистическая регрессия

from sklearn.linear_model import LogisticRegression
clf = LogisticRegression(solver='lbfgs')
clf.fit(X_train, y_train)

LogisticRegression(C=1.0, class_weight=None, 
                   dual=False, fit_intercept=True, 
                   intercept_scaling=1,
                   max_iter=100, multi_class='warn',
                   n_jobs=None, penalty='l2',
                   random_state=None, solver='lbfgs',
                   tol=0.0001, verbose=0, 
                   warm_start=False)

Пример: логистическая регрессия

coefs = clf.coef_
print(coefs)

[[0.4015177  3.85056451]]

accuracy = clf.score(X_test, y_test)
print(accuracy)

0.8583333333333333

Итоги

Повторение
Допущения
Линейная регрессия
Логистическая регрессия

Подготовьтесь к собеседованию!

Практика статистических вопросов для собеседований на Python