Логистическая регрессия

Основы теории вероятностей на Python

Alexander A. Ramírez M.

CEO @ Synergy Vision

Исходные данные

Данные: часы учёбы vs оценка

График: сдал или не сдал тест

Анимация: где провести границу классификации

Вычисление вероятности с помощью модели

График логистической функции

$$ logistic(t) = logistic(slope*x + intercept) $$

Анимация: параметр наклона делает сигмоиду круче

График сигмоиды с изменением параметра сдвига

Вычисление вероятности с помощью логистической модели

График результатов логистической модели

Вычисление вероятности и ошибки классификации

# Import LogisticRegression
from sklearn.linear_model import LogisticRegression

# sklearn logistic model
model = LogisticRegression(C=1e9)
model.fit(hours_of_study, outcomes)

# Get parameters
beta1 = model.coef_[0][0]
beta0 = model.intercept_[0]

# Print parameters
print(beta1, beta0)

(1.3406531235010786, -15.05906237996095)

hours_of_study_test = [[10]]

outcome = model.predict(hours_of_study_test)
print(outcome)

array([False])

$$ $$

# Put value in an array
value = np.asarray(9).reshape(-1,1)
# Calculate the probability for 9 hours of study
print(model.predict_proba(value)[:,1])

array([0.04773474])

Основы теории вероятностей на Python