Transformacja zmiennych

Wprowadzenie do regresji z użyciem statsmodels w Pythonie

Maarten Van den Broeck

Content Developer at DataCamp

Zbiór danych: okoń

perch = fish[fish["species"] == "Perch"]
print(perch.head())

   species  mass_g  length_cm
55   Perch     5.9        7.5
56   Perch    32.0       12.5
57   Perch    40.0       13.8
58   Perch    51.5       15.0
59   Perch    70.0       15.7

Okoń europejski, _Perca fluviatilis_

To nie jest zależność liniowa

sns.regplot(x="length_cm",
            y="mass_g",
            data=perch,
            ci=None)

plt.show()

Wykres rozrzutu masy okoni w zależności od długości, z linią trendu. Okoń przybiera na masie szybciej niż liniowo wraz ze wzrostem długości, tworząc krzywą skierowaną w górę.

Leszcz vs. okoń

Leszcz pospolity. Leszcze są dość płaskie.

Okoń europejski. Okonie są dość okrągłe.

Masa vs. sześcian długości – wykres

perch["length_cm_cubed"] = perch["length_cm"] ** 3

sns.regplot(x="length_cm_cubed",
            y="mass_g",
            data=perch,
            ci=None)
plt.show()

Wykres rozrzutu masy okoni w zależności od sześcianu ich długości, z linią trendu. Po tej transformacji punkty leżą blisko linii trendu.

Masa vs. sześcian długości – model

perch["length_cm_cubed"] = perch["length_cm"] ** 3

mdl_perch = ols("mass_g ~ length_cm_cubed", data=perch).fit()
mdl_perch.params

Intercept         -0.117478
length_cm_cubed    0.016796
dtype: float64

Masa vs. sześcian długości – predykcja

explanatory_data = pd.DataFrame({"length_cm_cubed": np.arange(10, 41, 5) ** 3,
                                 "length_cm": np.arange(10, 41, 5)})

prediction_data = explanatory_data.assign(
  mass_g=mdl_perch.predict(explanatory_data))
print(prediction_data)

   length_cm_cubed  length_cm       mass_g
0             1000         10    16.678135
1             3375         15    56.567717
2             8000         20   134.247429
3            15625         25   262.313982
4            27000         30   453.364084
5            42875         35   719.994447
6            64000         40  1074.801781

Masa vs. sześcian długości – wykres

fig = plt.figure()
sns.regplot(x="length_cm_cubed", y="mass_g",
            data=perch, ci=None)
sns.scatterplot(data=prediction_data,
                x="length_cm_cubed", y="mass_g",
                color="red", marker="s")

Wykres rozrzutu masy okoni w zależności od sześcianu długości, z linią trendu i punktami z funkcji predict(). Punkty leżą dokładnie na linii trendu.

fig = plt.figure()
sns.regplot(x="length_cm", y="mass_g",
            data=perch, ci=None)
sns.scatterplot(data=prediction_data,
                x="length_cm", y="mass_g",
                color="red", marker="s")

Wykres rozrzutu masy okoni w zależności od długości, z linią trendu i punktami z funkcji predict(). Punkty nie leżą na linii trendu, ale podążają za krzywą danych.

Zbiór danych: reklamy na Facebooku

Jak działa reklama

Płacisz Facebookowi za wyświetlanie reklam.
Użytkownicy widzą reklamy ("wyświetlenia").
Niektórzy klikają reklamę.

936 wierszy
Każdy wiersz to 1 reklama

spent_usd	n_impressions	n_clicks
1.43	7350	1
1.82	17861	2
1.25	4259	1
1.29	4133	1
4.77	15615	3
...	...	...

Wykres jest ściśnięty

sns.regplot(x="spent_usd",
            y="n_impressions",
            data=ad_conversion,
            ci=None)

Wykres rozrzutu liczby wyświetleń w zależności od wydatków na reklamę, z linią trendu. Większość punktów skupia się w lewym dolnym rogu wykresu.

Pierwiastek vs. pierwiastek

ad_conversion["sqrt_spent_usd"] = np.sqrt(
  ad_conversion["spent_usd"])

ad_conversion["sqrt_n_impressions"] = np.sqrt(
  ad_conversion["n_impressions"])

sns.regplot(x="sqrt_spent_usd",
            y="sqrt_n_impressions",
            data=ad_conversion,
            ci=None)

Wykres rozrzutu pierwiastka kwadratowego liczby wyświetleń w zależności od pierwiastka kwadratowego wydatków na reklamę, z linią trendu. Punkty są teraz równomierniej rozmieszczone.

Modelowanie i predykcja

mdl_ad = ols("sqrt_n_impressions ~ sqrt_spent_usd", data=ad_conversion).fit()

explanatory_data = pd.DataFrame({"sqrt_spent_usd": np.sqrt(np.arange(0, 601, 100)),
                                 "spent_usd": np.arange(0, 601, 100)})

prediction_data = explanatory_data.assign(sqrt_n_impressions=mdl_ad.predict(explanatory_data),
                          n_impressions=mdl_ad.predict(explanatory_data) ** 2)
print(prediction_data)

   sqrt_spent_usd  spent_usd  sqrt_n_impressions  n_impressions
0        0.000000          0           15.319713   2.346936e+02
1       10.000000        100          597.736582   3.572890e+05
2       14.142136        200          838.981547   7.038900e+05
3       17.320508        300         1024.095320   1.048771e+06
4       20.000000        400         1180.153450   1.392762e+06
5       22.360680        500         1317.643422   1.736184e+06
6       24.494897        600         1441.943858   2.079202e+06

Czas na ćwiczenia!

Wprowadzenie do regresji z użyciem statsmodels w Pythonie