Statistici descriptive și inferențiale

Analiza datelor din sondaje în Python

EbunOluwa Andrew

Data Scientist

Statistici descriptive

Măsuri de bază pentru descrierea datelor din sondaje
Exemple: medie, mediană, modă, interval, deviație standard etc.
.describe()

Fotografie de Lukas - grafic în detaliu

¹ Photo by Lukas

Funcția .describe()

data.describe()

|      | year     | satisfaction_rating
|------|----------|--------------------
| count|       42 |                  42
| mean | 2012.381 |            7192.857
| std  |    4.196 |             945.178
| min  |     2006 |                5500
| 25%  |     2009 |                6325
| 50%  |   2012.5 |                7400
| 75%  |     2016 |                8000
| max  |     2019 |                8600

data.describe(include = np.object)

|        | category    |
|--------|-------------|
| count  | 42          |
| unique | 3           |
| top    | Residential |
| freq   | 14          |

Interpretarea .describe()

Valoare extremă = valoarea maximă > media și mediana
Valori improbabile = valori care nu sunt logice

|       | year     | satisfaction_rating |
|-------|----------|---------------------|
| count |       42 |                  42 |
| mean  | 2012.381 |            7192.857 |
| std   |    4.196 |             945.178 |
| min   |     2006 |                5500 |
| 25%   |     2009 |                6325 |
| 50%   |   2012.5 |                7400 |
| 75%   |     2016 |                8000 |
| max   |     2019 |                8600 |

Interpretarea .describe()

Top = modă = clasa cu frecvența cea mai mare
Freq = numărul de apariții ale clasei respective

|        | category    |
|--------|-------------|
| count  | 42          |
| unique | 3           |
| top    | Residential |
| freq   | 14          |

.describe() pe electric_satisfaction

import pandas as pd

electric_satisfaction = pd.read_csv("austin-energy-customer-satisfaction.csv")

.describe() pe electric_satisfaction

electric_satisfaction.describe()

|      | year     | satisfaction_rating
|------|----------|--------------------
| count|       42 |                  42
| mean | 2012.381 |            7192.857
| std  |    4.196 |             945.178
| min  |     2006 |                5500
| 25%  |     2009 |                6325
| 50%  |   2012.5 |                7400
| 75%  |     2016 |                8000
| max  |     2019 |                8600

satisfaction_rating conține valori extreme
Percentila 50 = mediană

.describe() pe electric_satisfaction

|        | category    |
|--------|-------------|
| count  | 42          |
| unique | 3           |
| top    | Residential |
| freq   | 14          |

Moda = respondenți rezidenți

Statistici inferențiale

Determină dacă datele pot fi aplicate unei populații mai mari
Dimensiunea eșantionului < dimensiunea populației -> eroare de eșantionare
Estimarea parametrilor populației
- Intervale de încredere
  - Funcția norm.interval()

Fotografie de Andrea Piacquadio pe Pexels - femeie ținând un bec

¹ Photo by Andrea Piacquadio on Pexels

Funcția norm.interval()

Pentru seturi mari de date
Se presupune că distribuția eșantionului mediei este normală

import scipy.stats
scipy.stats.norm.interval(alpha, loc, scale)

alpha = nivel de încredere
loc = media eșantionului
scale = eroarea standard a eșantionului

Interpretarea norm.interval() pe electric_satisfaction

electric_satisfaction = pd.read_csv(
  "austin-energy-customer-satisfaction.csv")

conf_interval = st.norm.interval(
  alpha = 0.99,
  loc = np.mean(electric_satisfaction.satisfaction),
  scale=st.sem(electric_satisfaction.satisfaction))


print(conf_interval)

(6817.187361704269, 7568.526924010017)

Să exersăm!

Analiza datelor din sondaje în Python