Описова та інференційна статистика

Аналіз опитувальних даних у Python

EbunOluwa Andrew

Data Scientist

Описова статистика

Базові міри для опису даних опитування
Приклади: середнє, медіана, мода, розмах, стандартне відхилення тощо
.describe()

Фото: Lukas — графік зблизька

¹ Фото: Lukas

Функція .describe()

data.describe()

|      | year     | satisfaction_rating
|------|----------|--------------------
| count|       42 |                  42
| mean | 2012.381 |            7192.857
| std  |    4.196 |             945.178
| min  |     2006 |                5500
| 25%  |     2009 |                6325
| 50%  |   2012.5 |                7400
| 75%  |     2016 |                8000
| max  |     2019 |                8600

data.describe(include = np.object)

|        | category    |
|--------|-------------|
| count  | 42          |
| unique | 3           |
| top    | Residential |
| freq   | 14          |

Тлумачення .describe()

Викид = максимальне значення > середнього та медіани
Малоймовірні значення = якщо значення нелогічні

|       | year     | satisfaction_rating |
|-------|----------|---------------------|
| count |       42 |                  42 |
| mean  | 2012.381 |            7192.857 |
| std   |    4.196 |             945.178 |
| min   |     2006 |                5500 |
| 25%   |     2009 |                6325 |
| 50%   |   2012.5 |                7400 |
| 75%   |     2016 |                8000 |
| max   |     2019 |                8600 |

Тлумачення .describe()

Top = мода = найчастотніший клас
Freq = скільки разів трапляється найчастотніший клас

|        | category    |
|--------|-------------|
| count  | 42          |
| unique | 3           |
| top    | Residential |
| freq   | 14          |

.describe() для electric_satisfaction

import pandas as pd

electric_satisfaction = pd.read_csv("austin-energy-customer-satisfaction.csv")

.describe() для electric_satisfaction

electric_satisfaction.describe()

|      | year     | satisfaction_rating
|------|----------|--------------------
| count|       42 |                  42
| mean | 2012.381 |            7192.857
| std  |    4.196 |             945.178
| min  |     2006 |                5500
| 25%  |     2009 |                6325
| 50%  |   2012.5 |                7400
| 75%  |     2016 |                8000
| max  |     2019 |                8600

satisfaction_rating має викиди
50-й перцентиль = медіана

.describe() для electric_satisfaction

|        | category    |
|--------|-------------|
| count  | 42          |
| unique | 3           |
| top    | Residential |
| freq   | 14          |

Мода = респонденти з категорії Residential

Інференційна статистика

Визначити, чи можна застосувати дані до більшої сукупності
Розмір вибірки < розміру сукупності → похибка вибірки
Оцінити параметри сукупності
- Довірчі інтервали
  - функція norm.interval()

Фото: Andrea Piacquadio на Pexels — жінка тримає лампочку

¹ Фото: Andrea Piacquadio на Pexels

Функція norm.interval()

Для великих наборів даних
Припускаємо, що вибірковий розподіл середнього є нормальним

import scipy.stats
scipy.stats.norm.interval(alpha, loc, scale)

alpha = рівень довіри
loc = вибіркове середнє
scale= стандартна похибка вибірки

Тлумачення norm.interval() для electric_satisfaction

electric_satisfaction = pd.read_csv(
  "austin-energy-customer-satisfaction.csv")

conf_interval = st.norm.interval(
  alpha = 0.99,
  loc = np.mean(electric_satisfaction.satisfaction),
  scale=st.sem(electric_satisfaction.satisfaction))


print(conf_interval)

(6817.187361704269, 7568.526924010017)

Давайте потренуємось!

Аналіз опитувальних даних у Python