Описательная и выводная статистика

Анализ данных опросов на Python

EbunOluwa Andrew

Data Scientist

Описательная статистика

Базовые меры для описания данных опросов
Примеры: среднее, медиана, мода, размах, стандартное отклонение и др.
.describe()

Фото Lukas — диаграмма крупным планом

¹ Фото: Lukas

Функция .describe()

data.describe()

|      | year     | satisfaction_rating
|------|----------|--------------------
| count|       42 |                  42
| mean | 2012.381 |            7192.857
| std  |    4.196 |             945.178
| min  |     2006 |                5500
| 25%  |     2009 |                6325
| 50%  |   2012.5 |                7400
| 75%  |     2016 |                8000
| max  |     2019 |                8600

data.describe(include = np.object)

|        | category    |
|--------|-------------|
| count  | 42          |
| unique | 3           |
| top    | Residential |
| freq   | 14          |

Интерпретация .describe()

Выброс = максимальное значение > среднего и медианы
Неправдоподобные значения = логически невозможные значения

|       | year     | satisfaction_rating |
|-------|----------|---------------------|
| count |       42 |                  42 |
| mean  | 2012.381 |            7192.857 |
| std   |    4.196 |             945.178 |
| min   |     2006 |                5500 |
| 25%   |     2009 |                6325 |
| 50%   |   2012.5 |                7400 |
| 75%   |     2016 |                8000 |
| max   |     2019 |                8600 |

Интерпретация .describe()

Top = мода = наиболее часто встречающийся класс
Freq = количество вхождений наиболее частого класса

|        | category    |
|--------|-------------|
| count  | 42          |
| unique | 3           |
| top    | Residential |
| freq   | 14          |

.describe() для electric_satisfaction

import pandas as pd

electric_satisfaction = pd.read_csv("austin-energy-customer-satisfaction.csv")

.describe() для electric_satisfaction

electric_satisfaction.describe()

|      | year     | satisfaction_rating
|------|----------|--------------------
| count|       42 |                  42
| mean | 2012.381 |            7192.857
| std  |    4.196 |             945.178
| min  |     2006 |                5500
| 25%  |     2009 |                6325
| 50%  |   2012.5 |                7400
| 75%  |     2016 |                8000
| max  |     2019 |                8600

В satisfaction_rating есть выбросы
50-й перцентиль = медиана

.describe() для electric_satisfaction

|        | category    |
|--------|-------------|
| count  | 42          |
| unique | 3           |
| top    | Residential |
| freq   | 14          |

Мода = жилые потребители (Residential)

Выводная статистика

Определяет применимость данных к генеральной совокупности
Размер выборки < размера совокупности -> ошибка выборки
Оценка параметров совокупности
- Доверительные интервалы
  - Функция norm.interval()

Фото Andrea Piacquadio на Pexels — женщина с лампочкой

¹ Фото: Andrea Piacquadio на Pexels

Функция norm.interval()

Для больших наборов данных
Предполагается нормальное распределение выборочного среднего

import scipy.stats
scipy.stats.norm.interval(alpha, loc, scale)

alpha = уровень доверия
loc = среднее выборки
scale = стандартная ошибка выборки

Интерпретация norm.interval() для electric_satisfaction

electric_satisfaction = pd.read_csv(
  "austin-energy-customer-satisfaction.csv")

conf_interval = st.norm.interval(
  alpha = 0.99,
  loc = np.mean(electric_satisfaction.satisfaction),
  scale=st.sem(electric_satisfaction.satisfaction))


print(conf_interval)

(6817.187361704269, 7568.526924010017)

Давайте потренируемся!

Анализ данных опросов на Python