Дополнительные агрегатные функции

Разведочный анализ данных в SQL

Christina Maimone

Data Scientist

Корреляция

Диаграммы рассеяния с положительной и отрицательной корреляцией

Разведочный анализ данных в SQL

Функция корреляции

SELECT corr(assets, equity) 
  FROM fortune500;
       corr        
-------------------
 0.637710143588615
(1 row)
Разведочный анализ данных в SQL

Медиана

1 1 4 4 4 5 6 7 13 19 20 20 21 21 22
              ^
            median
        50th percentile

^                                  ^
0th percentile      100th percentile
Разведочный анализ данных в SQL

Функции перцентиля

SELECT percentile_disc(percentile) WITHIN GROUP (ORDER BY column_name)
  FROM table;

-- percentile between 0 and 1
  • Возвращает значение из столбца

 

SELECT percentile_cont(percentile) WITHIN GROUP (ORDER BY column_name)
  FROM table;
  • Интерполирует между значениями
Разведочный анализ данных в SQL

Примеры перцентилей

SELECT val
  FROM nums;
 val 
-----
   1
   3
   4
   5
(4 rows)
SELECT percentile_disc(.5) WITHIN GROUP (ORDER BY val),
       percentile_cont(.5) WITHIN GROUP (ORDER BY val)
  FROM nums;
 percentile_disc | percentile_cont 
-----------------+-----------------
               3 |             3.5
Разведочный анализ данных в SQL

Типичные проблемы

  • Коды ошибок
    • Примеры: 9, 99, -99
  • Коды пропущенных значений
    • NA, NaN, N/A, #N/A
    • 0 — пропуск или ноль?
  • Выбросы (экстремальные значения)
    • Слишком высокие или низкие?
    • Отрицательные значения?
  • Не совсем числа
    • Примеры: почтовые индексы, категории ответов в опросах
Разведочный анализ данных в SQL

Давайте потренируемся!

Разведочный анализ данных в SQL

Preparing Video For Download...