Подготовка данных для кластерного анализа

Кластерный анализ на Python

Shaumik Daityari

Business Analyst

Зачем готовить данные перед кластеризацией?

Переменные имеют несопоставимые единицы измерения (размеры товара в см, цена в $)
Переменные с одинаковыми единицами могут сильно различаться по масштабу и дисперсии (расходы на продукты, поездки)
Исходные данные могут вносить смещение при кластеризации
Кластеры могут определяться одной доминирующей переменной
Решение: нормализация отдельных переменных

Нормализация данных

Нормализация: приведение данных к стандартному отклонению равному 1

x_new = x / std_dev(x)

from scipy.cluster.vq import whiten

data = [5, 1, 3, 3, 2, 3, 3, 8, 1, 2, 2, 3, 5]

scaled_data = whiten(data)
print(scaled_data)

[2.73, 0.55, 1.64, 1.64, 1.09, 1.64, 1.64, 4.36, 0.55, 1.09, 1.09, 1.64, 2.73]

Пример: нормализация данных

# Import plotting library
from matplotlib import pyplot as plt

# Initialize original, scaled data
plt.plot(data, 
         label="original")
plt.plot(scaled_data, 
         label="scaled")

# Show legend and display plot
plt.legend()
plt.show()

Давайте потренируемся!

Кластерный анализ на Python