Outliers

Analisando Dados de IoT em Python

Matthias Voppichler

IT Developer

Outliers

Por que outliers aparecem em conjuntos de dados:

Erro de medição
Manipulação
Eventos extremos

Outliers

temp_mean = data["temperature"].mean() 
temp_std = data["temperature"].std()

data["mean"] = temp_mean
data["upper_limit"] = temp_mean + (temp_std * 3)
data["lower_limit"] = temp_mean - (temp_std * 3) 

print(data.iloc[0]["upper_limit"])
print(data.iloc[0]["mean"])
print(data.iloc[0]["lower_limit"])

29.513933116002725
14.5345
-0.44493311600272456

Gráfico de outliers

data.plot()

Média e limites superior e inferior usando 3 * desvio padrão

Autocorrelação

from statsmodels.graphics import tsaplots

tsaplots.plot_acf(data['temperature'], lags=50)

Imagem com autocorrelação

Autocorrelação

from statsmodels.graphics import tsaplots

tsaplots.plot_acf(data['temperature'], lags=50)

Imagem com autocorrelação, com uma seta apontando para lag24

Vamos praticar!

Analisando Dados de IoT em Python