Mesures de dispersion

Introduction à la statistique en Python

Maggie Matsui

Content Developer, DataCamp

Qu'est-ce que la dispersion ?

Deux histogrammes : l'un étroit avec des données sur peu de valeurs, l'autre plus large couvrant davantage de valeurs.

Introduction à la statistique en Python

Variance

Distance moyenne de chaque point de données à la moyenne

Un diagramme en points de 7 données avec une ligne rouge au centre représentant la moyenne.

Introduction à la statistique en Python

Variance

Distance moyenne de chaque point de données à la moyenne

Un diagramme en points de 7 données avec une ligne rouge au centre représentant la moyenne. Des flèches relient chaque point à la ligne de la moyenne.

Introduction à la statistique en Python

Calcul de la variance

1. Soustraire la moyenne de chaque point

dists = msleep['sleep_total'] - 
        np.mean(msleep['sleep_total'])
print(dists)

0     1.666265
1     6.566265
2     3.966265
3     4.466265
4    -6.433735
      ...

2. Mettre chaque distance au carré

sq_dists = dists ** 2
print(sq_dists)

0      2.776439
1     43.115837
2     15.731259
3     19.947524
4     41.392945
      ...
Introduction à la statistique en Python

Calcul de la variance

3. Additionner les carrés des distances

sum_sq_dists = np.sum(sq_dists)
print(sum_sq_dists)

1624.065542

4. Diviser par le nombre de points − 1

variance = sum_sq_dists / (83 - 1)
print(variance)

19.805677

Utiliser np.var()

np.var(msleep['sleep_total'], ddof=1)

19.805677

Sans ddof=1, la variance de population est calculée plutôt que la variance d'échantillon :

np.var(msleep['sleep_total'])

19.567055
Introduction à la statistique en Python

Écart type

np.sqrt(np.var(msleep['sleep_total'], ddof=1))

4.450357

np.std(msleep['sleep_total'], ddof=1)

4.450357
Introduction à la statistique en Python

Écart absolu moyen

dists = msleep['sleep_total'] - np.mean(msleep['sleep_total'])

np.mean(np.abs(dists))

3.566701

Écart type vs. écart absolu moyen

  • L'écart type met les distances au carré : les grandes distances sont plus pénalisées.
  • L'écart absolu moyen pèse chaque distance de façon égale.
  • Aucun n'est « meilleur » ; l'ET est simplement plus courant que l'EAM.
Introduction à la statistique en Python

Quantiles

np.quantile(msleep['sleep_total'], 0.5)

10.1

$$

                        quantile 0,5 = médiane

Quartiles :

np.quantile(msleep['sleep_total'], [0, 0.25, 0.5, 0.75, 1])

array([ 1.9 ,  7.85, 10.1 , 13.75, 19.9 ])
Introduction à la statistique en Python

Les boîtes à moustaches utilisent les quartiles

import matplotlib.pyplot as plt
plt.boxplot(msleep['sleep_total'])
plt.show()

sleep_total boxplot.png

Introduction à la statistique en Python

Quantiles avec np.linspace()

np.quantile(msleep['sleep_total'], [0, 0.2, 0.4, 0.6, 0.8, 1])

array([ 1.9 ,  6.24,  9.48, 11.14, 14.4 , 19.9 ])

 

np.linspace(start, stop, num)

np.quantile(msleep['sleep_total'], np.linspace(0, 1, 5))

array([ 1.9 ,  7.85, 10.1 , 13.75, 19.9 ])
Introduction à la statistique en Python

Écart interquartile (IQR)

Hauteur de la boîte dans un diagramme à moustaches

np.quantile(msleep['sleep_total'], 0.75) - np.quantile(msleep['sleep_total'], 0.25)

5.9

from scipy.stats import iqr
iqr(msleep['sleep_total'])

5.9
Introduction à la statistique en Python

Valeurs aberrantes

Valeur aberrante : point de données sensiblement différent des autres

Comment juger si l'écart est substantiel ? Un point est aberrant si :

  • $\text{donnée} < \text{Q1} - 1.5\times\text{IQR}$    ou
  • $\text{donnée} > \text{Q3} + 1.5\times\text{IQR}$
Introduction à la statistique en Python

Repérer les valeurs aberrantes

from scipy.stats import iqr
iqr = iqr(msleep['bodywt'])

lower_threshold = np.quantile(msleep['bodywt'], 0.25) - 1.5 * iqr
upper_threshold = np.quantile(msleep['bodywt'], 0.75) + 1.5 * iqr

msleep[(msleep['bodywt'] < lower_threshold) | (msleep['bodywt'] > upper_threshold)]

                    name   vore  sleep_total    bodywt
4                    Cow  herbi          4.0   600.000
20        Asian elephant  herbi          3.9  2547.000
22                 Horse  herbi          2.9   521.000
...
Introduction à la statistique en Python

Tout en une seule commande

msleep['bodywt'].describe()

count      83.000000
mean      166.136349
std       786.839732
min         0.005000
25%         0.174000
50%         1.670000
75%        41.750000
max      6654.000000
Name: bodywt, dtype: float64
Introduction à la statistique en Python

Passons à la pratique !

Introduction à la statistique en Python

Preparing Video For Download...