Statistiques sommaires groupées

Manipulation de données en Julia

Katerina Zahradova

Instructor

Ce que nous savons maintenant

# Calculer le salaire minimum moyen
combine(wages, :effective_min_wage_2020_dollars => mean)

1x1 DataFrame
Row | effective_min_wage_2020_dollars_mean
    | Float64
____|_______________________
   1| 8.37093

Ce que nous savons maintenant

# Filtrer et calculer la moyenne
first(combine(filter(r -> r.region =="W", wages), :effective_min_wage_2020_dollars => mean))
first(combine(filter(r -> r.region =="S", wages), :effective_min_wage_2020_dollars => mean))
first(combine(filter(r -> r.region =="NE", wages), :effective_min_wage_2020_dollars => mean))

DataFrameRow (1 columns)
Row | effective_min_wage_2020_dollars_mean
    | Float64
____|_______________________
   1| 8.75413
...

Utiliser combine() et groupby()

# Regrouper par région
wages_by_region = groupby(wages, :region)

# Calculer la moyenne par groupe
combine(wages_by_region, :effective_min_wage_2020_dollars => mean)

4x2 DataFrame
Row region    effective_min_wage_2020_dollars_mean
    String    Float64
__________________________
1    S        8.15458
2    W        8.59119
3    NE       8.75413
4    MW       8.1514

Combiner combine() et groupby()

# Les utiliser ensemble
combine(groupby(wages, :region), :effective_min_wage_2020_dollars => mean)

4x2 DataFrame
Row region    effective_min_wage_2020_dollars_mean
    String    Float64
__________________________
1    S        8.15458
2    W        8.59119
3    NE       8.75413
4    MW       8.1514

Utiliser combine() et groupby()

# Renommer la colonne
combine(groupby(wages, :region), 
        :effective_min_wage_2020_dollars => mean => :average_min_wage_2020_dollars)

4x2 DataFrame
Row region    average_min_wage_2020_dollars
    String    Float64
__________________________
1    S        8.15458
2    W        8.59119
3    NE       8.75413
4    MW       8.1514

Plusieurs fonctions sur une colonne

# Appliquer plusieurs fonctions à une colonne
combine(groupby(wages, :region), 
                    :effective_min_wage_2020_dollars .=> [mean, median, maximum])

4x4 DataFrame
Row  region  effective_min_wage_2020_dollars_mean  ...
     String  Float64                               ...
____________________________________________________________________________________
1    S       8.15458                               ...
2    W       8.59119                               ...
3    NE      8.75413                               ...
4    MW      8.1514                                ...

Plusieurs fonctions sur une colonne

# Appliquer plusieurs fonctions à une colonne
combine(groupby(wages, :region), :effective_min_wage_2020_dollars .=> [mean, median] .=> [:average, :median])

4x2 DataFrame
Row region  average  median
    String  Float64  Float64
____________________________
1    S      8.15458  8.0
2    W      8.59119  8.34
...

# N'OUBLIEZ pas le point !
combine(groupby(wages, :region), :effective_min_wage_2020_dollars => [mean, median])

ArgumentError: Unrecognized column selector ...

Plusieurs colonnes avec une fonction

combine(groupby(wages, :region), [:state_min_wage, :federal_min_wage] .=> mean)

4x2 DataFrame
Row region  state_min_wage_mean  federal_min_wage_mean
    String  Float64              Float64
______________________________________________________
1   S       2.73128              4.35566
2    W       4.26638              4.35566
...

# N'OUBLIEZ pas le point
combine(groupby(wages, :region), [:state_min_wage, :federal_min_wage] => mean)

MethodError: objects of type ...

Plusieurs colonnes avec plusieurs fonctions

# Fonctions sous forme de matrice 1 ligne
combine(groupby(wages, :region), [:state_min, :federal_min] .=> [mean median])

Row region  state_min_mean  federal_min_mean  state_min_median  federal_min_median
_________________________________________________________________________________
1   S       2.73128         4.35566           2.0                4.25
...

# Fonctions sous forme de vecteur
combine(groupby(wages, :region), [:state_min, :federal_min] .=> [mean, median])

Row region  state_min_mean  federal_min_median 
______________________________________________
1   S       2.73128         4.25
...

Fonctions possibles

Fonctions possibles :

Fonctions statistiques usuelles comme sum(), mean(), minimum(), ...
Fonctions définies par l'utilisateur (diffusées)
Fonctions anonymes, englobées dans ByRow()
Fonctions spéciales de DataFrames : nrow, proprow, ...

Aide-mémoire

# Grouped DataFrame gdf
# 1 colonne + 1 fonction
combine(gdf, :c => f => :new_c)

# 1 colonne + 2+ fonctions
combine(gdf, :c .=> [f1, f2, ...] .=> [:new_c_f1, :new_c_f2, ...])

# 2+ colonnes + 1 fonction
combine(gdf, [:c1, :c2, ...] .=> f .=> [:new_c1_f, :new_c2_f, ...])

# 2+ colonnes + 2+ fonctions - toutes les combinaisons
combine(gdf, [:c1, :c2, ...] .=> [f1 f2 ...] .=> [:c1_f1, :c2_f1, ..., :c1_f2, ...])

# 2+ colonnes + 2+ fonctions - appariement
combine(gdf, [:c1, :c2, ...] .=> [f1, f2, ...] .=> [:new_c1_f1, :new_c2_f2, ...])

Passons à la pratique !

Manipulation de données en Julia