Сводные таблицы

Преобразование данных с помощью pandas

Maria Eugenia Inzaugarat

Data Scientist

Ограничения метода pivot

another_fifa.head()
                 name    variable  metric_system  imperial_system
0   Cristiano Ronaldo      weight             83           183.00
1            J. Oblak      weight             87           191.00
2   Cristiano Ronaldo      height            187             6.13
3     J. Oblak             height            188             6.16
4   Cristiano Ronaldo      height            187             6.14
another_fifa.pivot(index="name", columns="variable")
Traceback (most recent call last):
   ValueError: Index contains duplicate entries, cannot reshape
Преобразование данных с помощью pandas

Ограничения метода pivot

  • Универсальное преобразование данных
  • Пара индекс/столбец должна быть уникальной
  • Агрегация значений невозможна
Преобразование данных с помощью pandas

Сводная таблица

  • DataFrame со сводной статистикой, обобщающей данные более крупного DataFrame

 

DataFrame со сводной статистикой

Преобразование данных с помощью pandas

Сводная таблица

DataFrame в длинном формате

Преобразование данных с помощью pandas

Сводная таблица

Стрелка от длинного формата к широкому со сводной статистикой

 

Вызов pivot_table

Преобразование данных с помощью pandas

Сводная таблица

Длинный и сводный DataFrame с выделенными столбцами и индексами

 

Вызов pivot с аргументами index и columns

Преобразование данных с помощью pandas

Сводная таблица

Длинный и сводный DataFrame с выделенным столбцом и значениями

 

Вызов pivot с аргументами values и функцией агрегации

Преобразование данных с помощью pandas

Сводная таблица

another_fifa.pivot_table(index="name", columns="variable", aggfunc="mean")
                     metric_system     imperial_system       
         variable   height  weight     height   weight
             name                                                         
Cristiano Ronaldo      187      83      6.135    183.0
         J. Oblak      188      87      6.160    191.0
Преобразование данных с помощью pandas

Иерархические индексы

fifa_players.head(6)
      first     last   movement   overall  attacking
0    Lionel    Messi   shooting        92         70
1 Cristiano  Ronaldo   shooting        93         89
2    Lionel    Messi    passing        92         92
3 Cristiano  Ronaldo    passing        82         83
4    Lionel    Messi    passing        96         88
5 Cristiano  Ronaldo    passing        89         84
Преобразование данных с помощью pandas

Иерархические индексы

fifa_players.head(6)
      first     last   movement   overall  attacking
0    Lionel    Messi   shooting        92         70
1 Cristiano  Ronaldo   shooting        93         89
2    Lionel    Messi    passing        92         92
3 Cristiano  Ronaldo    passing        82         83
4    Lionel    Messi    passing        96         88
5 Cristiano  Ronaldo    passing        89         84
fifa_players.pivot_table(index=                 , columns="movement", values=                        , aggfunc=     )
Преобразование данных с помощью pandas

Иерархические индексы

fifa_players.head(6)
      first     last   movement   overall  attacking
0    Lionel    Messi   shooting        92         70
1 Cristiano  Ronaldo   shooting        93         89
2    Lionel    Messi    passing        92         92
3 Cristiano  Ronaldo    passing        82         83
4    Lionel    Messi    passing        96         88
5 Cristiano  Ronaldo    passing        89         84
fifa_players.pivot_table(index=["first", "last"], columns="movement", values=                        , aggfunc=     )
Преобразование данных с помощью pandas

Иерархические индексы

fifa_players.head(6)
      first     last   movement   overall  attacking
0    Lionel    Messi   shooting        92         70
1 Cristiano  Ronaldo   shooting        93         89
2    Lionel    Messi    passing        92         92
3 Cristiano  Ronaldo    passing        82         83
4    Lionel    Messi    passing        96         88
5 Cristiano  Ronaldo    passing        89         84
fifa_players.pivot_table(index=["first", "last"], columns="movement", values=["overall", "attacking"], aggfunc="max")
                           attacking           overall
          movement  passing shooting  passing shooting
    first     last                
Cristiano  Ronaldo       84       89       89       93
   Lionel    Messi       92       70       96       92
Преобразование данных с помощью pandas

Итоговые строки и столбцы

fifa_players.pivot_table(index=["first", "last"], columns="movement", aggfunc="count",             )
Преобразование данных с помощью pandas

Итоговые строки и столбцы

fifa_players.pivot_table(index=["first", "last"], columns="movement", aggfunc="count", margins=True)
                                attacking                  overall
          movement  passing shooting  All    passing shooting  All
    First     Last                
Cristiano  Ronaldo        2        1    3          2        1    3
   Lionel    Messi        2        1    3          2        1    3
      All                 4        2    6          4        2    6
Преобразование данных с помощью pandas

pivot или pivot_table?

 

В DataFrame есть несколько значений для одной пары индекс/столбец?

Нужен мультиндекс в результирующем DataFrame?

Нужна сводная статистика по большому DataFrame?

Да! Используйте .pivot_table()

Преобразование данных с помощью pandas

Давайте потренируемся!

Преобразование данных с помощью pandas

Preparing Video For Download...