Работа с пропущенными данными

Преобразование данных с помощью pandas

Maria Eugenia Inzaugarat

Data Scientist

Повторение

  • Преобразование DataFrames с помощью stack и unstack:
    • Все уровни индекса столбцов
    • Уровень индекса строк
    • Выбор уровней для stack и unstack
Преобразование данных с помощью pandas

Unstack и пропущенные значения

Подгруппы имеют разные наборы меток

animals
                                jump  run  fly
class    order         name                   
Mammalia carnivora     dog        No  Yes   No
         Diprotodontia Kangaroo  Yes   No   No
Aves     hervibora     bird       No   No  Yes
Преобразование данных с помощью pandas

Unstack и пропущенные значения

Подгруппы имеют разные наборы меток

animals
                                jump  run  fly
class    order         name                   
   Mammalia carnivora     dog        No  Yes   No <--
         Diprotodontia Kangaroo  Yes   No   No
Aves     hervibora     bird       No   No  Yes
Преобразование данных с помощью pandas

Unstack и пропущенные значения

Подгруппы имеют разные наборы меток

animals.unstack(level='class')
                                 jump            run           fly         
        clas             Aves Mammalia Aves Mammalia Aves Mammalia
        order       name                                              
  Diprotodontia Kangaroo  NaN      Yes  NaN       No  NaN       No
      carnivora      Dog  NaN       No  NaN      Yes  NaN       No
Charadriiformes   Avocet   No      NaN   No      NaN  Yes      NaN
Преобразование данных с помощью pandas

Unstack и пропущенные значения

Подгруппы имеют разные наборы меток

animals.unstack(level='class')
                                 jump            run           fly         
        clas             Aves Mammalia Aves Mammalia Aves Mammalia
        order       name                                              
  Diprotodontia Kangaroo  NaN      Yes  NaN       No  NaN       No
  -----------------------------
      carnivora      Dog  NaN <--  No   NaN      Yes  NaN       No
  -----------------------------
Charadriiformes   Avocet   No      NaN   No      NaN  Yes      NaN
Преобразование данных с помощью pandas

Обработка NaN с помощью unstack

animals.unstack(level='class', fill_value=    )
Преобразование данных с помощью pandas

Обработка NaN с помощью unstack

animals.unstack(level='class', fill_value='No')
Преобразование данных с помощью pandas

Обработка NaN с помощью unstack

animals.unstack(level='class', fill_value='No').sort_index(level=['order', 'name'], ascending=[True, False])
                                 jump            run           fly         
        clas             Aves Mammalia Aves Mammalia Aves Mammalia
        order       name                                              
  Diprotodontia Kangaroo   No      Yes   No       No   No       No
      carnivora      Dog   No       No   No      Yes   No       No
Charadriiformes   Avocet   No       No   No       No  Yes       No
Преобразование данных с помощью pandas

Stack и пропущенные значения

Некоторые комбинации значений индекса и столбцов отсутствуют в исходном DataFrame

flowers
     petals Stigma
     number   size
rose     40    NaN
Lily      8      5
Преобразование данных с помощью pandas

Stack и пропущенные значения

Некоторые комбинации значений индекса и столбцов отсутствуют в исходном DataFrame

flowers.stack()
            Stigma  petals
rose number    NaN    40.0
Lily number    NaN     8.0
       size      5     NaN
Преобразование данных с помощью pandas

Stack и пропущенные значения

Некоторые комбинации значений индекса и столбцов отсутствуют в исходном DataFrame

flowers.stack(dropna=True)
            Stigma  petals
rose number    NaN    40.0
Lily number    NaN     8.0
       size      5     NaN
Преобразование данных с помощью pandas

Stack и пропущенные значения

Некоторые комбинации значений индекса и столбцов отсутствуют в исходном DataFrame

flowers.stack(dropna=False)
            Stigma  petals
rose number    NaN    40.0
         size    NaN     NaN <--
Lily number    NaN     8.0
       size      5     NaN
Преобразование данных с помощью pandas

Обработка NaN с помощью stack

flowers.stack(dropna=False).fillna(0)
            Stigma  petals
rose number      0    40.0
       size      0       0
Lily number      0     8.0
       size      5       0
Преобразование данных с помощью pandas

Давайте потренируемся!

Преобразование данных с помощью pandas

Preparing Video For Download...