더 많은 Pandas

R 사용자용 Python

Daniel Chen

Instructor

결측 데이터

NaN 결측값은 numpy에서 가져옴
np.NaN, np.NAN, np.nan은 모두 R의 NA와 동일
pd.isnull로 결측값 확인
- pd.notnull로 비결측값 확인
- pd.isnull은 pd.isna의 별칭

결측 데이터 처리

df

           name  treatment_a  treatment_b
0    John Smith          NaN            2
1      Jane Doe         16.0           11
2  Mary Johnson          3.0            1

a_mean = df['treatment_a'].mean()
a_mean

9.5

Fillna

df['a_fill'] = df['treatment_a'].fillna(a_mean)
df

           name  treatment_a  treatment_b  a_fill
0    John Smith          NaN            2     9.5
1      Jane Doe         16.0           11    16.0
2  Mary Johnson          3.0            1     3.0

더 많은 Pandas

사용자 정의 함수 적용
Groupby 연산
데이터 정리

사용자 함수 적용하기

내장 함수
사용자 정의 함수
apply 메서드
축(axis) 지정

R

df = data.frame('a' = c(1, 2, 3),
                'b' = c(4, 5, 6))
apply(df, 2, mean)

a b 
2 5

apply(df, 1, mean)

2.5 3.5 4.5

Python

import pandas as pd
df = pd.DataFrame({'A': [1, 2, 3],
                   'B':[4, 5, 6]})
df.apply(np.mean, axis=0)

A    2.0
B    5.0
dtype: float64

df.apply(np.mean, axis=1)

0    2.5
1    3.5
2    4.5
dtype: float64

Tidy 데이터

데이터 재구조화 및 정리
Hadley Wickham, Tidy Data 논문
- 각 행은 하나의 관측값
- 각 열은 하나의 변수
- 각 관측 단위 유형은 별도의 테이블 구성

Tidy Data 논문: http://vita.had.co.nz/papers/tidy-data.pdf

Tidy melt

df

           name  treatment_a  treatment_b
0    John Smith          NaN            2
1      Jane Doe         16.0           11
2  Mary Johnson          3.0            1

df_melt = pd.melt(df, id_vars='name')
df_melt

           name     variable  value
0    John Smith  treatment_a    NaN
1      Jane Doe  treatment_a   16.0
2  Mary Johnson  treatment_a    3.0
3    John Smith  treatment_b    2.0
...

Tidy pivot_table

df_melt_pivot = pd.pivot_table(df_melt,
                               index='name',
                               columns='variable',
                               values='value')
df_melt_pivot

variable      treatment_a  treatment_b
name                                  
Jane Doe             16.0         11.0
John Smith            NaN          2.0
Mary Johnson          3.0          1.0

인덱스 초기화

df_melt_pivot.reset_index()

variable          name  treatment_a  treatment_b
0             Jane Doe         16.0         11.0
1           John Smith          NaN          2.0
2         Mary Johnson          3.0          1.0

Groupby

groupby: 분할-적용-결합
데이터를 개별 파티션으로 분할
각 파티션에 함수 적용
결과 결합

Groupby 수행하기

           name     variable  value
0    John Smith  treatment_a    NaN
1      Jane Doe  treatment_a   16.0
2  Mary Johnson  treatment_a    3.0
3    John Smith  treatment_b    2.0
4      Jane Doe  treatment_b   11.0
5  Mary Johnson  treatment_b    1.0

df_melt.groupby('name')['value'].mean()

name
Jane Doe        13.5
John Smith       2.0
Mary Johnson     2.0
Name: value, dtype: float64

연습해 봅시다!

R 사용자용 Python