最优的 pandas 迭代

高效编写 Python 代码

Logan Thomas

Scientific Software Technical Trainer, Enthought

pandas 内部机制

  • 消除循环同样适用于 pandas
  • pandas 构建于 NumPy 之上
    • 利用 NumPy 数组的高效性

alt="pandas 库标志叠放在 NumPy 包标志上，再叠放在 Python 语言标志上；从 pandas 到 NumPy 画线并标注 Builds on，从 NumPy 到 Python 画线并标注 Builds on"

高效编写 Python 代码
print(baseball_df)

  Team League  Year   RS   RA   W    G  Playoffs
0  ARI     NL  2012  734  688  81  162         0
1  ATL     NL  2012  700  600  94  162         1
2  BAL     AL  2012  712  705  93  162         1
...

wins_np = baseball_df['W'].values

print(type(wins_np))

<class 'numpy.ndarray'>

print(wins_np)

[ 81  94  93 ...]
高效编写 Python 代码

向量化的威力

  • 广播（向量化）极其高效！
baseball_df['RS'].values - baseball_df['RA'].values

array([  46,  100,    7, ...,  188,  110, -117])
高效编写 Python 代码

用数组计算分差（RD）

run_diffs_np = baseball_df['RS'].values - baseball_df['RA'].values

baseball_df['RD'] = run_diffs_np
print(baseball_df)

     Team League  Year   RS   RA    W    G  Playoffs   RD
0     ARI     NL  2012  734  688   81  162         0   46
1     ATL     NL  2012  700  600   94  162         1  100
2     BAL     AL  2012  712  705   93  162         1    7
3     BOS     AL  2012  734  806   69  162         0  -72
4     CHC     NL  2012  613  759   61  162         0 -146
...
高效编写 Python 代码

方法对比

%%timeit
run_diffs_np = baseball_df['RS'].values - baseball_df['RA'].values

baseball_df['RD'] = run_diffs_np

124 µs ± 1.47 µs/次（7 次运行，10000 次循环，均值 ± 标准差）
高效编写 Python 代码

Passons à la pratique !

高效编写 Python 代码

Preparing Video For Download...