Фільтрація даних за допомогою функції filter()

Ефективне програмування з pandas

Leonidas Souliotis

PhD Candidate

Призначення filter()

Обмежуйте результати за агрегованою ознакою

Кількість пропусків
Середнє певної ознаки
Кількість елементів у групі

Фільтрація через groupby().filter()

restaurant_grouped = restaurant.groupby('day')
filter_trans = lambda x : x['total_bill'].mean() > 20
restaurant_filtered = restaurant_grouped.filter(filter_trans)

Time using .filter() 0.00414085388184 sec

print(restaurant_filtered['tip'].mean())

3.11527607362

print(restaurant['tip'].mean())

2.9982786885245902

Порівняння з нативними методами

t=[restaurant.loc[df['day'] == i]['tip'] for i in restaurant['day'].unique() 
    if restaurant.loc[df['day'] == i]['total_bill'].mean()>20]
restaurant_filtered = t[0]
for j in t[1:]: 
    restaurant_filtered=restaurant_filtered.append(j,ignore_index=True)

Time using native Python: 0.00663900375366 sec

print(restaurant_filtered.mean())

3.11527607362

Difference in time: 60.329341317157024%

Давайте зробимо це!

Ефективне програмування з pandas