เมื่อใดและอย่างไรควรลบข้อมูลที่หายไป

การจัดการข้อมูลที่หายไปใน Python

Suraj Donthi

Deep Learning & Computer Vision Consultant

ประเภทของการลบข้อมูล

  1. Pairwise deletion
  2. Listwise deletion

หมายเหตุ: ใช้เมื่อค่าที่หายไปเป็นแบบ MCAR

การจัดการข้อมูลที่หายไปใน Python

Pairwise Deletion

DataFrame diabetes

Pairwise deletion สำหรับชุดข้อมูล diabetes 768 แถว × 9 คอลัมน์

diabetes['Glucose'].mean()
121.687
diabetes.count()
763
diabetes['Glucose'].sum() / 
       diabetes['Glucose'].count()
121.687
การจัดการข้อมูลที่หายไปใน Python

Listwise Deletion หรือ Complete Case

DataFrame diabetes

Listwise deletion สำหรับชุดข้อมูล diabetes 768 แถว × 9 คอลัมน์

diabetes.dropna(subset=['Glucose'], 
                       how='any', 
                       inplace=True)
การจัดการข้อมูลที่หายไปใน Python

การลบข้อมูลใน DataFrame diabetes

msno.matrix(diabetes)

diabetes['Glucose'].isnull().sum()
5

กราฟ missingness matrix ของชุดข้อมูล diabetes

การจัดการข้อมูลที่หายไปใน Python

การลบข้อมูลใน DataFrame diabetes

diabetes.dropna(subset=["Glucose"], how='any', inplace=True)
msno.matrix(diabetes)

กราฟ missingness matrix ของชุดข้อมูล diabetes หลังลบค่า Glucose

การจัดการข้อมูลที่หายไปใน Python

การลบข้อมูลใน DataFrame diabetes

diabetes['BMI'].isnull().sum()
11
diabetes.dropna(subset=["BMI"], how='any', inplace=True)
msno.matrix(diabetes)

กราฟ missingness matrix ของชุดข้อมูล diabetes หลังลบค่า Glucose และ BMI

การจัดการข้อมูลที่หายไปใน Python

สรุป

  • Pairwise deletion
  • Listwise deletion
  • ใช้การลบข้อมูลเฉพาะเมื่อค่าที่หายไปเป็นแบบ MCAR
การจัดการข้อมูลที่หายไปใน Python

มาฝึกกันเถอะ!

การจัดการข้อมูลที่หายไปใน Python

Preparing Video For Download...