การลดอคติ

การจัดการข้อมูล AI อย่างรับผิดชอบ

Maria Prokofieva

Lead ML engineer

หัวข้อที่จะครอบคลุม

• กลยุทธ์ตลอดวงจรชีวิตโปรเจกต์
• การ re-sampling และ re-weighting
• การ re-labeling และการลบ sensitivity attribute
• Adversarial training และการปรับเทียบโมเดล
• พฤติกรรมของผู้ใช้
• Fairness constraints และการเลือกอัลกอริทึม
• ยังมีกลยุทธ์อื่น ๆ อีก

ทบทวนเรื่องอคติ

• ข้อผิดพลาดหรืออคติเชิงระบบ
• ผลลัพธ์ที่ไม่เป็นธรรมต่อกลุ่มหรือบุคคล

¹ ภาพโดย Streamline HQ

อคติในแต่ละช่วงของโปรเจกต์

• ในข้อมูลดิบ
• ในขั้นตอน pre-processing
• ในการสร้างโมเดล
• หลังการ deploy

อคติในขั้นตอน pre-processing

• Re-sampling
• Re-weighting
• Re-labeling
• การลบ sensitivity attribute

กลยุทธ์ใน pre-processing

• Re-sampling:
  • ปรับการกระจายข้อมูลให้แต่ละคลาสมีสัดส่วนสมดุล
• Re-weighting:
  • แก้อคติด้วย class weights โดยไม่เปลี่ยนขนาดชุดข้อมูล
• Re-labelling:
  • ปรับ label เพื่อให้ตัวแปรเป้าหมายแม่นยำขึ้น
• การลบ sensitivity attribute:
  • ตัด protected attribute ออก

อคติในการสร้างโมเดล

• อคติจากอัลกอริทึม
• Adversarial training
• Fairness constraints
• การเลือกอัลกอริทึมที่เรียบง่าย robust หรือ generalizable

ที่ปรึกษาทางการเงิน

• อคติจากความเหลื่อมล้ำทางเศรษฐกิจในแต่ละภูมิภาค
• ใช้ adversarial training เพื่อแก้ไขอคติ
• Decision tree และ regularized linear model

¹ ภาพโดย Streamline HQ

อคติหลังการ deploy และการใช้งาน

• ติดตามอคติเพื่อป้องกัน model drift
• การปรับเทียบโมเดล
• การใช้งานแอปพลิเคชันอย่างไม่เหมาะสม

¹ ภาพโดย Streamline HQ

ที่ปรึกษาทางการเงิน

Model drift:

• กลุ่ม freelance economy ที่ถูกนำเสนอน้อยเกินไป

การใช้งานที่ไม่ถูกต้อง:

• การอัปเดตข้อมูลทางการเงิน

¹ ภาพโดย Streamline HQ

มาฝึกกันเถอะ!

การจัดการข้อมูล AI อย่างรับผิดชอบ