ความลำเอียงในอัลกอริทึม

การรับมือกับ Data Bias

Konstantinos Kattidis

Data Analytics Lead

AI และความลำเอียงในข้อมูล

AI มีกรณีการใช้งานหลากหลาย:

  • การแนะนำแบบเฉพาะบุคคล
  • การนำทางเส้นทาง

 

จะเกิดอะไรขึ้นหากอัลกอริทึมเกิดความลำเอียงต่อบางกลุ่ม เช่น เพศหรือเชื้อชาติ?

กรณีการใช้งาน AI

การรับมือกับ Data Bias

ความลำเอียงของอัลกอริทึม

ความลำเอียงของอัลกอริทึม

ความลำเอียงของอัลกอริทึมเกิดขึ้นเมื่ออัลกอริทึมสร้างข้อผิดพลาดที่เป็นระบบและเกิดซ้ำ ส่งผลให้เกิดผลลัพธ์ที่ไม่เป็นธรรมโดยเอื้อประโยชน์ให้กลุ่มใดกลุ่มหนึ่งมากกว่ากลุ่มอื่น

  • ครอบคลุมความลำเอียงหลายรูปแบบที่อาจเกิดขึ้นระหว่างการพัฒนาและการนำอัลกอริทึมไปใช้งาน
การรับมือกับ Data Bias

ความลำเอียงระหว่างการฝึกอัลกอริทึม

  • ความลำเอียงของอัลกอริทึมมักเริ่มต้นจากความลำเอียงในการเก็บข้อมูล
  • หากข้อมูลฝึกสอนไม่ครอบคลุมหรือมีความลำเอียง อัลกอริทึมอาจเรียนรู้และสืบทอดความลำเอียงเหล่านั้น
  • ตัวอย่าง: การขาดตัวแทนที่เพียงพอจากกลุ่มที่หลากหลายในอัลกอริทึมการจดจำใบหน้า

ความลำเอียงจากการเลือกตัวอย่าง

การรับมือกับ Data Bias

ความลำเอียงในการเลือกฟีเจอร์

ความลำเอียงในการเลือกฟีเจอร์

  • ความลำเอียงในการเลือกฟีเจอร์เกิดขึ้นเมื่อฟีเจอร์บางตัวถูกเลือกโดยใช้เกณฑ์ที่อาจนำไปสู่ผลลัพธ์ที่ไม่เป็นธรรมหรือเลือกปฏิบัติ
  • ฟีเจอร์เหล่านั้น เช่น เชื้อชาติ เพศ หรือลักษณะที่ได้รับการคุ้มครองอื่น ๆ
  • ตัวอย่าง: อัลกอริทึมสำหรับทำนายการอนุมัติสินเชื่ออาจสมมติว่ารายได้เป็นปัจจัยเดียวที่เกี่ยวข้อง
การรับมือกับ Data Bias

ความลำเอียงในการประเมิน

  • การใช้ชุดข้อมูลที่ไม่ครอบคลุมในช่วงทดสอบอัลกอริทึมอาจทำให้เกิดความลำเอียงในการประเมิน
  • ตัวอย่าง:
    • อัลกอริทึมแนะนำภาพยนตร์
    • ทดสอบประสิทธิภาพโดยใช้ภาพยนตร์เพียงแนวเดียว
    • ไม่ได้คำนึงว่าอาจทำงานได้ไม่ดีกับแนวอื่น เช่น โรแมนติกหรือตลก

ความลำเอียงในการประเมิน เมื่อทดสอบเพียงแนวภาพยนตร์เดียว

การรับมือกับ Data Bias

ความลำเอียงจากระบบอัตโนมัติ

การวินิจฉัย MRI ด้วยระบบอัตโนมัติ

แนวโน้มที่ผู้คนพึ่งพาระบบอัตโนมัติมากเกินไป

  • ตัวอย่าง:
    • ระบบวินิจฉัยทางการแพทย์ใช้วิเคราะห์ภาพทางการแพทย์ เช่น MRI
    • ความลำเอียงจากระบบอัตโนมัติเกิดขึ้นเมื่อเชื่อผลลัพธ์ของระบบโดยไม่ตรวจสอบหรือยืนยันผล
    • อาจนำไปสู่การวินิจฉัยที่ผิดพลาด
การรับมือกับ Data Bias

มาฝึกกันเถอะ!

การรับมือกับ Data Bias

Preparing Video For Download...