เราจะจัดการกับอคติในข้อมูลอย่างไร?
จริยธรรมข้อมูลเบื้องต้น
Shalini Kurapati, PhD
Co-founder and CEO, Clearbox AI
อคติคืออะไร?
- แนวคิดแรกในจริยธรรมข้อมูล
- อคติ คือความลำเอียงต่อบุคคล กลุ่ม หรือแนวคิด — ไม่เป็นธรรม
- จริยธรรมข้อมูล — อคติในข้อมูล
- การแทนค่าน้อยเกิน มากเกิน หรือผิดพลาด
- ส่งผลเสียหากนำข้อมูลที่มีอคติไปใช้ตัดสินใจ
1 ไอคอนโดย noomtah จาก www.flaticon.com
ทุกที่ ทุกเวลา
อคติเฉพาะในข้อมูล
1 ไอคอนโดย Flowicon จาก www.flaticon.com
การแทนค่าเป็นสิ่งสำคัญ
- ขาดข้อมูลที่แทนกลุ่มประชากรได้ครบถ้วน
- การจดจำใบหน้า — ได้ผลดีขึ้นเมื่อสวมหน้ากากสีขาว
- ตั้งแต่เครื่องจ่ายสบู่ล้างมือไปจนถึงผลลัพธ์ด้านสุขภาพ
- แนะนำให้ดู: Coded Bias
1 https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms
ภาพสะท้อนของอคติในสังคม
- การศึกษาและข้อมูลทางการแพทย์ในอดีต ส่วนใหญ่เก็บจากผู้ชายผิวขาว
- เช่น อาการหัวใจวายในผู้ชายและผู้หญิงแตกต่างกัน
- หากใช้แอปวินิจฉัยที่อาศัยข้อมูลนี้ จะเกิดอะไรขึ้น?
1 https://womeningh.org/
ผลกระทบที่รุนแรง
- อาการหัวใจวาย — วินิจฉัยเป็นภาวะฉุกเฉินสำหรับผู้ชาย แต่เป็นอาการตื่นตระหนกสำหรับผู้หญิง
มีมากมายและยังเพิ่มขึ้นเรื่อยๆ!
1 CC BY, John Manoogian III (JM3)
ยอดของภูเขาน้ำแข็ง
- อคติเชิงสถิติเป็นเพียงยอดของภูเขาน้ำแข็ง
- อคติจากมนุษย์และระบบสังคม — ต้องอาศัยการเปลี่ยนแปลงทัศนคติและสังคม
- ทดสอบหาอคติ ป้องกันและลดผลกระทบ รวมถึงเปิดรับข้อเสนอแนะ
1 Schwartz, R. , Vassilev, A. , Greene, K. , Perine, L. , Burt, A. and Hall, P. (2022), Towards a Standard for Identifying and Managing Bias in Artificial Intelligence, National Institute of Standards and Technology
