เมตริกสำหรับ AI ที่รับผิดชอบ

การจัดการข้อมูล AI อย่างรับผิดชอบ

Maria Prokofieva

Lead ML Engineer

วงจรชีวิตโปรเจกต์ AI

วงจรชีวิต

โปรเจกต์ AI ที่รับผิดชอบ

ถูกกฎหมาย
เป็นธรรมและหลากหลาย
กระบวนการโปร่งใส รับผิดชอบ และปลอดภัย

ความเป็นธรรมของโมเดล:

เป็นธรรม ไม่มีอคติ และให้ผลลัพธ์ที่เท่าเทียมสำหรับทุกคน

วงจรชีวิต

ลักษณะที่ได้รับการคุ้มครอง

กลุ่มที่มีแนวโน้มถูกปฏิบัติอย่างไม่เป็นธรรมและเผชิญการเลือกปฏิบัติ
กำหนดโดยลักษณะที่ได้รับการคุ้มครอง:
- เชื้อชาติ
- กลุ่มชาติพันธุ์
- เพศ
- ภูมิหลังทางเศรษฐกิจและสังคม

กลุ่มคน

การจัดหาข้อมูล

ผลลัพธ์ที่เท่าเทียม
ความเหลื่อมล้ำทางประชากร
กฎหมายและข้อบังคับ

คนกำลังตรวจสอบเอกสาร

AI ในการจดจำใบหน้า

ความแม่นยำสูง

BUT

ไม่สามารถระบุบางกลุ่มชาติพันธุ์หรือเพศได้

WHY...

ขาด:

ความพร้อมของข้อมูล
ความหลากหลาย
การเป็นตัวแทน

ใบหน้า

ผลลัพธ์ที่เท่าเทียมและความเหลื่อมล้ำทางประชากร

ผลลัพธ์ที่เท่าเทียม: ประโยชน์ที่ได้รับเท่ากันในทุกกลุ่ม

ความเหลื่อมล้ำทางประชากรตามเงื่อนไข: ความแตกต่างระหว่างกลุ่ม

ใช้สถิติเชิงพรรณนาและการกระจายข้อมูลเพื่อประเมินความหลากหลายของข้อมูล
มาตรการแก้ไข: การถ่วงน้ำหนักและการปรับสมดุล
ทบทวนหลังการสร้างโมเดล
บันทึกผลการทดสอบ

ความเท่าเทียม

การสร้างโมเดล

ประสิทธิภาพที่เท่าเทียม

ตัวอย่างเช่น การวินิจฉัยทางการแพทย์:

บางโรคพบบ่อยในกลุ่มที่ได้รับการคุ้มครอง

ประเมิน false negatives, false positives และความแม่นยำ
การอธิบายโมเดล:
- Local Interpretable Model-agnostic Explanation (LIME)
- Shapley Additive Explanation (SHAP)

เป้าที่มีการยิงพลาด

การนำไปใช้งานและการติดตาม

Model drift:
- ประสิทธิภาพของโมเดลที่เปลี่ยนแปลงไปตามเวลา

ติดตามการกระจายข้อมูล
เมตริกประสิทธิภาพเชิงเทคนิค
ปรับโมเดล
บันทึกข้อมูลไว้เสมอ!

การนำเมตริกไปใช้

ทำความเข้าใจลักษณะที่ได้รับการคุ้มครอง
มีเมตริกอื่นอีกมากมาย!
ปรึกษาผู้เชี่ยวชาญด้านกฎหมายและสาขาที่เกี่ยวข้องเสมอ
ตรวจสอบความเป็นส่วนตัวและความปลอดภัย

มิติข้อมูลที่รับผิดชอบ

มาฝึกกันเถอะ!

การจัดการข้อมูล AI อย่างรับผิดชอบ

Preparing Video For Download...