การตัดสินใจอัตโนมัติและการทำโปรไฟล์
ทำความเข้าใจ GDPR
Shalini Kurapati, CIPP/E
Co-founder and CEO, Clearbox AI
มาตรา 22
- พันธกรณีด้านความเป็นธรรมและการต่อต้านการเลือกปฏิบัติ
- มาตรา 22 — การตัดสินใจอัตโนมัติสำหรับบุคคล รวมถึงการทำโปรไฟล์
- สิทธิ์ในการให้มนุษย์เข้ามาดูแลและรับคำอธิบาย
1 Image source: flaticon.com
การทำโปรไฟล์
- วิเคราะห์และคาดการณ์พฤติกรรม ประมวลผลขนาดใหญ่ โดยใช้ AI/machine learning
- ระบุและเชื่อมโยงพฤติกรรมและคุณลักษณะ
- สร้างโปรไฟล์และคาดการณ์พฤติกรรมจากโปรไฟล์
- ตัวอย่าง:
- ความสำเร็จของการรักษา
- ความเสี่ยงในการกระทำผิดซ้ำ
1 Information Commissioner's Office
ข้อกังวลด้านจริยธรรมเกี่ยวกับการทำโปรไฟล์
- เผยแพร่หรือขยายความลำเอียง
- การออกแบบ ข้อมูล และความซับซ้อน/กล่องดำ
- การเลือกปฏิบัติทางเพศและเชื้อชาติ
1 Image source: bbc.com, propublica.com, and techcrunch.com
ตัวอย่างการทำโปรไฟล์ที่โด่งดัง
- ผู้ใช้ 320,000 คนทำแบบทดสอบบุคลิกภาพออนไลน์เพื่อ "การวิจัยทางวิชาการ"
- รวบรวมข้อมูลส่วนตัวของเพื่อนผู้ใช้ ครอบคลุมข้อมูลผู้ใช้สูงถึง 50 ล้านรายโดยไม่ได้รับความยินยอม
- สร้างโปรไฟล์บุคลิกภาพ/การเมือง และยิงโฆษณาเจาะกลุ่มผู้ที่มีแนวโน้มเปลี่ยนใจ
- ถูกนำไปใช้ในการเลือกตั้งหลายครั้งในสหรัฐฯ สหราชอาณาจักร และทั่วโลก
1 Image source: The Guardian
การตัดสินใจอัตโนมัติ
- การตัดสินใจโดยระบบอัตโนมัติโดยไม่มีมนุษย์เข้ามาเกี่ยวข้อง
- อาจมีหรือไม่มีการทำโปรไฟล์
- ใช้ข้อมูลได้ทุกประเภท เช่น แบบสำรวจ ตำแหน่ง โปรไฟล์
- ตัวอย่าง: การคัดกรอง CV อัตโนมัติ
1 ARTICLE 29 WORKING PARTY Guidelines on Automated individual decision-making and Profiling for the purposes of Regulation 2016/679
ตัวอย่างด้านธนาคาร
- การอนุมัติสินเชื่อที่อยู่อาศัยแบบอัตโนมัติ
- โดยทั่วไป AI ให้คำตอบแค่ใช่หรือไม่ใช่ จึงต้องการคำอธิบายและการตรวจสอบโดยมนุษย์
- กลไกสำหรับป้องกันความลำเอียง และแก้ไขปรับปรุงการตัดสินใจของ AI
